前OpenAI主管称两年后人类不再参与AI研究

完整访谈：Jerry Tworek 说，现在 AI 研究者们私下都会互相说，自己只剩下没几天工作时间了，所以趁还能工作就赶紧干。

他认为，再过两年，人类就不再是 AI 研究中有意义的组成部分了。@MillionInt 曾在 @OpenAI 工作7年，领导了 o1 和 o3 项目，还打造了初代 Codex。

他今年1月离职创立了 @CoreAutoAI，随后加入 @theojaffee 和 @schisofrenia，提出了他反对 transformer 的反向押注：

01:18 第三代 AI 实验室

03:43 为什么智能体负责执行，而人类仍负责产生洞见

06:42 再过两年，人类在 AI 研究中就会退化成冗余存在

09:09 为什么创意写作落后于代码能力，而且这不是一个研究问题

11:08 如果你不是算力规模最大的实验室，你就会死

11:20 原本大约有10家公司有机会占据 Anthropic 现在的位置

13:16 他最反主流的论点，以及为什么他不只是训练 transformers

15:31 transformer 到底哪里出了问题

17:23 在 OpenAI 的七年，尝试了三四次开发新架构

19:30 我们所有人都是“新云”，都只是在底层之上做增值

22:38 为什么 Hugging Face 模型表现不好

23:49 过去的对齐问题，以及它们实际解决得有多好

27:42 为什么他为 OpenAI 处理 4o 的方式感到骄傲

29:02 全世界只有30到50人能从头到尾理解前沿模型

32:09 为什么自动化应该从最大型的公司开始

36:00 希腊哲学还是高中

37:31 Ilya 2019年的全员大会，以及最终被证明是正确的路线图

40:30 Jakub 把 GPU 交给他的那个时刻

42:32 公司本身就是产品