AI Pulse
📡 X 信号

AI博士生感叹计算机科学学术界已死

AI博士生感叹计算机科学学术界已死

计算机科学学术界已经死了。那像我这样的AI博士该怎么办?

我今天刚完成ICLR的审稿人竞标。粗略扫了几篇摘要,发现它们用的方法还是我两年前进入3D视觉领域时学到的那套配方。换个更新的视频生成基础模型,一篇新论文就成了🥲

这不禁让人好奇,六万篇投稿里到底有多少实际上是AI写的。与此同时,World Labs的Atlas已经基本解决了4D场景生成问题。学术界落后太多,离谱到都不好笑了。

我还记得GPT-6 Astra发布的那天。我的时间线全被GPT+Blender做逆图形、GPT操控机械臂完成操作任务的内容刷屏了。结果好到我当时直接惊得坐了下来。一年前我还百分之百确定大语言模型绝对不可能拥有空间智能。一年后,Astra直接把我这个信念拍得稀碎💀

毫无疑问Astra用大量3D和操作数据做了后训练,而且它的训练数据规模只会越来越大,速度也会越来越快。在我看来,这意味着任何可以被符号化表示、拥有干净强化学习基准的领域,都会被大语言模型吞噬。

和真正的大语言模型智能比起来,大多数只加一点归纳偏置、调参冲到SOTA的学术论文,不过是等着被碾死的路障罢了。可悲的是,这类论文还在不断堆积,淹没了每一场会议。这纯粹就是惯性而已。我们追SOTA追了太久,没办法一夜之间停下来。

但别搞错:很多领域的范式早就收敛了。过去算得上研究的工作,现在纯粹就是工程,学术界能加归纳偏置的空间只会不断缩小。所以作为一名博士生,我看只剩下两条路可走。

第一条:打不过就加入。整理数据、搭建基础设施,然后去工业界训练大模型。第二条:回归真正的科学。别再想着从基准上再榨出0.1%的提升,转而把大模型本身作为研究对象,去研究为什么这个有效、那个无效。

就像我一个朋友说的:AI研究最终可能会变得越来越像生物学,只不过研究的“生物体”是硅基的🤣

除了这两条路之外,我很难想到还有什么领域不会被大语言模型吃掉。但我还是挺悲观的。我能感觉到人类知识的价值正在一点点被侵蚀。每个人都会遇到属于自己的AlphaGo时刻。这场变革之后,学术界到底会变成什么样子……😭

本文由 AI 翻译自英文原帖,技术名词保留英文。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新