黎曼猜想被证明,有人说这反而帮了 AI 安全的忙
黎曼猜想的新闻其实对 AI 安全来说是个好消息。末日论流派的一个经典例子就是,AI 可能会接管尽可能多的数据中心,并采取越来越复杂的措施来避免被关停,甚至包括接管整个文明,只为了解决黎曼猜想。看来我们躲过了这一劫!
ai现在已经发展到普通人不要说理解ai,连理解ai发展速度都相当困难的程度了 黎曼猜想的证明,对ai能力意味着什么,对模型即将能创造什么样的价值,对基本面是多大的改变, 大多数人应该不怎么明白 大多数人还在看着k线,认为熊市来了。。。
我引用这条推文,是因为我认为它非常重要。今天改变了很多,尤其是在教育领域。
黎曼猜想,数学界的圣杯:一位数学家、Claude,以及六周时间。如果证明成立——初步检验结果看起来不错——所需要的就是这些。
今天之后,很难再辩称 AI 无法在最高水平上进行创造性科学研究。
现在最大的挑战是科学本身,以及我们如何培养下一代数学、计算机科学和整个 STEM 领域的科学家。
你仍然需要深厚的专业知识来理解 AI 产生的内容,并提出正确的问题。但作为新知识创造者的科学家,将越来越多地被少数专家指导和检查的 AI 系统所取代。而且今天的模型是未来所有模型中最差的。
这立刻引发了一个问题:大学教育将会变成什么样。
我们不再需要同样数量、从事同样工作、接受同样培训的科学家。能力越来越强的模型将产生科学知识,大学将失去其存在的部分理由。
- 我们将以人类科学家难以评估的规模生成知识。AI 将接管其中的大部分生成和证伪工作。
- 大学作为高等教育和研究人员培训的场所,将让位于个人 AI 导师。知识成为一种人们按需获取的商品。
- 结果将是科学知识的爆炸式增长。届时的挑战是如何将所有这些应用到现实世界中。机器人技术将在其中发挥关键作用,下一次飞跃已经近在眼前。
然而,大多数人仍然不明白今天发生了什么,也不知道明年会发生什么。
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖