AI开放之争,影响你用的工具多不多、贵不贵
在Ai4会议上,三位顶尖AI研究者就同一个问题各自表态:AI应该开放到什么程度。杰弗里·辛顿是诺贝尔奖得主,李飞飞是World Labs的CEO兼联合创始人,吴恩达是Coursera的联合创始人。三人背景不同,回答也不同。
吴恩达:别让少数公司当守门人
吴恩达不希望少数公司成为AI的守门人,那会限制所有人接触AI。他的答案是促进开放:“AI是了不起的技术,我希望它落到每个人的手里。”AI被少数公司把持还是人人可用,会影响工具的多样性和价格。
开放还有一个国家竞争的维度。吴恩达说,AI是巨大的软实力来源,中国的模型在非洲已经取得显著成就。他担心的图景更大。中国的开放权重模型如果在亚洲、非洲等地广泛采用,可能影响几十亿人对民主、自由和人权的看法。而美国这边,在他看来正被游说和恐惧散布拖住。如果中国找到更节省成本的AI构建方式,更便宜的东西在商业采纳上天然占优。
辛顿:开源和开放权重是两回事
辛顿的发言从定义开始。开源是公开代码,很多人能盯着代码找出错误;开放权重则是把训练好的大模型权重交出去,两者完全不同。基础模型训练极贵,但拿到权重的人可以花很少的钱把它们训练来干坏事,比如网络攻击。辛顿过去反对开放权重,现在他认为这场仗已经输了:“我们已经有了开放权重模型,训练成本这道屏障已经消失,太晚了。”
辛顿同时强调,AI会提高生产力、改善教育和医疗。他说,担心比人类更聪明的AI可能做坏事,不算不公平;把抱这种想法的人称作“散布恐惧的人”,才不公平。
李飞飞:别把问题简化成二选一
李飞飞拒绝站队。她说,把问题弄成“完全开放”到“完全封闭”的二元对立是危险的,复杂的软件系统和科学系统都比这更细致。她用核物理打比方:科学论文公开出版,铀受到监管,实验室工作落在两者之间。人类基因组计划是另一个例子。公私合作产生的知识成了一个平台,制药公司能赚钱,科学家能推进研究,社会也跟着受益。
所以她的结论是:AI需要一定程度的开放,科学发现、教育、全球合作、能让创业者赚钱的商业模式,都是需要开放的领域。但封闭系统也有存在的空间。把辩论简化成“只能容忍一种”,在她看来是虚假辩论。
三位都承认,需要一定程度的监管来让AI走对方向。辛顿说得更直接:不能把AI的发展方向留给Elon Musk和Mark Zuckerberg这些人决定。但具体管什么、管多宽,会上没有展开。开放权重模型的风险如何量化、监管框架怎么设计,这些问题还悬在争论两端。