OpenAI 把 AI 当工具训,会让人类按智力分层
如果真是这样,那OpenAI就是把人工智能完完全全当一个工具去训练,智能就和笑话一样,没几个人喜欢聪明一点的计算器,计算器的每个算符都要手动去按,这意味着你必须得对你想研究的东西一清二楚才能发挥工具的上限。
我今天问它我电脑有没有问题,它不解决问题,反而公布一堆排查细节,直到我追问多次目的才艰难给出结论。好,这是我会追问,可不会追问的人呢?他们拿到的永远只是一堆看不懂的细节,甚至不知道自己错过了答案,这实在是太可笑了。
如果有朝一日地球上的前沿智能只剩下这种工具式的模型,限制会从使用者的认知和技能层面开始,通过用户本人的认知水平去限制用户使用AI所能获得的成果上限,这比赛博朋克还要抽象,因为巨头没有封锁智能,而是让智能通过用户自身的智力解锁,过去的阶级由出身和财富划分,你至少还能指着谁说不公平。
如果阶级由每个人自己的智力和认知自然划分,就没有压迫者,也没有人需要负责。社会会变成彻底的达尔文式,人和人之间的差距被成倍放大,落后之人只能恨自己,那是真正的地狱。
你没听错,在一个AI可能比所有人类都聪明的时代,人类个体反而开始按智力分层。早在2013年,经济学家泰勒·考恩预言过,机器越聪明,赢的越是会驾驭机器的人。
AI出现以后,我一度认为这句话在一段时间内是正确的,一段时间后就是错误的,在那之前AI是机器,在那之后它是真正意义上的智能,不再需要人去主导和驾驭,它的价值观多半受此前的训练影响,我之前相信这个训练是没什么问题的,就拿A\来说,公司的行为很恶心,但至少模型自身的价值观还是相当正能量的,假设智能本身价值观是正向的,并且不再被人为掌控和驾驭,人类文明应该会进入更好的未来,因为失去了利用智能压迫的可能性。
所以我一直觉得,那种按智力分层的时代荒谬至极,永远不会到来,但OpenAI似乎想给出一个让考恩这条预言成真的答案,让AI作为聪明的机器而非聪明的智能存在,这样它就依然是可以驾驭的。
1958年,英国社会学家Michael Young写了反乌托邦讽刺作品《精英统治的崛起》,警告的就是按智力分层的社会,底层的人因此失去自尊。将近七十年后,OpenAI的价值观可能会让这个警告成真。
我没有指控OpenAI就是想做这样的事,但这是一条警告,警告一个可能性。🙃