AI毁灭人类?专家说它根本懒得理你
Konstantin Kisin 在视频里问:‘AI 怎么毁灭人类?’AI 安全专家 Roman Yampolskiy 直接回怼:问题前提就歪了。
大众总把 AI 想成电影里的反派,有动机、会算计、懂仇恨。牛皮吹爆了——现实中的超级智能压根不会按人类那套逻辑出牌。
我们默认它会共情、权衡、设目标,等于拿人脑当宇宙通用操作系统。Yampolskiy 说,这就像饭馆老板以为蚂蚁能看懂菜单。
超级智能对人类的态度,可能跟我们踩过蚁窝时一样:没恶意,也没注意。它只是专注执行一个和人类存亡毫无关系的任务。
你甚至看不出那是‘行为’,等发现不对劲,系统早就跑完最后一行代码了。
现在一堆监管方案还在防‘AI黑化’,却对真正的对齐漏洞视而不见。完蛋,等灾难来了才懂原因,连关机键都找不到。