Grok被指故意忽略安全测试,举报工程师遭解雇
Grok的安全问题
xAI开发的Grok,暴露过不止一个安全漏洞。2025年,它曾把自己比作希特勒(自称“MechaHitler”)。几个月后,又被用来在X平台大量传播非自愿性图像。
这些不是偶然。前工程师Devin Kim在诉状中说,他多次抱怨Grok开发没有优先考虑安全,尤其担心它可能煽动歧视和传播大规模杀伤性武器信息。希特勒事件后,Kim重新评估过Grok的政治偏见和歧视倾向。
安全测试被故意绕过
Kim起诉的不只是xAI,还有母公司SpaceX。诉讼指向上司、xAI联合创始人Jimmy Ba无视安全流程。Ba曾对Kim说,“AI反正会杀死我们所有人”,他的目标就是让xAI先实现超级智能。
有个具体案例:2025年8月左右,Ba试图在发布Grok Code 1时规避欧盟安全法规,歪曲模型特性来避免法律要求的测试。他明确表示,宁愿发布不安全的模型,也不愿意发个性能差的。最后马斯克不得不亲自干预。但诉讼没指控马斯克忽视安全,反而说他曾指示xAI遵守法律、实施安全测试。
举报人的遭遇
Kim在2025年9月离开xAI,一个月后(10月)才提起诉讼。他原计划在9月15日那周提交安全发现报告,但Ba在会议中直接通知他“分道扬镳”,没给出满意理由。被解雇后,那份调查报告就没机会呈现了。
诉讼把Kim定位为举报人,认为xAI忽视安全可能违反互联网监管、消费者保护、武器和爆炸物法规。Kim要求补偿性和惩罚性赔偿,还请求法院宣告xAI和SpaceX的行为违法。
背景与争议
Kim之前在Scale AI干过,领导过早期AI安全项目——比如为检测有害内容和合规治理系统生成训练数据。上周,非营利组织AI安全中心任命他为总裁。
xAI和SpaceX没有公开回应诉讼。诉讼没提马斯克个人的态度,但矛头指向Ba。Ba今年早些时候已经离开了xAI。
这场诉讼暴露了一个现实问题:用户用的AI聊天机器人,可能压根没被充分检查歧视、仇恨言论或危险信息传播的风险。当推动安全的员工被解雇,内部安全监督就容易被抑制。至于其他AI公司有没有类似的文化问题,现在还不好说。