50位专业分析师实验:AI智能体悄悄接管了专家判断
当资深数据分析师把初步分析工作交给AI智能体(能自主执行多步任务的AI程序)后,他们以为自己仍在把控最终结论——但一项覆盖50名专业人士的随机对照实验给出了相反答案。
这项由Anthropic研究员Alex Tamkin发起的研究,核心发现是:专家在绝大多数情况下会直接采纳AI智能体给出的建议,却普遍认为关键决策仍是自己做出的。相关推文发布后获得15.6万次浏览、1338次点赞,1105次收藏,成为近期人机协作领域传播最广的研究之一。
@Dr_Atoosa 认为:这项研究为智能体的“能动性”评估提供了关键启示,必须区分“实际能动性”和“感知能动性”——前者是AI真正影响决策的程度,后者是人类主观觉得自己掌控的程度,两者的落差正是风险所在。
@omarsar0 评价:这看似是小众的学术项目,实则是理解AI如何重塑人类判断的重要起点,我们才刚刚开始触及这个问题的核心。
@alexolegimas 直言:这是近年来最重要的人机交互社会科学研究之一,专家在因果层面上绝大多数时候跟随智能体建议,却只有极少数人意识到这一点。
这一发现并非孤例。已有人机协作研究指出,AI与人类的协作会共同塑造问题理解与判断形成的过程,决策结果并非单独由人类或AI产出。而在金融等高风险领域,监管要求AI系统必须提供运营层面的证明,包括所有权、设计文档、测试证据和受控变更——如果连专家自己都没意识到决策已被AI主导,这些合规要求该如何落地?
更现实的问题是,当AI智能体造成损害时,法律上的因果归因已经面临挑战。普通法中的表见代理原则可能适用于AI智能体,但前提是能界定谁是“被代理人”——如果专家都不觉得自己委托了AI做决策,责任链条从哪里开始?
威科集团在2026年3月公布的专家AI战略,主打基于专有数据提供快速、可解释的答案,支撑高风险专业决策。但这项实验提醒我们:可解释的答案不等于可感知的掌控。当专业人士习惯了AI的建议,他们还能分清哪些判断是自己的吗?