英国内政部用AI总结难民面谈，失败率从9%升至22%且不告知当事人

2026年4月，英国内政部把AI总结工具推广到所有案件工作人员。此后的专家检查里，203份AI生成的面谈总结有45份没过关，失败率约22%。试点阶段是9%，现在翻了一倍多。

专家检查覆盖的范围小得可怜。2026年4月到7月处理的约7万件案子，只有0.3%被抽查到。剩下的AI总结没有经过专家复核，直接进入案件流程。

Home Office用了两个工具。Asylum Case Summarisation负责把面谈记录压成摘要，摘要交给做决定的案件工作人员。Asylum Policy Search是聊天式搜索工具，用来查国家信息。ORG六个月的调查拿到了政府文件。两个工具都跑在OpenAI的GPT-4系列模型上，通过微软Foundry平台。

一个法庭案件展示了错误可以长什么样。7月14日，上级法庭一名法官作出裁决。被拒的是一名摩洛哥女性的庇护申请。法官认为，Home Office的拒绝信带有与使用人工智能一致的标志。那封信引用了一份2021年7月的摩洛哥国家信息说明，法官说它似乎从未存在过。法官没有断定AI写了信，现有报道也没有把它和ACS或APS联系起来。

一份总结没通过检查，不等于申请人被错误拒绝。Home Office发言人说，训练有素的案件工作人员做决定。工具不能孤立使用，不对申请做决定。但决策者依赖的总结里，确实含有AI产生的错误。由人类拍板，决定依然建立在不准确的内容之上。

申请人几乎没有机会发现这些。ORG的调查发现，申请人没有被通知AI何时用在自己的案件里。他们也没有明确途径检查或质疑AI生成的总结。ORG委托两家律所的律师写了84页法律意见书。两家律所是Cloisters和Doughty Street。律师认为，申请人有权知道AI是否用在自己的案子上、怎么用的。他们也有权拿到AI生成的总结。Home Office的做法很可能违法。这是受委托的法律评估，不是法院裁决。

政府引入AI，摆在台面上的背景是案件积压。2025年9月，庇护积压案件超过62,000件。试点估算ACS每个案件省约23分钟，APS省约37分钟。

监督层面，边境监察机构还没确认任何正式动作。它在考虑2027年的检查优先事项，已向ORG询问工具信息。正式调查没确认，工具进不进2027年检查计划也没下文。数据监管机构倒是在单独调查Home Office。事由是它拒绝公开员工如何使用工具、如何接受培训的信息。调查什么时候出结果，没有说法。

质量监控有过一段断裂。2025年4月，Home Office评估说，不准确或不完整的总结已移出试点。政府后来停掉了专家测试，尽管此前告诉议员检查在继续。专家检查看过的案件只有0.3%，22%的失败率就停在那批记录里。测试停掉之后，实际案件中的错误率有没有更高，没有人再看。

OpenAI已通知WIRED，计划在2026年1月退役GPT-4。Home Office两个工具都依赖这个模型系列。之后怎么迁移、怎么调整，还没有公开计划。

ORG这次调查做了六个月。信息基础是11个议会问题、两封部长信函和10个公共记录请求。调查结束时，边境监察机构仍未确认2027年要不要把AI工具纳入检查。没被专家看过的AI总结，会继续进入案件决定的依据。