AI Pulse
📡 X 信号

求职没回音?可能你早就被算法拉黑了

斯坦福研究人员证实,你不是被10家公司拒绝,你是被同一个算法拒绝了10次。你的分数会被存储330天。每一家使用同一供应商服务的公司都会看到同一个分数。他们称之为算法拉黑。

斯坦福 HAI、查普曼大学和东北大学的研究人员发布了有史以来规模最大的AI招聘算法审计结果。这篇论文题为《招聘中的算法单一文化》,将于2026年5月26日在 FAccT 2026 发布。

数据来自 Pymetrics,这是财富100强企业都在使用的AI招聘平台。他们的发现如下:当你向一家使用 Pymetrics 的公司求职时,你需要玩一系列评估游戏,你的分数会被存储,存储时间最长可达330天。

如果另一家公司也使用 Pymetrics,你的申请会用同一份存储的分数来评估。你不会得到两次独立评估,你会两次得到同一个分数。如果算法拒绝你一次,它就会在所有地方拒绝你。

研究人员称之为「算法拉黑」。一个糟糕的分数会把你锁在所有使用同一供应商的公司门外。你永远不知道原因,你永远得不到第二次机会,你只是再也收不到回复。

他们用真实求职者数据进行了大规模模拟。结果显示:超过40000个求职机会流失,因为那些本可以在某家公司获得成功的求职者,被为另一家公司校准的算法筛掉了。

接着他们测算了哪群人受影响最严重:25.87%的黑人求职者被送入算法歧视性招聘流程,亚裔求职者这一比例为14.74%。

这些都不是假设性预测,这些比率是在真实部署、供全球部分最大雇主使用的招聘系统中实测得到的。同一个算法,在多家公司使用,在每一家都产生了相同的种族差异。

这件事已经闹上法庭。Mobley 诉 Workday 案是一起联邦集体诉讼,指控AI招聘工具系统性歧视年长求职者、黑人和残疾求职者。案件目前仍在审理中。

在欧洲,欧盟 AI 法案默认将招聘算法归类为高风险AI系统,合规要求将于2026年8月2日生效,距离现在只有几周。在美国,还没有对应的联邦法律。

研究人员提出了四项建议:在岗位层面衡量不利影响;加强跨雇主监督;监测算法集中带来的风险;为独立研究人员获取招聘数据开辟法律途径。

最后一项建议暗含一个警告:这项研究之所以能完成,仅仅是因为 Pymetrics 自愿共享了它的数据。大多数供应商更希望他们的算法保持不透明。

下次你投了简历再也没收到回复,这次拒绝可能不是来自某个人。它可能来自你330天前得到的一个分数,来自你早就忘了的一家公司,来自和你这次申请的岗位完全无关的一个职位。

本文由 AI 翻译自英文原帖,技术名词保留英文。

查看 X 原帖

📬 订阅 AI Pulse

每天三次更新,不错过重要信号

▲ 回到顶部