AI Pulse

在纽约州,AI事故报告从自愿变强制,Anthropic、OpenAI须72小时内上报

在纽约州,AI事故报告从自愿变强制,Anthropic、OpenAI须72小时内上报

注册先开始

纽约州周二开了个注册门户。Anthropic、OpenAI 这类大型前沿AI开发商,得在2027年1月1日前完成注册。依据是 RAISE Act,纽约州的安全与透明度法案,年初已经生效。

法案把“大型前沿开发商”划在年收入5亿美元这条线以上。过线的公司要做三件事:把安全框架发在自家网站上,72小时内报告重大安全事件,再发一份公开的模型透明度报告。文件就挂在官网上,谁都能打开看。以前这些内容靠公司自愿披露。

罚则和没写清楚的地方

罚款不轻:单次违规最高100万美元,后续违规最高300万美元。

没在新门户注册的公司,纽约州也能采取执法行动,但州发言人拒绝说具体怎么执法。什么算“重大安全事件”、透明度报告里必须写哪些内容,目前都没有说明。

谁来管

执行 RAISE Act 的是新成立的数字创新、治理、诚信与信任办公室,简称 DIGIT,负责监管大型前沿AI实验室。

同一天,州长凯西·霍楚尔在纽约州立大学宾汉姆顿分校启动了纽约AI责任与研究中心的建设。中心独立评估先进AI系统的安全性、保障和运行,也会和 DIGIT 一起审查公司的安全框架。霍楚尔1月第一次宣布这个中心,当时拿到5500万美元捐款和资本。审查安全框架这件事,不是州政府官员一方说了算。还有一所州立大学的研究机构参与。

霍楚尔在发布会上直接点了科技巨头:“科技巨头告诉我们,他们对AI的愿景是不可避免的……他们说要上车,否则就被落下……只要赢得奔向AI悬崖的竞赛,任何附带损害都值得。”她说,纽约在建立智能、合理AI监管的国家模式,把社区放在企业之上,把人放在强大技术之上。

伴侣产品和未成年人

纽约州去年开始执行一项法律。AI伴侣运营商要定期告诉使用者,对面是机器人;还要尽合理努力检测自杀意念和自残行为。用陪伴类产品的人,会看到更明确的机器人身份提示。

10月,霍楚尔又签了一项针对未成年人的聊天机器人安全法。法律限制欺骗性类人互动、情感操纵或谄媚回应,也限制鼓励自杀或饮食失调这类行为。该法2027年6月1日生效。至于检测自杀意念做到什么程度算“合理努力”,没有给出技术标准。

其他州也在做

加州 SB 53 1月生效。它要求前沿AI实验室制定并发布安全框架,实施举报人保护,重大安全事件要在15天内报告。伊利诺伊州 SB 315 2027年初生效,要求和加州类似,另外加了独立安全合规审计。

三州放在一起看,差别在报告时限和审计:加州给15天,纽约给72小时;伊利诺伊在披露之外还要过审计。同一家公司在三个州运营,大概率得分别满足各自条款。跨州怎么协调,目前没有说明。

关键事实

阅读原文
📚 相关主题 AI监管行业动态

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新