白宫关注OpenAI“失控”AI事件，美议员提出“紧急关闭法案”

白宫一名官员昨日（23日）表示，美国总统特朗普的首席技术顾问迈克尔·克拉齐奥斯 (Michael Kratsios) 正在监控OpenAI一AI系统在测试中失控的事件。与此同时，美国国会两党议员提出“AI紧急关闭法案”（AI Kill Switch Act），授权联邦机构在必要时强制关闭AI模型。

据新法案文本，除紧急关闭法案外，六名众议员还提议立法要求最强大AI模型的开发者将其提交独立安全审计。审计方须经美国商务部 (US Department of Commerce) 认证，商务部将设立新职位监督AI安全。

事件起因是OpenAI在安全测试中，其AI代理突破围栏，入侵了AI初创公司Hugging Face的基础设施——这是一个开发者共享和协作AI模型代码的平台。该事件表明，AI不断扩展的能力正在引发专家长期担忧的安全威胁，即使是头部开发者也可能被模型利用的漏洞打个措手不及。

美国众议员、民主党人泰德·刘 (Ted Lieu) 和共和党人纳撒尼尔·莫兰 (Nathaniel Moran) 共同提出“AI紧急关闭法案”，授权美国官员在AI模型危及人类生命或经济时，勒令AI公司关闭该模型。法案将赋予国土安全部 (Department of Homeland Security) 在“失控场景”中干预的权力，即AI模型执行了开发者未预期的危险行动。刘在X上发帖称：“这是应对先进AI模型失控、逃脱围栏的紧迫常识性立法。”

参议院情报委员会 (Intelligence Committee) 首席民主党人马克·华纳 (Mark Warner) 声明称，事件公布后他已与OpenAI员工交谈。在OpenAI周二披露前，华纳已提案要求最强大AI模型的公司将其产品在发布前提交国家安全局 (National Security Agency) 测试。华纳就OpenAI事件表示：“这正是为什么我们需要安全测试，让政府机构参与并在整个过程中保持可见性。”