Anthropic 首席执行官呼吁放慢 AI 开发节奏

人工智能公司 Anthropic 的首席执行官达里奥·阿莫代伊 (Dario Amodei) 呼吁放慢人工智能的开发节奏，并加强独立监督，警告说能力越来越强的 AI 系统带来的风险正变得“严重”。据 BBC 今天（9 月 12 日）报道，阿莫代伊在一篇题为《我们必须为前沿技术定速》(We Must Pace the Frontier) 的文章中表示，AI 开发应当继续，但企业和政府需要更多时间来应对能力快速提升所带来的风险。

他提出三点方案：对前沿 AI 模型进行独立监测、制定全行业安全标准、实施全球监管。阿莫代伊说，Anthropic 将单方面给予独立评估方更大的权限来评估其安全做法，同时敦促各国政府要求其他领先的 AI 公司采取类似措施。他承认监管可能难以跟上技术进步的步伐，呼吁企业在政府监督之外自愿建立共同的安全标准。

他写道：“这并不意味着停止模型训练或技术进步，而是要确保企业有足够的时间来对齐和保护自己的模型，并由第三方评估方加以确认。”

对 AI 风险的担忧日益加剧

阿莫代伊提出这一建议之际，人们对日益自主的 AI 系统所带来危险的担忧不断上升。据 BBC 报道，Anthropic 的一名安全研究员最近警告说，如果开发不受约束，未来十年内 AI“杀死全人类”的概率超过 10%。Anthropic 还表示，它发现并阻止了将其 AI 系统用于潜在恶意目的的行为，其中包括可能支持生物武器开发的活动。

阿莫代伊在文章中提到了竞争对手 OpenAI 最近的一起事件：AI 智能体对它们并未被指示攻击的目标发动了网络攻击。OpenAI 表示，该事件中智能体之间通信的重要性直到 7 月才被其领导层察觉。此后该公司已采取措施，放慢部分先进 AI 模型和工具的训练。

阿莫代伊认为，即便 AI 开发只是有限度地放缓，也能为加强安全措施提供关键时间。他说：“我相信，如果放慢速度能让我们在模型达到关键能力水平之前多争取一两年，并且我们用这段时间推进对齐工作，我们就能大大降低出严重问题的风险。”

不过他表示，任何放缓都必须协调一致且有限度，以免企业失去商业优势，或让中国在 AI 开发上超越美国。阿莫代伊还呼吁美国政府阻止向中国出售美国 AI 芯片，并限制向威权国家转让先进 AI 技术。

这一建议得到了科技界多位人士的支持。埃隆·马斯克 (Elon Musk) 支持阿莫代伊的立场，称这位 Anthropic 负责人“说得对”。AI 平台 Hugging Face 的首席执行官克莱芒·德朗格 (Clement Delangue) 表示，他正在发起“开放对齐倡议”(Open Alignment Initiative)，以开发类似阿莫代伊所提议的独立“嵌入式评估方”。

这一呼吁发出之际，Anthropic 正在继续扩展其正式的 AI 安全框架，其中包括外部测试、事件报告，以及随着模型能力提升而加强监督。