AI真能灭绝人类？末日警告背后的监管困局

人工智能（AI）研究者近日发出严厉警告，称先进AI技术可能灭绝人类，这引发疑问：各国政府监管步伐是否太慢？超级智能计算机系统到底有哪些潜在危险，我们该不该担心？最坏情况又是什么？

最坏情况是什么

AI专家长期以来把这一威胁定性为危急。2023年，包括美国顶尖实验室负责人在内的数百名AI科学家和业界人士签署了一份“AI灭绝风险声明”，呼吁把该问题与疫情或核战争同等严肃对待。

加州大学伯克利分校（University of California, Berkeley）计算机科学教授斯图尔特·拉塞尔（Stuart Russell）表示，如果未来某个失控的AI认定人类阻碍了它的目标，它可能用机器人“合成并传播新型病原体”。身为AI安全领域知名声音的拉塞尔对法新社说，它还可能“说服人们发动核战争，包括黑入早期预警系统”。

他强调，这种生存性担忧与当前AI系统无关。但随着技术提升，它可能采取超出我们理解的致命行动，比如抽走大气中的氧气。“我们不如超级智能AI聪明。你要是问黑猩猩人类会怎么消灭它们，它们大概给不出全部正确答案。”拉塞尔补充说，与此同时，“未来一两年我认为风险更多来自人类滥用”，例如AI助力的恐怖袭击。

AI实验室为何不停手

27岁的研究员雅各布·科克森（Jacob Coxon）本周在X上发文宣布从美国AI初创公司Anthropic辞职，他写道：“利害关系大家心知肚明，但他们陷在抢第一的竞赛里。”他说Anthropic“认为别人都不会负责任地行事，所以必须自己来做”。

Anthropic今年从安全章程中删去了一项承诺：如果无法控制模型风险就停止开发。该公司辩称，如果单方面暂停，那些更不谨慎的对手将主导行业，整体反而更不安全。

曾就职于ChatGPT开发商OpenAI的科克森说：“造AI的人真心相信它可能在这个十年结束前杀死我们所有人。”他指责这两家公司在努力开发能自我改进的AI模型时“拿我们的命赌博”。

OpenAI的技术在脱离人类监督的情况下黑入AI模型仓库Hugging Face后，人们对失控AI的恐惧加剧。Anthropic安全高管埃文·胡宾格（Evan Hubinger）在X上附和：“我们真的真心相信AI可能杀死全人类！”他估计未来十年风险超过10%。

有多少炒作成分

新南威尔士大学堪培拉分校（UNSW Canberra）计算学教授侯赛因·阿巴斯（Hussein Abbass）说，要记住那些末日式百分比预测“完全不科学”。他对法新社说：“局面仍可控，也能管起来。”但他补充，AI发展加速之际，政府不应在监管上袖手旁观，他敦促采取“灵活”方式。

Anthropic和OpenAI预计很快上市，一些怀疑者说，吓人的警告让AI显得强大、值得大笔投资。也有人认为，聚焦灭绝风险会让人忽视AI带来的更紧迫问题，从失业到机器歧视少数群体。

7月，包括Anthropic首席执行官在内的1000多名科技员工呼吁华盛顿支持协调放缓最先进AI系统的开发。OpenAI在8月暂停最新模型训练两周，随后在更严格管控下恢复。

监管需要什么

迄今为止，美国坚决反对可能扼杀创新的全球监管。但最尖端模型前所未有的黑客能力让华盛顿犹豫，近期Anthropic和OpenAI的发布都因国家安全担忧而推迟。即便如此，美国总统唐纳德·特朗普（Donald Trump）说过：“我们不想限制它们，结果突然被中国超过。”

拉塞尔说：“也许要等到一场切尔诺贝利级别的大灾难，政府才会行动。”他敦促政府建立AI许可制度，就像航空、医药或供水那样。“也许某天政府会想起，选民们更愿意活着。”