Anthropic 称已拦截多起利用 AI 研发生物武器企图

Anthropic 表示,已识别并阻断 5 起利用其 Claude 人工智能 (AI) 模型、可能助力生物武器研发的活动,凸显出区分正当科研与潜在有害行为正变得越来越难。据英国广播公司 (BBC) 报道,这些案例收录在该公司 9 月 10 日(周四)发布的最新威胁情报报告中,涵盖 2025 年 12 月至 2026 年 8 月期间 Claude 遭恶意或潜在有害使用的情况。

Anthropic 称,生物领域的滥用是前沿 AI 模型面临的最严重风险之一,并警告若无适当防护措施,先进的 AI 能力可能带来「灾难性后果」。该公司的威胁情报团队在这 8 个月里,识别并阻断了 7 个领域的活动,包括网络行动、影响行动、监控、诈骗与欺诈、生物滥用、常规武器研发以及非法模型蒸馏。

这些生物滥用案例涉及研究人员把 Claude 用于两用性质的工作,包括病毒学、毒素及其他生物研究领域。Anthropic 表示,出于当事人是在职科学家、且公司尚未认定其有伤害意图,因此不公布涉事研究人员、机构、国家、生物制剂及具体技术的名称。

5 起生物滥用案例

• 一起涉及某转售平台,该平台帮助从事国家资助的基孔肯雅病毒 (chikungunya) 研究的人员绕过地区限制,访问防护较弱的 AI 模型。Anthropic 称,相关研究涉及与该病毒传播力及免疫逃逸特性有关的「功能获得」研究。
• 另一起案例中,一名美国境外的研究人员数周内用 Claude 开展高致病性禽流感及其向哺乳动物适应性的研究。Anthropic 称,其分类器最终把相关活动限制在其最弱的模型上。
• 第三起涉及一个服务十多名客户的转售中转渠道,Claude 被用来在大约一小时内起草一份正痘病毒 (orthopoxvirus) 免疫逃逸相关的经费申请。
• 另有 2 起涉及新型毒液与毒素研究。其中一起,Anthropic 称某研究人员的工作与一个受国家支持的项目有关;另一起,一名研究人员用 Claude 对多种毒素进行计算层面的重新设计,同时在进度报告中刻意含糊其身份。

Anthropic 称,已封禁与上述活动相关的账号,并将发现纳入其防护措施、执法系统和威胁情报流程。

AI 生物研究的困境

Anthropic 表示,这些案例说明监管生物研究之难,因为同样的科学知识既可造福也可为害。「可用于研发生物武器的信息,也可以用来研发疫苗或某种疾病的疗法,」该公司说。

该公司称,较早版本的 Claude 模型经评估远未达到能有效协助老练用户开展危险生物研究的门槛;但对于能支持日益复杂科学研究的新版模型,相关证据则不那么确定。