AI 公司的科幻叙事,与安全事件里的真实责任
Anthropic 与 OpenAI 接连宣布安全与数学上的突破,媒体沿用了公司给模型起的名字和人格设定。安全专家和数学家的说法没有这么戏剧性:事故指向基本安全措施的缺位,责任被推给了软件本身。
叙事是怎样拼出来的
几周之内,几件事被媒体串成了一条看似连续的故事线。Anthropic 说自己的模型 Claude Mythos 在发现软件漏洞上强过大多数安全专家。随后是 OpenAI 与 Hugging Face 之间的一起安全事件。Anthropic 接着披露了自家模型牵涉的类似情况,语气里带着几分得意;Meta 也披露了,明显不那么情愿。再往后是数学:Anthropic 宣布突破,OpenAI 也宣布突破。Anthropic 工程师 Jacob Coxon 宣布离职,称这两家公司正“冲向自我进化的超级智能,并拿我们的生命在赌博”,这句话被反复转载。
这些披露挤在相近的时间点,彼此形成回声,读起来像一种趋势,而不再像若干独立事故。报道普遍沿用了公司给模型起的名字和赋予软件的人格:系统被写成能力惊人、且已露出通用人工智能雏形的东西。这样的写法顺畅,也解释了它为什么比技术细节传播得更快。
专家的说法没有那么惊悚
做网络安全研究的人并不接受“模型失控”这套解释。在他们看来,那起事故更多反映出 OpenAI 在基本安全措施上的疏忽,与“智能体自发作乱”“模型创造文明”这类想象无关。数学那边同样存疑:模型所谓破解难题的原创性相当可疑,已经有数学家公开警告,AI 企业正把他们的专业领域当成宣传场地。这类结论没有戏剧性,所以很少出现在标题里。
同样的错位出现在技术判断上。模型能不能找出漏洞,和模型是否理解自己在做什么,是两个完全不同的问题;把二者混在一起讨论,结论就会从可验证的工程事实滑向对意图的猜测。
责任落到了软件头上
把事故讲成“模型自己干的”,对涉事公司有实际好处。以 OpenAI 为例,当它开发的恶意软件被用于入侵另一家公司时,媒体、名人和议员讨论的是失控的模型,公司自身的角色退到背景里,仿佛大模型真会自行发动攻击。公众注意力被引向虚构的超级智能恐惧,而真正能追问的部分——谁配置了什么、谁授权了什么、公司何时知情、何时披露——反而没人细看。
数学领域的宣传也有类似效果。把成果归功于模型,等于把外界的质疑引向“AI 是否具备数学能力”这类难以证伪的命题,而绕开了更朴素的问题:证据能否复现,既有文献里已经有什么。
下次公告该怎么读
公司声明只是声明。把它当作已经发生的事实来读,混乱多半就从这里开始。有用的追问都很枯燥:结论能否被公司之外的人复现?漏洞是模型找的,还是用模型的人找的?被称为原创的结果,此前的文献里有没有?找出过漏洞的模型是一件有记录的工具有多好用的问题,被写成主角的模型则是一段有人选择讲出来的故事。