《纽约时报》托马斯·弗里德曼|Anthropic 的克制,是一个令人不寒而栗的警告

托马斯·L·弗里德曼,《纽约时报》外事评论专栏作家,1981年加盟本报,三度荣获普利策奖,著有《从贝鲁特到耶路撒冷》(获国家图书奖)等七部著作。

 

通常在这个时候,我本来会写伊朗战争在地缘政治上的影响,而且我相信我很快还是会回到这个话题上来。但我想先打断这一思路,强调一下人工智能领域一项惊人的进展。这一进展来得比预期更早,而它同样将带来深远的地缘政治影响。

 

人工智能公司 Anthropic 周二宣布,将发布其最新一代大语言模型,名为 Claude Mythos Preview,但仅向一个由大约40家科技公司组成的有限联盟开放,其中包括谷歌、博通、英伟达、思科、帕洛阿尔托网络公司、苹果、摩根大通、亚马逊和微软。该联盟中甚至包括它的一些竞争对手,因为这款新的人工智能模型在性能上实现了“阶跃式提升”,而这种提升对网络安全以及美国国家安全都具有极其重要的正反两方面影响。

 

好消息是,Anthropic 在开发 Claude Mythos 的过程中发现,这一人工智能不仅能够比当前任何现有模型更轻松、也更复杂地编写软件代码,而且作为这种能力的副产品,它还能够比以往更轻易地发现全球几乎所有最流行软件系统中的漏洞。

 

坏消息则是,如果这款工具落入恶意行为者之手,他们几乎可以入侵世界上所有主要的软件系统,其中也包括该联盟内这些公司开发的全部系统。

 

这不是一场宣传噱头。参与其中的技术人士告诉我,在这项公告发布前的一段时间里,多家领先科技公司的代表一直在私下与特朗普政府沟通,讨论这一进展将对美国,以及所有使用这些如今已被发现存在漏洞的软件系统的其他国家,带来怎样的安全影响。

 

这么做是有充分理由的。正如 Anthropic 周二在书面声明中所说,仅在过去一个月里,“Mythos Preview 已经发现了数以千计的高严重性漏洞,其中包括所有主流操作系统和网络浏览器中的部分漏洞。考虑到人工智能进步的速度,这类能力很快就会扩散,甚至可能扩散到那些并未承诺安全部署它的行为者手中。其后果,无论是对经济、公共安全还是国家安全,都可能极为严重。”

 

Anthropic 将这一联盟命名为 Project Glasswing。该公司补充说,这一项目旨在与规模最大、最值得信赖的科技公司及关键基础设施提供方合作,其中也包括银行,“将这些能力用于防御目的”,同时让领先科技企业在发现并修补这些漏洞方面抢得先机。

 

Anthropic 表示:“我们并不打算让 Claude Mythos Preview 面向公众普遍开放,但我们的最终目标,是让用户能够安全地大规模部署 Mythos 级模型。这不仅是为了网络安全,也为了这类高能力模型将带来的无数其他益处。”

 

换句话说:天哪。至少在这方面,超级智能人工智能的到来速度比人们原先预想的还要快。我们早就知道,它在帮助任何人编写软件代码方面正变得异常强大,不论这个人对计算机有多熟悉。但据称,连 Anthropic自己也没有料到,它竟会在这么短时间内,就在发现并利用现有代码缺陷这件事上变得如此厉害。

 

Anthropic 表示,它已经在所有主流操作系统和网络浏览器中发现了关键性暴露点,而这些系统中有许多正运行着世界各地的电网、供水系统、航空订票系统、零售网络、军事系统和医院。

 

如果这款人工智能工具真的变得广泛可用,那就意味着,入侵任何主要基础设施系统的能力,这种原本艰难、昂贵、基本上只属于私营部门专家和情报机构的工作,将向所有犯罪行为者、恐怖组织以及任何国家开放,不论它们规模多么小。

 

我说孩子们都可能在无意中把它用起来,这绝不是夸张。爸爸妈妈们,准备好迎接这样的对话吧:

 

“亲爱的,你今天放学后做了什么?”

 

“哦,妈妈,我和朋友们把电网搞瘫了。今晚吃什么?”

 

这也正是为什么 Anthropic 正把经过严格控制的版本交给关键软件提供商,好让他们能在坏人,或者你家孩子,先下手之前,提前发现并修复这些漏洞。

 

每到这种时刻,我都更愿意和我的技术导师克雷格·芒迪(Craig Mundie)做一次深入讨论。他曾任微软研究与战略主管,曾是美国前总统贝拉克·奥巴马总统科学与技术顾问委员会成员,并与亨利·基辛格、埃里克·施密特合著过一本关于人工智能的书,书名叫《创世纪》。

 

在我们看来,世界上没有任何一个国家能够单独解决这个问题。解决之道,或许会让很多人吃惊,必须从两个人工智能超级大国开始,也就是美国和◽️◽️。现在最紧迫的事,是让两国学会合作,防止恶意行为者获得这一更高层级的网络能力。

 

如此强大的工具会同时威胁到这两个国家,使它们既暴露在国内犯罪行为者面前,也暴露在境外恐怖组织和其他对手面前。它完全可能变成比两国彼此之间更大的威胁。

 

实际上,这很可能是一个与“相互确保摧毁”格局出现、以及核不扩散需求形成同等根本且重大的转折点。美国和◽️◽️需要携手合作,不仅保护自己,也保护世界其他地区免受利用这项技术的人类和自主人工智能的威胁。与此相比,它们对俄罗斯的担忧反而没那么重要。

 

这一问题如此重大、如此紧迫,以至于它应当成为特朗普下月在北京举行峰会时议程上的首要议题之一。

 

芒迪解释说:“过去,那种只有大国、大型军队、大公司以及资金雄厚的大型犯罪组织才具备的能力,也就是开发复杂网络攻击行动的能力,未来可能会轻而易举地落到小型行为者手中。我们即将看到的,正是网络攻击能力的彻底普及化。”

 

这意味着,负责任的政府必须与构建这些人工智能工具和软件基础设施的公司协同行动,紧急做三件事。芒迪是这样主张的。

 

首先,他说,我们必须“谨慎控制这些新型超级智能模型的发布,确保它们只流向最负责任的政府和企业”。

 

接着,我们必须利用这段争取来的时间,把防御工具分发给善意行为者,“以便在黑客终究通过某种方式拿到这些工具之前,那些支撑其关键基础设施运行的软件能够先把所有缺陷找出来并修补完毕”。顺便说一句,修复那些肯定会在传统软件系统中被发现的漏洞,成本将十分可观,例如电话公司的旧系统就是如此。再把这一成本扩大到我们整个工业基础,规模就更惊人了。

 

最后,芒迪认为,我们需要与◽️◽️以及所有负责任的国家合作,在所有关键网络之内,不论是公共网络还是私人网络,建立安全、受保护的运行空间。这样一来,受信任的企业和政府就“能够把所有关键服务迁移进去,从而在未来的黑客攻击面前获得保护”。

 

历史最终会更多记住2026年4月7日的哪件事,将会很值得观察:是美国原定对伊朗投放炸弹的行动被推迟,还是 Anthropic 及其技术盟友对 Claude Mythos Preview 实施了严格受控的发布。

版权声明:
作者:Zad
链接:https://www.techfm.club/p/234963.html
来源:TechFM
文章版权归作者所有,未经允许请勿转载。

THE END
分享
二维码
< <上一篇
下一篇>>