上千名员工呼吁美国政府控制AI发展 OpenAI CEO奥特曼表态
上千名员工呼吁美国政府控制AI发展 OpenAI CEO奥特曼表态
来源： 凤凰网科技
凤凰网科技讯 北京时间7月29日，据《商业内幕》报道，美国一些头部AI公司的高管表示，联邦政府现在是时候找到一种方法，在必要时对AI开发踩刹车了。
来自OpenAI、Anthropic、谷歌和Meta等公司的1100多名AI员工联合签署了一封公开信，呼吁美国政府控制AI发展速度。眼下，AI公司正竞相研发能力越来越强大的AI系统，让外界担忧AI的发展速度可能会超过现有安全保障、治理体系和监管机制所能跟上的步伐。
“我们呼吁美国政府支持一项国际合作，开发必要的技术和治理工具，以便能够有意识地把控自动化AI开发的前沿进程。”公开信称。
这个倡议名为“把控前沿”(Pacing the Frontier)，签署这封公开信的高管包括Anthropic CEO达里奥·阿莫代伊(Dario Amodei)以及公司两位联合创始人杰克·克拉克(Jack Clark)和贾里德·卡普兰(Jared Kaplan)、OpenAI首席科学家雅库布·帕霍茨基(Jakub Pachocki)、Meta首席科学家赵晟佳(Shengjia Zhao)，以及负责谷歌DeepMind AI安全与对齐工作的安卡·德拉甘(Anca Dragan)。
这封信重点关注“自动化AI开发”，指的是未来AI能够自行开发和改进AI系统的能力。业界称这一过程为“递归式自我改进”。Anthropic曾表示，其Claude系列模型正在快速接近这一门槛。
信中在谈到这一潜在时刻时写道：“很难准确预测这将在多大程度上加速AI的进步，但确实存在一种真实的风险：AI能力的发展速度会迅速加快，超出我们理解或控制这些由此产生的系统的能力。”
针对这一公开信，OpenAI在X平台上发文称：“我们相信，在未来的某个时间点，前沿模型开发中的AI加速可能会如此之快，以至于世界将需要把控AI进步的速度。”
”Anthropic在X上的一篇帖子中表示：“我们上个月发布的关于递归式自我改进的研究表明，我们需要一些工具，能够有意识地调控AI发展的前沿速度，让社会有时间做好准备。”
与此同时，OpenAI CEO萨姆·奥特曼(Sam Altman)表示，或许现在是时候“把控”AI发展的节奏了，以便世界能够为此做好准备。
“我们可能需要把控AI发展的速度，给自己足够的时间，让社会适应这些新的能力水平并建立起防护机制。同时，我们也需要想办法做到这一点，既不能让任何人觉得这是监管俘获(监管对象反过来影响监管者)，也不能让人觉得这是前沿AI实验室之间的串通。”他在接受《Invest Like the Best》播客采访时表示。
奥特曼的态度已经发生反转。过去，他曾避免签署一些呼吁放缓AI发展的倡议。他曾表示，2023年的一封提出类似“放缓AI发展”主张的公开信，“缺少关于我们究竟需要在哪些方面暂停发展的关键技术细节。” (作者/箫雨)
共有 0 条评论