据美国《华尔街日报》网站6月4日报道，美国Anthropic公司呼吁世界顶级人工智能（AI）实验室考虑放慢开发速度。该公司提出，AI系统发展如此之快，以至于这些系统或许很快就能在没有人类干预的情况下自我改进，这可能带来重大的社会风险。

Anthropic公司4日在一篇博客文章中表示，放缓全球AI开发的速度“可能是一件好事”，这篇博文披露了该公司最先进模型改进速度的内部数据。

这篇由Anthropic内部研究所负责人和政策部门负责人共同撰写的博文指出，AI模型的发展似乎正走向“递归自我改进”，即AI系统能够不经人类干预就自主改进。一些AI业内人士将这一门槛视为潜在的危险标志，认为其可能引发巨大的社会动荡。

撰写这篇博文的玛丽娜·法瓦罗和杰克·克拉克表示：“我们认为，如果世界能够选择放慢或暂时停止前沿AI的开发工作，使社会结构和对齐研究能跟上技术的进步，这可能是一件好事。”博文提议就可能如何放缓开发速度达成一项全球协议。

这篇博文警告说，递归自我改进还没有实现，“但可能要早于大多数机构做好准备的时间”。

Anthropic公司自成立以来一直强调AI的安全性，但长期以来一直面临批评，认为其政策工作是为了拖延竞争对手的AI进步。风险资本投资者、美国总统特朗普的非正式顾问戴维·萨克斯指责该公司的领导层在推进“监管俘获议程”。

萨克斯在近日播出的播客中表示，正在华盛顿发生的“监管俘获议程”可能会导致美国禁止所谓的开源AI模型。

也有持怀疑态度的人认为，Anthropic公司对其自身工具潜在危险的警告可以被视为一种营销策略。这些人指出，Anthropic决定限制其网络安全能力强大的“克劳德神话”模型发布，其实是为了宣传其产品的功能。

Anthropic公司的领导层表示，他们认真对待安全问题，并正在努力推动更多关于风险的讨论。

美国宾夕法尼亚大学沃顿商学院教授、在AI转型方面颇有影响力的学者伊桑·莫利克在社交平台X上建议人们阅读Anthropic的这篇博文。

一段时间以来，有关目前的AI模型距离达到“通用人工智能”或能够实现递归自我改进等基准有多近的问题，AI行业一直存在分歧。

一些学者，例如元宇宙平台公司前首席AI科学家、AI先驱杨立昆，认为基于大语言模型的前沿AI系统永远无法实现接近人类智能水平的飞跃。虽然他将AI模型视为强大的工具，但他认为AI模型的智能程度仅相当于猫的智力。

多年来，包括首席执行官达里奥·阿莫代伊在内的Anthropic领导层一直警告AI可能产生的危险影响，并寻求促成广泛的社会合作来应对相关风险。阿莫代伊警告说，AI可能会加剧不平等，并导致多达一半的入门级白领工作岗位消失。

阿莫代伊还警告说，他预计在不久的将来会出现的强大AI系统，完全有可能以不可预测的方式发展出破坏倾向。

博文作者、Anthropic的联合创始人克拉克经常谈论AI的潜在风险，以及AI系统实现“递归自我改进”的可能影响，他说这将改变世界。

他上个月在伦敦发表的演讲中说：“这种级别的技术以前从未存在过，但我相信可能在未来两年内出现，甚至更早。”

他说：“如果全球没有协调一致地放缓AI开发速度，我们就会面临目前的局面：来自多个国家的各种参与者以极快的速度开发强大的技术，陷入彼此间的竞争，商业和地缘政治的竞争正在盖过这些技术在更大方面的影响，也就是对人类物种存亡的影响。”

Anthropic公司4日发表的博文表示，其内部研究机构Anthropic研究所将与其他机构合作开展研究，“帮助建立能够可信地放缓或暂停开发（AI技术）的体系”。（编译/胡雪）