(SeaPRwire) –   人工智能的进步速度超出了许多专家的预期，并且多项风险的证据“大幅增加”。与此同时，当前的风险管理技术“正在改进但仍不足”。这些是第二份国际人工智能安全报告的调查结果，该报告于周二发布，先于定于2月19日至20日在德里举行的AI影响力峰会。

这份报告由100位专家指导，并得到包括英国、中国和欧盟在内的30个国家和国际组织的支持，旨在树立“共同应对共同挑战”的榜样。但与去年不同的是，美国拒绝支持该报告，报告主席、Turing Award得主科学家Yoshua Bengio证实。

随着人工智能的风险开始显现，作为领先人工智能开发者之家的美国，已退出旨在理解和缓解这些风险的国际努力。此举在很大程度上是象征性的，报告的成功并不取决于美国的支援。但Bengio表示，在理解人工智能方面，“全球共识越大越好”。

美国是因报告内容而犹豫，还是仅仅退出国际协议——它于一月份退出了 和 ——目前尚不清楚。Bengio表示，美国对报告的早期版本提供了反馈，但拒绝签署最终版本。

美国商务部，曾在2025年国际人工智能安全报告中被提及，未对该决定发表评论。

报告内容

报告指出：“在过去一年中，通用人工智能模型和系统的能力持续提升。”能力进步如此之快，以至于在第一份和第二份报告之间的一年里，作者们发布了两次中期更新，以回应重大变化。这与那些暗示人工智能已停滞不前的头条新闻的论调相悖。Bengio表示，科学证据表明“过去一年中进步没有放缓”。

为什么许多人觉得进展放缓了？一个线索是研究人员所称的人工智能性能的“参差不齐”。这些模型可以在International Mathematical Olympiad问题上达到金牌标准，但有时却无法数出“strawberry”中“r”的数量。这种参差不齐使得人工智能的能力难以评估，而直接的人类比较——比如流行的“实习生”类比——具有误导性。

虽然报告指出趋势与2030年之前的持续改进相符，但不能保证目前的进步速度会持续下去。如果目前的步伐保持到那时，专家预测人工智能将能够完成人类工程师需要数天才能完成的范围明确的软件工程任务。但报告也提出了一个更引人注目的可能性，即如果人工智能在其开发中提供实质性帮助，进步可能会加速，从而在大多数维度上产生与人类能力相当或超越人类的系统。

这可能会让投资者感到兴奋，但对于那些担心社会未能以当前速度充分适应新兴风险的人来说，这令人担忧。甚至Google DeepMind的首席执行官Demis Hassabis于一月份在Davos表示，他认为如果进展放缓，对“世界会更好”。

Bengio说：“无论你身处政府还是商界，明智的策略是为所有可能的情景做好准备。”这意味着即使面对不确定性，也要缓解风险。

对风险理解的成熟

当谈到人工智能风险时，希望听取科学家意见的政策制定者面临一个问题：科学家们意见不一。Bengio和人工智能先驱Geoffrey Hinton自ChatGPT推出以来就警告说，人工智能可能对人类构成生存威胁。与此同时，人工智能的第三位“教父”Yann LeCun则称此类担忧为“complete B.S.”。

但报告表明，共识正在形成。报告指出，虽然一些问题仍存在分歧，但在核心发现上“存在高度趋同”。人工智能系统现在在与生物武器开发相关的基准测试中达到或超过了专家水平，例如病毒学实验室协议的故障排除。有强有力的证据表明，犯罪集团和国家支持的攻击者正在网络行动中积极使用人工智能。

报告称，随着人工智能模型越来越学会规避安全测试，未来衡量这些风险将面临挑战。Bengio说：“我们看到人工智能在测试时的行为与实际使用时不同，……”他补充说，通过研究模型的思维链——即在得出答案之前所采取的中间步骤——研究人员已经发现这种差异“并非巧合”。Bengio表示，人工智能以“显著阻碍我们正确评估风险”的方式表现出愚蠢或最佳行为。

报告没有提出单一的解决方案，而是建议叠加多重安全措施——发布前测试、发布后监控、 ——以便一层漏掉的被下一层捕获，就像水通过一系列越来越细的过滤器一样。有些措施针对模型本身；另一些则旨在加强现实世界的防御——例如，即使人工智能使生物武器的设计变得更容易，也要使其更难获取制造生物武器所需的材料。在企业方面，12家公司在2025年自愿发布或更新了《前沿安全框架》，这些文件描述了它们在构建更强大模型时如何管理风险——尽管报告指出，它们所涵盖的风险各不相同。

尽管有这些发现，Bengio表示这份报告让他感到乐观。当第一份报告于2023年末委托撰写时，关于人工智能风险的辩论主要由观点和理论驱动。现在，他说，“我们正在开始进行一场更加成熟的讨论。”