(SeaPRwire) – 4 月 16 日，OpenAI 发布了针对生命科学领域的新型 AI 模型 GPT-Rosalind。它在化学和生物任务以及实验设计方面的表现显著优于目前公开可用的模型。与本月同样发布的 Anthropic 的 Claude Mythos 和 OpenAI 的 GPT-5.4-Cyber 一样，该模型不对公众开放——至少在初期，仅通过“信任访问计划”提供给“合格客户”。
这些发布信号表明了一个令人担忧的新趋势，即 AI 公司认为其最强大的模型能力过强，不宜托付给公众。“我认为前沿开发商正在限制对其最强大模型的访问，因为他们确实担心这些模型所具备的一些能力，”AI 政策倡导组织 AI Policy Network 的政策负责人 Peter Wildeford 表示。
目前尚不清楚 OpenAI 为何决定特别限制对 GPT-Rosalind 的访问。OpenAI 的一位发言人在电子邮件中表示，向信任的合作伙伴提供访问权限可以让公司“在周全管理风险的同时，更早地向经过验证的用户提供更强大的系统”。
谁来决定？
AI 能力的快速进步引发了一个问题：私营公司是否应该就具有潜在危险的 AI 模型是否应该构建、如何构建以及谁被允许使用这些模型，做出日益重大的决定。“我认为联邦政府可以发挥作用，”加利福尼亚州民主党众议员 Mark DeSaulnier 表示。
Anthropic 的 Mythos 发布似乎改善了其此前与白宫的紧张关系。白宫上周表示，已与 Anthropic 首席执行官 Dario Amodei 举行了“富有成效且建设性”的会议。据报道，NSA 也已开始使用 Claude Mythos。今年 2 月，特朗普总统在与五角大楼发生合同纠纷后，命令联邦机构停止与这家“激进左翼、觉醒公司”合作。
对近期系列模型的访问限制是 Anthropic 和 OpenAI 的自愿行为。但随着 AI 模型带来的风险变得更加严重和复杂，一些人呼吁加强外部监管。
“我们不允许公司决定可以在我孩子的饮用水中排放多少有毒污染物——这是政府的决定，”AI 监管倡导组织 ControlAI 的美国负责人 Connor Leahy 表示。“我们可以争论政府做得好还是不好，但这关乎权力分立。”
‘科学研究与制造生物武器看起来非常相似’
生物和网络安全研究等双重用途能力对 AI 公司构成了挑战。帮助网络安全研究人员发现并修复软件漏洞的工具，同样可以协助潜在的攻击者。一个帮助研究病毒的 AI 假设可以帮助生物恐怖分子设计出更具致命性的毒株。“网络防御和网络攻击看起来非常相似，”Wildeford 说。“科学研究和制造生物武器看起来也非常相似。”
过去，公司选择对所有人限制这些能力。例如，许多聊天机器人拒绝回答关于哪些 COVID 突变会导致病毒传染性增强的查询。虽然这不会困扰普通用户，但对研究人员来说是一个挑战。“这令人沮丧，”DNA 合成公司 Twist Bioscience 的政策与生物安全副总裁 James Diggans 表示。“但我认为这是正确的做法。”
最近发布的模型为信任方放宽了其中一些限制。OpenAI 表示，它仅向拥有“强大内部控制”以确保模型不会被滥用的组织授予 GPT-Rosalind 的访问权限。Anthropic 已与美国政府机构和私营公司合作，利用 Mythos 发现并修复网络安全漏洞。然而，Batalis 表示，在美国机构之外定义“合法”研究人员更加困难，这引发了国际研究人员的公平性担忧。
决定哪些模型应该受到访问限制是一项微妙的平衡工作，且因领域而异。Diggans 说，衡量一个 AI 模型是否构成潜在的网络威胁很容易：“它们能破解现有系统吗？”生物研究是一个更复杂、多阶段的过程，比网络攻击耗时更长；目前尚不清楚如果 GPT-Rosalind 这样的模型公开发布，是否会产生危害。“我们知道人们想要并确实在进行网络攻击，”Batalis 说。“但在生物风险方面，我们还没有同样的样本量。”随着 AI 能力的不断进步，其他领域可能会变得更具争议。通信活动在错误的人手中可能被视为宣传行动。
‘网络能力将会扩散’
可以免费下载和运行的开源模型可能会改变围绕 AI 模型限制的考量。根据研究 AI 进展的机构 Epoch AI 的数据，开源模型的能力历来落后于专有模型三到七个月。这意味着，如果这一趋势持续下去，具备 GPT-Rosalind 和 Mythos 级别能力的 AI 模型可能会在年底前公开可用。“网络能力将会扩散，”OpenAI 的发言人表示。“防御者需要更早、而不是更晚获得更好的工具。”
开源模型可能会让国际网络攻击者受益。11 月，Anthropic 宣布其挫败了一个由中国政府支持的组织，该组织通过屏蔽其对 AI 的访问，一直在使用该公司的付费模型。如果类似的强大模型在开放网络上免费提供，这将削弱西方公司的筹码。
然而，一些开源开发人员此前一直依赖领先专有系统的输出来帮助训练他们的模型。近期对模型的访问限制可能会减缓或阻止最先进的能力扩散到开源模型中——只要公司能够执行这些限制。（据报道，一些未经授权的用户已经成功访问了 Claude Mythos。）
无论开源模型是否能赶上领先的专有模型，Mythos 和 GPT-Rosalind 都是前沿 AI 能力的新底线——而 AI 带来的日益增长的机遇和风险没有放缓的迹象。“我认为政府在管理这一点上有强烈的利益诉求，”Wildeford 说。“我真的不知道如何避开政府干预的必要性。”
本文由第三方内容提供商提供。SeaPRwire (https://www.seaprwire.com/)对此不作任何保证或陈述。
分类: 头条新闻,日常新闻
SeaPRwire为公司和机构提供全球新闻稿发布，覆盖超过6,500个媒体库、86,000名编辑和记者，以及350万以上终端桌面和手机App。SeaPRwire支持英、日、德、韩、法、俄、印尼、马来、越南、中文等多种语言新闻稿发布。