OpenAI 首席执行官 Sam Altman 表示，Astra AI 将“全面开放”，但其网络安全功能仍需更多安全措施。

该公司周五表示，不能排除Astra达到其“准备框架”中规定的“关键”网络安全能力阈值的可能性。因此，OpenAI在进行更大规模的发布之前，引入了更严格的安全控制措施、扩大了监控范围，并增加了额外的测试要求。

就在几天前，OpenAI 公布了其内部版本的 Astra 模型所产生的数学研究成果。据报道，该模型在数学和理论计算机科学领域解决了一些长期存在的难题，并取得了新的成果，这凸显了 OpenAI 在发布下一个主要模型之前正在评估的更广泛的能力。

尽管采取了额外的预防措施，OpenAI 首席执行官 Sam Altman 表示，公司仍然计划将 Astra 全面开放给公众使用。他认为，功能日益强大的人工智能不应仅限于少数用户。

OpenAI因网络风险放缓Astra AI的发布。

Altman 在X 上发帖称，Astra 是一个“强大的模型”，OpenAI 正在努力使其“普遍可用”。

该声明反映了 OpenAI 的更广泛做法，即在扩大对高级人工智能的访问范围的同时，对可能造成重大安全风险的功能引入额外的控制措施。

“我们认为将强大的模型保留给少数人并不是一个好策略，”奥特曼说。

然而，他承认阿斯特拉公司的网络安全能力改变了时间表。“鉴于其网络安全能力，我们需要更多时间来安全地完成这项工作，”奥特曼说，“但希望不会太久！”

Sam Altman证实，Astra先进的网络安全能力已导致OpenAI将其列为“严重”网络安全风险，促使OpenAI采取更严格的安全措施并暂时放缓开发速度。来源：Sam Altman via X

OpenAI的立场与其近期致力于向授权防御者推广人工智能驱动的网络安全工具的努力相一致。该公司指出，网络安全领域中，更强大的人工智能可以带来显著的益处，但如果这些能力被滥用，也会带来新的风险。

该公司已经开发了诸如“网络安全可信访问”之类的程序，该程序为经批准的安全专业人员和组织提供更强大的模型，以便在额外的安全保障下进行授权的防御工作。

然而，对于Astra，OpenAI似乎采取了更为谨慎的态度。该公司表示，近期评估显示，Astra在智能体编码和网络安全方面取得了显著进展，这促使专家和内部团队评估该模型是否能够满足其“准备框架”中最高的网络安全风险等级要求。

在该框架下，“严重”类别代表着网络安全能力风险的最高级别。OpenAI 的框架要求，当模型达到该阈值时，必须停止开发，直到采取适当的保障措施和安全控制措施为止。

OpenAI 延迟发布 Astra AI

OpenAI 已暂停所有不符合新加强的安全要求的 Astra 内部活动，同时继续评估该模型。

该公司还对Astra的智能体应用程序实施了全面监控，并在评估潜在风险行为时采用了更加严格控制的测试环境。OpenAI表示，这些额外措施旨在提高其在模型广泛开放之前识别和应对安全问题的能力。

OpenAI 将 Astra 指定为其“准备框架”下的首个“关键”网络安全模型，这触发了开发过程中的强化安全控制措施。来源：OpenAI via X

该公司强调，Astra本身与近期涉及OpenAI模型和开源AI平台Hugging Face的网络安全事件无关。该事件涉及的是其他在测试环境中运行的模型，而非Astra。

然而，此次事件发生之际，正值业内就如何有效控制先进人工智能系统在测试过程中的行为展开广泛讨论之时。近几个月来，Anthropic、Meta 和中国人工智能开发商Moonshot AI也披露了模型超出预期测试范围的事件。

因此，OpenAI 的最新举措不仅仅是一次例行的版本调整。它表明，随着人工智能系统能够处理更长、更复杂的任务，模型评估对开发决策的影响日益增强。

该公司尚未公布Astra的具体发布日期。Altman的评论表明，OpenAI仍然致力于在必要的安全措施到位后进行大规模推广，而不是因为该模型的网络安全问题而放弃公开发布。

这种方法与OpenAI更广泛的网络安全战略相契合。今年4月，该公司发布了一项行动计划，呼吁更广泛地使用人工智能驱动的防御工具，同时加强对前沿网络能力的保护。OpenAI表示，其目标是在确保适当可见性和控制力的前提下，将先进技术交到防御者手中。

Astra的公告紧随OpenAI的另一项重大披露之后。8月1日，OpenAI表示，其模型的内部版本已在数学、量子复杂性和理论计算机科学领域的10个长期难题上取得了成果。OpenAI称，这项工作包括机器可验证的Lean证书，为已公布的结果增加了一层形式化验证。

这一系列公告使Astra公司因其卓越的研究成果和网络安全能力而备受关注。OpenAI目前正试图在这些进步与公开发布所需的管控措施之间取得平衡。

目前，该公司的表态仍然一致：Astra 旨在广泛应用，但其发布将取决于 OpenAI 能否建立能够与其日益强大的功能相匹配的安全保障措施。