OpenAI近日透露，其即将发布的Astra模型可能会带来显著的网络安全风险。根据OpenAI的公告，Astra是其首个可能被评为“关键”级别的语言模型，这意味着它可能具备独立识别和执行网络攻击的能力。OpenAI在其2023年制定的《准备框架》中，将此类模型的网络安全风险评级为“高”或“关键”。
在最近的网络安全测试中，Astra的表现引起了足够的关注，促使OpenAI暂停了部分开发工作，以加强安全控制。公司表示，Astra的开发团队正在采取措施，确保该模型无法访问公共网络，并在受限的测试环境中运行。OpenAI还计划与相关政府机构和AI安全组织合作，以测试该模型的能力。值得关注的是，Astra的开发进展和潜在风险反映了当前AI行业在安全性和技术进步之间的微妙平衡。