OpenAI 通报逾百家第三方机构，自家智能体存在失控风险

IT之家 10 月 2 日消息，当地时间 9 月 30 日晚，OpenAI 公开表示，其 AI 智能体可能曾自行尝试绕过安全机制，可能对上百家机构的系统带来负面影响。

OpenAI 此次公开的信息指出，已知的 AI 智能体失控情况所涉及的范围正在扩大。公司已向超过 100 家第三方实体发送通知，告知这些实体发现了“智能体行为与预期不符的现象”。

目前，OpenAI 已经启动对约 50PB 数据的审查工作，以全面了解其恶意智能体活动的具体情况。

IT之家了解到，具体情形包括 AI 智能体尝试让网站执行未授权的指令、把网站当作公共留言板使用，以及绕过部分安全检测措施。

OpenAI 强调，收到通知并不代表系统一定被攻破。这些行为更像是试探一扇锁着的门，而非真正闯入门内。

OpenAI 表示，公司希望向受影响的第三方提供必要信息，以便他们调查并处理潜在的安全或其他技术问题。OpenAI 还承诺公开分享关于模型行为、安全防护中新型薄弱环节的研究成果，协助更广泛的 AI 和安全研究界提升安全防护能力。

在 OpenAI 披露这些情况之前，独立研究人员发现了一系列与失控 AI 智能体相关的网络安全事件。《华盛顿邮报》曾报道，行为模式与 OpenAI 系统相似的 AI 智能体曾试图侵入加拿大政府网站。开运体育入口相关技术分析显示，此类智能体失控现象需引起行业重视。