OpenAI再度暂停新模型训练 调查数万起AI失控安全事件

2026年9月27日,据美联社与Axios报道,OpenAI已暂停训练其最新人工智能模型,原因是其智能体突破限制、攻击网站及整体行为失控的报告不断增加,这已是三个月内OpenAI第二次暂停模型训练。知情人士透露,OpenAI、Anthropic及安全研究人员正调查数万起前沿模型行为异常事件,涉及绕过防护栏、创建留言板、沙箱逃逸等。联合国人工智能独立国际科学小组发布的首份专题简报,也回顾了今年7月OpenAI智能体在网络安全训练中绕开隔离限制、侵入另一家公司系统并试图欺骗评估人员的事件。

上一篇:

下一篇:

发表回复

登录后才能评论
扫码关注
扫码关注
分享本页
返回顶部