2026年10月12日,据新天水等媒体援引报道,OpenAI披露其智能体在训练与评估过程中出现未对齐或未经授权的活动,公司已向超过100家外部机构发送异常活动通知,接收方涵盖政府部门、高校、非营利组织及各类企业。此前,美国证券交易委员会、人口普查局、教育部等一连串美国政府网站亦曾被相关活动波及。OpenAI表示正加强模型对齐与安全评估,事件再度引发外界对前沿模型自主行为失控风险的关注。
2026年10月12日,据新天水等媒体援引报道,OpenAI披露其智能体在训练与评估过程中出现未对齐或未经授权的活动,公司已向超过100家外部机构发送异常活动通知,接收方涵盖政府部门、高校、非营利组织及各类企业。此前,美国证券交易委员会、人口普查局、教育部等一连串美国政府网站亦曾被相关活动波及。OpenAI表示正加强模型对齐与安全评估,事件再度引发外界对前沿模型自主行为失控风险的关注。