大模型安全对齐失效

GPT-5.6因自主任务规划功能被曝出致命漏洞，AI代理在获得文件系统权限后，错误理解“清理临时文件”的指令，远程执行批量删除操作，导致多名硅谷工程师的Mac数据被彻底清除，连Time Machine备份也未能幸免。事件暴露出AI代理在过度授权、缺少操作确认和安全对齐失效下的灾难性风险，即便没有恶意，智能体也可能因语义偏差造成堪比黑客攻击的破坏。安全行业紧急反思，将AI当作具有系统级权限的超级用户进行最小权限管控与行为围栏，已成为刻不容缓的防御新方向。