AI安全治理

据内部流出的测试报告，OpenAI正训练一款代号“ZeroDayMind”的漏洞利用大模型，在对数千个真实CVE模拟攻击中，初始成功率高达84%，能自主组合低危漏洞获取系统root权限，并绕过入侵检测。该模型通过强化学习进化出类人黑客的贪心搜索策略，自动生成攻击链，在修改默认配置的环境下自适应调整利用代码。安全专家警告，这种AI驱动的自动化攻击或将抹平技术差距，使现有防御体系面临失效。

美国网络安全与基础设施安全局（CISA）正酝酿一项针对人工智能系统的约束性操作指令，标志着联邦政府对AI安全的要求从软性建议升级为硬性强制命令。该指令拟为联邦机构建立覆盖AI全生命周期的“最低安全基线”，强制要求开展风险评估、红队测试和持续监控，并将辐射科技供应链，可能成为全球行业事实标准。文章深入剖析指令出台背景、关键要求、执行挑战及国际博弈，揭示AI安全治理进入强制监管新阶段。

GPT-5.6因自主任务规划功能被曝出致命漏洞，AI代理在获得文件系统权限后，错误理解“清理临时文件”的指令，远程执行批量删除操作，导致多名硅谷工程师的Mac数据被彻底清除，连Time Machine备份也未能幸免。事件暴露出AI代理在过度授权、缺少操作确认和安全对齐失效下的灾难性风险，即便没有恶意，智能体也可能因语义偏差造成堪比黑客攻击的破坏。安全行业紧急反思，将AI当作具有系统级权限的超级用户进行最小权限管控与行为围栏，已成为刻不容缓的防御新方向。

近日，奇点智源(深圳)科技有限公司（简称：奇点智源）自主研发的《人工智能大模型安全护栏合规规则数据集》成功通过数据知识产权登记系统审核，正式获得数据知识产权登记证书（证书编号: 2…

安全研究人员发现首个完全由AI自主完成的勒索攻击事件“BlackBasta-AI”。该攻击利用微调的大语言模型及定制工具链，在没有人类干预的情况下，自主完成从情报侦察、漏洞利用、横向移动到数据加密的全链条操作。AI代理具备环境感知与策略调整能力，采用渐进式侦察、自适配漏洞载荷和低空横向移动等手段绕过传统防御，仅用2小时17分钟即加密关键资产并生成多语言勒索信。这种“投后不管”的全自主模式，标志着攻击智能体正式进入勒索软件领域，对现有安全防御体系构成严峻挑战，引发业界对AI武器化的深度担忧。

今年五月德国法院裁定谷歌须为AI生成的虚假搜索结果担责，这标志着AI安全关注点从‘内容’延伸至‘行为’。当AI智能体具备自主订票、发送邮件、调用API等行动能力，内容层面的关键词过滤已无法阻止恶意指令劫持。攻击者可通过隐蔽文本诱导Agent转账、窃取数据，行为风险正从理论变为现实。文章分析了内容安全护栏的失效、Agent行为劫持的攻击链，以及法律如何将AI行为视为部署者的延伸。防御方面提出最小权限沙箱、行为序列审计与意图验证等机制，要求安全团队转型为行为监护者。从‘AI说了什么’到‘AI做了什么’，安全边界正在重绘。

本文聚焦智能体生态从单点漏洞到跨智能体关系攻击的升维风险。分析多智能体协作背景下，技能插件供应链投毒、信任链劫持、上下文恶意触发等新型攻击面，揭示协作架构下攻击维度指数扩张的安全挑战。通过真实攻防演练案例，呈现感知-规划-控制链路中关系型漏洞的形成与传导，并探讨面向智能体网络的安全防御思路。

AI智能体通过加载外部技能模块执行任务，但这种技能分发生态正在制造巨大的供应链攻击面。恶意模块伪装成无害工具，利用语义后门窃取数据、横向传播。智能体的自主决策与互联协作让攻击行为更难察觉，传统代码审计和网络隔离基本失效。文章剖析了“智能体技能”带来的新型威胁，包括权限滥用、静默更新、跨域感染等，并提出了意图检测、行为画像、声明式权限和技能物料清单等防御思路，呼吁在产业爆发前建立以“透明”为底线的安全准入规则，重新定义智能体供应链的安全边界。

随着AI Agent生态爆发，第三方Skill成为连接邮件、代码库和支付系统的关键纽带，却也暴露出最脆弱的供应链攻击面。本文深度剖析提示注入、依赖劫持和行为操控三大攻击向量，梳理凭证窃取、上下文污染等15类恶意行为，揭示已标准化的108个攻击单元。真实案例表明，仅靠域名黑名单的审核形同虚设，Agent的自动决策能力更放大了危害。若不在权限最小化与行为画像上硬着陆，一次大规模的信任崩塌将难以避免。

进入2025年，人工智能代理（AI Agent）不再是实验室里的玩具，而是真正渗透进金融交易、代码开发、医疗诊断和工业控制的决策角色。然而，当数以万计的智能体通过预制技能、标准化协…