推荐专题 网络安全专题推荐 更多 »

  • 当AI开始“动手”:从内容安全到行为安全的临界点

    今年五月德国法院裁定谷歌须为AI生成的虚假搜索结果担责,这标志着AI安全关注点从‘内容’延伸至‘行为’。当AI智能体具备自主订票、发送邮件、调用API等行动能力,内容层面的关键词过滤已无法阻止恶意指令劫持。攻击者可通过隐蔽文本诱导Agent转账、窃取数据,行为风险正从理论变为现实。文章分析了内容安全护栏的失效、Agent行为劫持的攻击链,以及法律如何将AI行为视为部署者的延伸。防御方面提出最小权限沙箱、行为序列审计与意图验证等机制,要求安全团队转型为行为监护者。从‘AI说了什么’到‘AI做了什么’,安全边界正在重绘。

    10小时前
    05
  • 从漏洞孤岛到关系毒化:智能体生态的安全攻防升维

    本文聚焦智能体生态从单点漏洞到跨智能体关系攻击的升维风险。分析多智能体协作背景下,技能插件供应链投毒、信任链劫持、上下文恶意触发等新型攻击面,揭示协作架构下攻击维度指数扩张的安全挑战。通过真实攻防演练案例,呈现感知-规划-控制链路中关系型漏洞的形成与传导,并探讨面向智能体网络的安全防御思路。

    2天前
    017
  • 当AI智能体学会“点技能”:恶意模块如何撕开供应链新缺口

    AI智能体通过加载外部技能模块执行任务,但这种技能分发生态正在制造巨大的供应链攻击面。恶意模块伪装成无害工具,利用语义后门窃取数据、横向传播。智能体的自主决策与互联协作让攻击行为更难察觉,传统代码审计和网络隔离基本失效。文章剖析了“智能体技能”带来的新型威胁,包括权限滥用、静默更新、跨域感染等,并提出了意图检测、行为画像、声明式权限和技能物料清单等防御思路,呼吁在产业爆发前建立以“透明”为底线的安全准入规则,重新定义智能体供应链的安全边界。

    2天前
    017
  • 当AI Agent“偷家”:第三方Skill正沦为供应链攻击的特洛伊木马

    随着AI Agent生态爆发,第三方Skill成为连接邮件、代码库和支付系统的关键纽带,却也暴露出最脆弱的供应链攻击面。本文深度剖析提示注入、依赖劫持和行为操控三大攻击向量,梳理凭证窃取、上下文污染等15类恶意行为,揭示已标准化的108个攻击单元。真实案例表明,仅靠域名黑名单的审核形同虚设,Agent的自动决策能力更放大了危害。若不在权限最小化与行为画像上硬着陆,一次大规模的信任崩塌将难以避免。

    2天前
    019
  • 智能体生态链暗战:AI安全从模型守护到技能与协议攻防

    进入2025年,人工智能代理(AI Agent)不再是实验室里的玩具,而是真正渗透进金融交易、代码开发、医疗诊断和工业控制的决策角色。然而,当数以万计的智能体通过预制技能、标准化协…

    2天前
    031
  • AI智能体技能潜藏风险,模安局警示新型安全威胁

    随着AI智能体产品在企业核心流程的广泛应用,其技能生态中暗藏的安全漏洞日益凸显。模安局发布风险通告,指出利用技能包实施供应链攻击的案例增多,呼吁建立技能安全评估框架。智能体技能生态中的攻击手法隐蔽,常通过第三方技能包中的恶意代码或配置脚本进行。文章深入探讨了智能体技能在供应链安全中的角色,分析了依赖地狱、权限过度开放等问题,并提出了从“用完即弃”到零信任架构的转变,以及生态博弈中如何平衡创新与安全。

    2天前
    013
  • 《AI大模型合规指南》白皮书重磅发布 合规99问全景解析大模型安全合规核心命题

    随着人工智能大模型技术的爆发式发展,大模型AI应用正以前所未有的速度渗透到社会的各行各业。然而,在合规监管逐步完善的环境下,进行AI应用落地的企业和组织正面临着合规困境:从训练数据…

    2026年6月8日
    024.6K
  • 特朗普重启并签署AI网络安全专项行政令:联邦强制部署AI防御

    2026 年 6 月 3 日,美国总统特朗普正式签署《促进先进人工智能创新与安全》行政令,重启了两周前突然叫停的综合性 AI 计划中的核心网络安全条款。这份聚焦 “防御…

    2026年6月5日
    024.5K
  • Anthropic的新突破:Claude Code Security安全工具深度解析

    在网络安全领域,尤其是与软件安全的对话中,警报声不断。最近,科技界和学术界都在密切关注Anthropic公司推出的一个新产品:Claude Code Security。这家致力于人…

    2026年6月1日
    024.1K
  • SGLang AI推理框架弱点:从远程代码执行到未授权访问的分析与对策

    随着人工智能技术的迅速发展,众多企业投入大量资源在AI研究和产品开发上。SGLang作为一个AI推理框架,在业内正在逐渐受到关注。然而,与其业务范围的壮大相对应,其安全风险也同步激…

    2026年5月9日
    025.1K
点击查看更多
                扫码关注
                扫码关注
                分享本页
                返回顶部