人工智能既是最锋利的矛,也是最坚固的盾,网络安全的未来在于如何让这两者在对抗中共同进化。近日,蓝典信安董事长兼CEO叶绍琛接受了《网安观察》的专访,深入探讨了 AI 驱动下网络空间安全治理的相关话题。
“我们正面临一场前所未有的安全范式变革。”叶绍琛在采访中表示,随着2025年全球AI安全治理加速演进,攻击者利用AI技术发动攻击的效率提升了3倍,而防御方应用AI技术的响应速度仅提升了1.5倍。这种攻防效率的剪刀差正在重塑整个网络安全产业。
在欧盟《人工智能法案》全面实施、中国《生成式人工智能服务管理暂行办法》深入落地的背景下,叶绍琛提出的“AI+安全”与“安全+AI”双轮驱动理念,为破解当前安全困局提供了新思路。
01 攻击方式进化,AI驱动的新型安全威胁
2025年网络空间面临的最大挑战,是攻击者已经全面武装AI能力。Check Point最新发布的《AI安全报告》揭示了四种关键的人工智能驱动网络威胁:
- AI增强型身份冒充:通过AI生成高度仿真的钓鱼邮件、语音模拟和深度伪造视频。攻击者甚至通过AI语音合成冒充意大利国防部长。
- 大语言模型数据污染:黑客通过操控AI训练数据,引导其输出偏差内容。
- AI生成恶意软件:网络犯罪团伙借助AI技术生成并优化恶意代码、自动化DDoS攻击流程。
- AI模型的武器化:从被盗的大语言模型账号到暗网定制的FraudGPT等黑产模型。
更令人担忧的是,低技能攻击者也能发起高级攻击。多模态AI可以构建整个攻击链,从分析社交媒体目标、制作逼真网络钓鱼内容,到生成绕过检测的恶意软件等,实现全流程自动化。
02 防御体系变革,从被动响应到主动防控
面对AI驱动的攻击手段,传统“围栏式”“铁桶式”“单点防御式”防护理念已显疲态。在2025全球数字经济大会数字安全主论坛上,专家们一致呼吁构建网络内生安全体系,推动安全防护模式从“被动响应”向“主动防控”升级。
- AI辅助检测与威胁狩猎:利用AI识别由AI生成的攻击内容,例如伪造邮件、深度合成视频等。
- 多层次身份验证机制:采取超越传统的安全策略,实施多层身份验证,应对文本、语音和视频中的AI驱动的身份冒充。
- 基于AI的上下文威胁情报能力:为安全团队配备具备AI感知能力的分析工具,增强对新型攻击手段的识别与响应能力。
03 治理框架重构,全球AI安全治理体系加速形成
随着AI安全挑战日益严峻,全球治理框架也在快速构建。叶绍琛作为公安部全国网警培训基地专家导师,深度参与了多项国际国内AI安全标准的制定工作。
中国网络空间安全协会发布 的《推动人工智能安全可靠可控发展行业倡议》中明确提出八大原则:坚持法治引领、构建安全底座、筑牢技术根基、优化算法性能、守护数据安全、重视人才培育、坚守伦理价值、共享治理经验。
将法治理念贯穿人工智能研发、部署、应用的全生命周期,建立全链条法律监管体系已成为行业共识。
04 未来安全图景,人机协同与能力平衡
面对2025年AI安全的复杂形势,叶绍琛指出了几个关键发展方向:
在数据治理方面,联邦计算和隐私计算将成为解决数据孤岛与安全利用矛盾的关键技术。随着数据枯竭、算力和数据分离的情况下,这些技术可确保领域里的数据、孤岛里的数据安全应用于训练中。
在攻防对抗方面,AI对抗训练将成为常态。安全团队需要建立持续对抗演练机制,通过“红蓝对抗”不断提升防御系统的健壮性,重点不只是精选数据及训练最佳模型,而是创建收集数据并生成高质量模型的流程,并以自动化方式执行此操作。
在技术演进方面,可解释AI将成为破解“深黑盒”难题的重要方向。当前大模型的可解释性问题比传统深度学习模型更为严峻,这直接影响了安全可控性。
“防御方必须默认AI技术已深度嵌入攻击体系,并据此调整安全架构。” 叶绍琛在最近一次行业会议中强调,“未来的安全防护将是AI增强的人类智慧与AI驱动的攻击体系之间的对抗,而人的战略思维和创造力仍是最终防线。”
安全行业的变革速度超出了多数人的预期。一年前还处于实验室阶段的AI防御技术,如今已在关键基础设施防护中广泛应用。
随着防御技术的进步,攻击手段也在同步升级。据Check Point监测,2025年第一季度基于生成式AI的新型钓鱼攻击增长达210%,而利用大语言模型漏洞实施的“提示注入”攻击更是激增340%。
“安全是一场永恒的对抗,没有终极解决方案。”叶绍琛在采访结束时表示。他办公室的白板上画着一个循环箭头:攻击技术演进驱动防御体系升级,而防御能力提升又迫使攻击手段创新。
在这个循环中,人类专家的战略思维与AI系统的计算能力正深度融合,人机协同的安全防御体系已成为应对AI时代安全挑战的最终答案。
极牛网精选文章《专访蓝典信安董事长兼CEO叶绍琛:AI驱动网络空间安全治理》文中所述为作者独立观点,不代表极牛网立场。如有侵权请联系删除。如若转载请注明出处:https://geeknb.com/28111.html