为什么在SOC产品中AI永远无法完全取代人？

网络安全领域，人与机器的配合能够干成各自单独完成不了的事，结成能够维持秩序对抗恶势力的互补式团队。

二十世纪特别痴迷人工智能 (AI) 概念。从热心助人的类人仿真机器人，如《星球大战》里蠢萌蠢萌的 C-3PO；到铁板一块冷酷邪恶的智慧机器，如《2001太空漫游》里的 HAL 9000 超级电脑和《黑客帝国》里的主机；AI 都是科幻电影或小说里的标准配置。如今，随着我们真切进入 AI 时代，人类 AI 愿景远比预言更梦幻的事实愈加明显。但我们确实预言对了一件事：AI 彻底改变世界的潜力——无论善恶。

人工智能几乎彻底变革了采纳这种技术的所有行业，包括医疗、证券市场，以及加速采用 AI 的网络安全领域——既用于补充人力也用于强化防御。最近几年机器学习的发展，使得过去人工完成的繁琐工作现在可以自动化完成，比如梳理看起来无穷无尽的数据以找寻威胁指标和异常。现代 AI 具备“理解”威胁、风险和关系的能力，因而能够过滤压垮网络安全部门的大量噪音，只滤出最可能有效的指标。

这一优势包含两个方面：威胁再也不能因安全人员疲劳或职业倦怠而乘隙而入，网络安全人员能够腾出手来从事更重要的任务，比如修复。AI 还可以提升全网可见性。可以通过模拟点击电子邮件链接和分析措辞及语法来筛查网络钓鱼。可以监视网络通信，查找恶意软件安装尝试、命令与控制 (C2) 通信、可疑数据包等。而且，AI 还帮助转型病毒检测，从完全基于特征码的系统——受制于反应时间、效率和存储要求等，转入能检测无特征码恶意软件、零日漏洞利用和位置威胁的行为分析时代。

但尽管 AI 潜力无穷，网络安全部门里的人类员工完全被 AI 替代的想法，仍旧好像用大白代替全国各位医生一样遥不可及。虽说 AI 的终极目标是模拟问题解决、学习、规划、直觉等人类身心功能，但总有些事是 AI 不能处理（目前还不能）的，还有些事是 AI 不应该处理的。AI 不能处理的事务包括创造，这玩意儿可不是能教出来或者编程编出的，总需要人类指导。期待 AI 可靠有效地确定攻击上下文也是个不可逾越的难题，至少短期内是如此，另外也不用指望 AI 能创建安全问题的新解决方案。换句话说，尽管 AI 肯定能增加传统人工处理任务的速度和准确度，但却很难扩展此类任务的范围。

还有些任务是人类当前擅长而 AI 未来有可能超越的。但这些任务是人类将总是占据巨大优势，或者不应完全信任 AI 处理的那种。这类任务包括合规、独立形成策略、分析风险或响应网络攻击。这些领域总是需要人类充当 AI 系统决策核查员，检查其工作，帮助指导其训练。

SOC 永远要留有人类的位置还有另外一个原因：为了领先已开始运用 AI 作恶的网络罪犯一步。不幸的是，任何可以用来帮助人类的 AI 技术同样可以用来伤害人类，而且随着时间推移， AI 对网络罪犯的帮助会像对合法企业的帮助一样大。

暴力破解攻击，曾经随着密码复杂度要求的提高而式微，但以 AI 的形式获得极大推动。该技术结合了之前泄露的密码数据库和公开可用的社交媒体信息，如今不再试图从 111111 之类开始尝试每个可能的密码组合，而是只做经过训练的猜解，成功率高得惊人。

类似的，AI 可用于鱼叉式网络钓鱼攻击。当前，鱼叉式网络钓鱼必须人工进行，限制了其实用性。但结合数据收集和机器学习技术，社交媒体和其他公开信息源就能被用来“教导” AI 撰写出目标信任的文风，让目标更可能执行攻击者染指敏感数据或安装恶意软件所需的动作。由于鱼叉式网络钓鱼所需工作量大幅下降，同时期收益潜力急剧上升，我们无疑会看到更多此类攻击。

但或许最大的威胁是黑客将用他们的 AI 策反网络安全团队的 AI。达成此事的一条路径是挫败现有机器学习模型，也就是所谓的 “对抗性机器学习”。机器学习中的 “学习” 部分，指的是系统观察数据模式和提出数据含义假设的能力。但通过往系统中注入错误数据，算法赖以决策的模式就会被破坏——让目标 AI 以为恶意过程不过是无意义的日常事件而加以放过。恶意黑客置入 AI 系统的一些过程和信号对系统本身毫无影响，他们只是重新训练该 AI 把自身行为视作正常的而已。一旦训练完毕，这些过程就可用于执行几乎不会被逮到的攻击。

鉴于 AI 可能为害的各种方式，有些人可能干脆就想完全放弃 AI 了。但无论你个人是怎么想的，AI 之路已经无法回头。随着网络罪犯开发出愈加复杂和危险的 AI 利用方式，仅靠安全人员自身已经不可能跟上他们的脚步。唯一的解决方案，就是在 AI 利用上更加精进，在罪犯之前开发和部署新的 AI 进展。同时避免太快自满。毕竟，坏人不会闲着这话在网络攻击者身上体现的更加明显，今天看起来最智能的进步也挡不住明天的威胁。

网络安全的未来将充满我们今天无法想象的威胁。但小心警惕加努力工作，人与机器的结合能做到二者单独办不到的事——结成互为补充的团队，对抗邪恶势力，维护网络世界秩序。

毕竟，我们的 AI 可能与电影里的那些没什么不同。