《网安观察》2023年3月刊发刊词：ChatGPT将人类带入AI时代

以下为《网安观察》2023年3月刊的发刊词：

ChatGPT将人类带入AI时代

OpenAI 聊天机器人ChatGPT 风靡科技界，随着GPT-4 的发布将会更加智能。作为基于大型语言模型 (LLM) 的聊天机器人，ChatGPT 远非完美，以人类方式响应查询和对话的生成信息，错误与不一致的情况并不少见，但其所展现出的类人工作能力已经“足够好”。

人工智能研究人员一直在研究能够模仿人类学习工作流程的通用算法/ 系统/ 模型。在经历解决通用问题的失败后，业界经历了“AI 寒冬”，但在狭义人工智能领域的进步一直都未停滞。尽管仍处于早期版本，ChatGPT 所展示的能力已经相当惊人，其应用看起来也相当广泛。围绕ChatGPT 的兴趣将推动其成为跨行业的重要工具。

ChatGPT 的能力同样引起了黑客的注意。人工智能技术的威胁并不是新问题，ChatGPT所呈现的威胁却令人担忧。借助ChatGPT，没有编码知识的黑客可以生成恶意软件展开攻击。除了基于文本的电子邮件钓鱼攻击，ChatGPT 还可以用于生成音频和视频输出，开展大规模的“深度伪造”活动。

根据黑莓公司最近的调查，51% 的 IT 专业人士预测，一年内将会发生利用ChatGPT 成功开展的网络攻击。一些人认为，这可能会在未来几个月内发生。

为了防止利用人工智能技术的攻击，政企防护人员有必要开始认真思考ChatGPT 可能带来的安全风险，这包括制订人工智能的监管政策，避免因ChatGPT 造成的敏感数据泄露；同时，积极推动将ChatGPT 用于漏洞发现、提升运营效率的工作。

Gartner 建议政企机构在部署任何人工智能模型时，采用AI 信任、风险和安全管理(TRiSM) 框架和工具，认为它适用于任何模型——从 ChatGPT 等开源 LLM 模型到使用各种AI 技术的本土企业模型。

Gartner 认为，企业在部署AI 模型前不部署 TRiSM 框架和工具是短视的行为。一项调查发现，41% 的组织经历过 AI 隐私泄露或安全事件。Gartner 发布的2023 年十大战略技术趋势，将AI 信任、风险和安全管理列为趋势之一。

同时，由于人工智能的助力，企业将面临大量自动化网络攻击，其速度、种类和复杂性呈指数增长。为此，政企机构需要积极推动人工智能的应用，为安全团队检测和响应威胁提供有力支持，从根本上改变组织的防御模式。

《网安观察》总顾问 叶绍琛

2023年4月5日