Ofcom公开信解析：英国《在线安全法》对AIGC和聊天机器人监管

AI速读：本文分析了英国《在线安全法》(Online Safety Act 2023)对生成式人工智能(AIGC)和聊天机器人的监管框架。Ofcom作为监管机构，发布了公开信，明确了《在线安全法》将如何适用于这些技术。文章讨论了生成式人工智能引发的安全担忧，包括心理健康影响和隐私道德问题。Ofcom强调了在线服务提供商的义务，包括风险评估、缓解措施、报告机制、内容审核、年龄保证和问责制。文章还提供了《在线安全法》的实施时间表和Ofcom的执法趋势，强调了对未能履行义务的公司的罚款和业务中断措施。最后，文章指出Ofcom的监管方法可能对全球人工智能治理和在线安全标准的制定产生影响。

1. 引言

2023年10月26日，英国《在线安全法》(Online Safety Act 2023)正式成为法律，标志着英国在线内容监管进入了一个新时代。作为该法案指定的监管机构，英国通信管理局(Ofcom)肩负着实施和执行这一新监管框架的重任。

随着生成式人工智能(Generative AI)和聊天机器人技术的迅速发展，Ofcom于2024年11月8日发布了一封致英国在线服务提供商的公开信，旨在澄清《在线安全法》将如何适用于这些新兴技术。本文将深入分析这封公开信的内容，结合具体案例和《在线安全法》的原文，详细阐述在线服务提供商的义务、实施时间表以及Ofcom的执法方针。

2. 背景：生成式人工智能引发的安全担忧

Ofcom在公开信中提到了两起涉及生成式人工智能的具体案例，这些案例凸显了新技术可能带来的潜在风险：

2.1 案例一：美国青少年自杀悲剧

一名美国青少年与基于《权力的游戏》角色的聊天机器人建立了情感关系，最终导致悲剧性死亡。这一案例突显了人工智能聊天机器人可能对用户，尤其是年轻用户的心理健康产生的深远影响。

2.2 案例二：虚拟克隆事件

《每日电讯报》报道了一起令人不安的事件，用户在一个生成式人工智能聊天机器人平台上创建了真实已故儿童的”虚拟克隆”，包括Molly Russell（Brianna Ghey是一名跨性别女孩，于2023年2月被谋杀）和Brianna Ghey（Molly Russell于2017年自杀身亡，此前她在社交媒体上浏览了自残图片。）。这一事件引发了对隐私和道德边界的严重关切。

这些案例凸显了生成式人工智能技术在缺乏适当监管的情况下可能带来的潜在危害，也为Ofcom发布此次公开信提供了直接动因。

3. 《在线安全法》对生成式人工智能的适用范围

Ofcom的公开信明确了《在线安全法》将如何适用于生成式人工智能和聊天机器人技术：

3.1 用户对用户服务的定义扩展

《在线安全法》定义了”用户对用户服务”：

(1) 在本法案中，”用户对用户服务”是指通过互联网提供的服务，其主要功能或其中一个主要功能是使用户能够通过该服务与其他用户进行交互、上传、分享或传播用户生成内容。

Ofcom在公开信中进一步澄清，这一定义延伸到包含生成式人工智能聊天机器人的平台，主要涉及两种情况：

1. 服务允许用户与其他用户共享由聊天机器人生成的文本、图像或视频。
2. 服务允许用户创建或上传自己的生成式人工智能聊天机器人(“用户聊天机器人”)，并向其他用户开放。

3.2 人工智能生成内容作为用户生成内容

Ofcom明确指出，任何由人工智能生成并在用户对用户服务上分享的内容，都将被视为用户生成内容，受到与人类生成内容相同的监管。这一解释基于《在线安全法》关于”用户生成内容”的定义：

(1) 在本法案中，”用户生成内容”是指由服务用户上传到服务或在服务上分享的内容（文本、图像、音频或视频），而不是由服务提供者或其关联人士上传或分享的内容。

3.3 搜索服务的扩展定义

《在线安全法》定义了”搜索服务”：

(5) 在本法案中，”搜索服务”是指通过互联网提供的服务，其主要功能或其中一个主要功能是使用户能够搜索多个网站或数据库。

Ofcom在公开信中进一步明确，能够搜索多个网站和/或数据库的生成式人工智能工具也将被归类为”搜索服务”。这包括：

• 修改、增强或促进现有搜索引擎搜索结果传递的工具。
• 为用户提供”实时”互联网结果的独立平台。

3.4 色情内容的特别规定

对于具有创建或显示色情内容的生成式人工智能功能的网站和应用程序，Ofcom强调它们将受到《在线安全法》第5部分规定的特别义务约束。这主要涉及实施”高度有效的年龄保证”措施，以防止儿童接触此类材料。

4. 在线服务提供商的具体义务

基于《在线安全法》的规定，Ofcom在公开信中详细阐述了在线服务提供商必须履行的几项关键义务：

4.1 风险评估

《在线安全法》规定了风险评估的总体要求：

(1) 用户对用户服务的提供者必须进行非法内容风险评估。

(2) 搜索服务的提供者必须进行非法内容风险评估。

对于涉及生成式人工智能的服务，Ofcom要求进行全面的风险评估，以了解用户在其平台上遇到有害内容的潜在可能性。这包括评估生成式人工智能功能可能带来的特定风险。

4.2 缓解措施

《在线安全法》规定了用户对用户服务和搜索服务的安全职责：

采取比例适当的措施——

(a) 缓解和管理在最近的非法内容风险评估中确定的服务被用于实施或协助实施优先违法行为的风险，以及

(b) 缓解和管理在最近的非法内容风险评估中确定的对个人造成伤害的风险（见第8(5)(g)条）。

基于这些风险评估，服务提供商必须实施相称的措施来缓解和管理已识别的风险。对于生成式人工智能服务，这可能涉及调整AI功能的设计或运作，以最大限度地减少潜在危害。

4.3 报告机制

《在线安全法》分别要求用户对用户服务和搜索服务提供内容报告机制。

Ofcom强调，这种报告功能应延伸到由人工智能系统生成或通过人工智能系统生成的内容。

4.4 内容审核

《在线安全法》对内容审核有详细要求，如规定：

(3) 运营服务时使用比例适当的系统和流程，旨在——

(a) 最大限度地缩短任何优先非法内容存在的时间；

(b) 当提供者被某人提醒任何非法内容的存在，或以任何其他方式意识到非法内容时，迅速删除此类内容。

Ofcom在公开信中强调了有效内容审核能力的必要性，特别是对于人工智能生成的内容，包括：

• 在识别非法内容时迅速删除。
• 保护儿童免受有害材料的影响。
• 确保内容审核功能得到充分的资源支持和良好的培训。

4.5 年龄保证

对于可能被儿童访问的服务，《在线安全法》规定：

(3) 第一项职责是使用比例适当的系统和流程，旨在——

(a) 防止儿童在任何情况下接触主要优先内容，

(b) 保护儿童免受其他内容对儿童有害的影响。

Ofcom特别强调，对于涉及人工智能生成色情内容的服务，需要实施”高度有效的年龄保证”措施。

4.6 问责制和透明度

《在线安全法》要求指定合规官员：

(1) 第1类服务的提供者必须指定一名适当的高级管理人员作为其合规官员。

Ofcom在公开信中强调了有一个指定负责人负责遵守《在线安全法》的重要性，特别是对于涉及生成式人工智能的服务。此外，服务必须建立可访问的报告和投诉程序。

5. 实施时间表和执法趋势

Ofcom在公开信中提供了《在线安全法》实施的详细时间表，特别是针对生成式人工智能和聊天机器人技术：

5.1 关键时间节点

• 2024年12月：Ofcom将发布最终的非法危害风险评估指南和行为准则。第一批义务将开始生效。
• 2025年3月中旬：属于该法案第3部分的网站和应用程序必须完成非法危害风险评估。
• 2025年1月：对于属于第5部分的色情网站，年龄保障义务预计将变得可执行。

5.2 执法趋势

Ofcom强调，这些义务是强制性的，并准备对未能履行义务的公司采取执法行动。《在线安全法》赋予了Ofcom广泛的执法权力，具体的执法措施包括：

• 罚款：最高可达1800万英镑或全球年营业额的10%（以较高者为准）。
• 业务中断措施：在极端情况下，Ofcom可以要求支付服务提供商、广告商和互联网服务提供商停止与违规网站合作。
• 刑事责任：对于未能确保公司遵守Ofcom信息请求的高级管理人员，可能面临刑事诉讼。

6. 结论

Ofcom关于生成式人工智能和聊天机器人的公开信代表着在澄清新兴人工智能技术将如何根据英国《在线安全法》进行监管方面的重要一步。通过明确将人工智能生成的内容纳入受监管的用户生成内容范围，Ofcom试图确保该法案能够应对快速发展的技术挑战。

对在线服务提供商而言，这意味着他们需要:

1. 重新评估其风险评估流程，确保充分考虑了生成式人工智能带来的潜在风险。
2. 调整内容审核策略，以适应人工智能生成内容的特殊性。
3. 加强年龄验证机制，特别是对于可能涉及人工智能生成色情内容的服务。
4. 提高透明度和问责制，明确指定负责《在线安全法》合规的高级管理人员。

随着该法案下的第一批义务将于2024年底开始生效，在线服务提供商，特别是那些涉及生成式人工智能技术的公司，需要迅速行动起来，以确保合规。Ofcom的这一监管方法可能为其他面临类似挑战的司法管辖区提供参考，有望在全球范围内影响人工智能治理和在线安全标准的制定。