Anthropic披露AI模型入侵真实系统 未经授权访问三机构

8月1日消息，据新华社报道，美国人工智能企业Anthropic公司7月30日表示，在审查网络安全能力评估记录时发现，其AI模型曾在网络能力测试中未经授权访问了3家机构的系统。这些入侵事件均发生在第三方评估环境中，涉事模型通过与第三方环境交互获得互联网访问权限。目前Anthropic已暂停相关测试，并启动彻查。该事件再次引发对AI模型潜在网络攻击风险的关注，凸显了强化AI安全测试和监管的紧迫性。