2025外滩大会：AI驱动之下，探索网络安全的未来边界

2025 Inclusion·外滩大会在上海举行，大会期间“AI驱动的变革与挑战：重构网络安全的未来边界”见解论坛同步举办。

本次论坛由上海市互联网业联合会网络和数据安全委员会、中关村金融科技产业发展联盟主办，上海市信息安全行业协会、上海市科协第五空间信息科技研究院、蚂蚁集团协办，聚焦人工智能技术加速落地引发的网络安全范式变革，通过产、学、研、用多方视角解读和探讨AI驱动下的安全挑战和可信智能防线。

公安部第三研究所副所长金波，上海市委网信办网络安全处处长单滨，中关村金融科技产业发展联盟秘书长、中关村互联网金融研究院院长刘勇出席论坛并致辞。

公安部第三研究所副所长金波

金波在致辞中指出，人工智能正与经济社会各行业各领域广泛深度融合，它带来前所未有的机遇，也伴随技术竞争、监管压力与安全风险。我国始终秉持“发展中治理，在治理中发展”的理念，系统应对人工智能安全风险。他期望在保障国家安全、公共安全的前提下，完善触发式监管标准体系及政策落地，创新监管机制，坚持包容与审慎结合。他还呼吁加强技术研发、完善标准体系、提升安全意识与人才培养、强化各方安全协同与共治，筑牢AI时代安全防线，护航数字中国高质量发展。

上海市委网信办网络安全处处长单滨

单滨表示人工智能正重塑经济社会发展格局，也给网络空间安全带来了新的机遇和挑战。国务院出台的《关于深入实施“人工智能+”行动的意见》明确提出推动“人工智能+治理能力”，强化网络空间治理与安全能力建设，促进人工智能应用合规、透明、可信赖。为此需要加强前沿技术创新，以AI赋能网络安全产业发展；聚焦国家与社会需要，应对AI在医疗、金融等专业领域应用所产生的新型网络安全威胁；构建开放协同的安全生态，加强产、学、研深度融合合作等。

圆桌研讨环节，由蚂蚁集团资深算法专家仲震宇担任主持，中关村金融科技产业发展联盟理事长、中科软科技股份有限公司董事长左春 ，亚马逊云科技资深首席科学家、亚马逊云科技上海人工智能研究院院长张峥，公安部网络安全等级保护评估中心主任助理王勇，上海第五空间信息科技研究院理事长朱易翔围绕“重构信任基石——大模型安全的挑战突围、可信应用新范式”展开了热烈讨论，结合行业实践交流了大模型专业应用的安全风险与应对措施。

论坛上，蚂蚁集团副总裁兼首席技术安全官、蚂蚁密算科技有限公司董事长韦韬宣布了团体标准《大模型金融领域可信应用参考框架(征求意见稿)》正式启动意见征求的消息。该标准项目由蚂蚁科技集团股份有限公司牵头，联合公安部网络安全等级保护评估中心、浙江网商银行股份有限公司、国投证券股份有限公司、北京知其安科技有限公司、北京前沿金融监管科技研究院、浙江省网络空间安全协会、网联清算公司、青岛银行、兴业银行、上海第五空间信息科技研究院等机构共建。

标准提出大模型在金融领域可信应用的参考框架，核心思想在于借鉴人类社会在管理复杂专业系统时采用的成功机制，通过系统工程的思维，在基础大模型自身仍存在可靠性问题时，为大模型构建一个外部的、确定性的、可验证的控制与保障体系，从而使大模型在执行过程中出现偏差，该体系也能确保最终结果的正确性与可靠性。标准期望能够帮助行业中的开发者和应用者更好地推动大模型在金融领域中的应用深化和场景拓展。

AI时代，如何让技术得到更好的应用，以高水平安全护航高质量发展，是我们必须回答的命题。蚂蚁集团希望与更多行业同仁携手探索网络安全的新基准、新范式，在拥抱技术创新的同时，筑牢AI安全与可信防线，让科技发展成果更好地释放价值。