9月10日至13日，2025 Inclusion·外滩大会在上海举行，大会期间“AI驱动的变革与挑战：重构网络安全的未来边界”见解论坛同步举办。
本次论坛由上海市互联网业联合会网络和数据安全委员会、中关村金融科技产业发展联盟主办，上海市信息安全行业协会、上海市科协第五空间信息科技研究院、蚂蚁集团协办，聚焦人工智能技术加速落地引发的网络安全范式变革，通过产、学、研、用多方视角解读和探讨AI驱动下的安全挑战和可信智能防线。
公安部第三研究所副所长金波，上海市委网信办网络安全处处长单滨，中关村金融科技产业发展联盟秘书长、中关村互联网金融研究院院长刘勇出席论坛并致辞。
金波在致辞中指出，人工智能正与经济社会各行业各领域广泛深度融合，它带来前所未有的机遇，也伴随技术竞争、监管压力与安全风险。我国始终秉持“发展中治理，在治理中发展”的理念，系统应对人工智能安全风险。他期望在保障国家安全、公共安全的前提下，完善触发式监管标准体系及政策落地，创新监管机制，坚持包容与审慎结合。他还呼吁加强技术研发、完善标准体系、提升安全意识与人才培养、强化各方安全协同与共治，筑牢AI时代安全防线，护航数字中国高质量发展。
公安部第三研究所副所长金波
单滨表示人工智能正重塑经济社会发展格局，也给网络空间安全带来了新的机遇和挑战。国务院出台的《关于深入实施“人工智能+”行动的意见》明确提出推动“人工智能+治理能力”，强化网络空间治理与安全能力建设，促进人工智能应用合规、透明、可信赖。为此需要加强前沿技术创新，以AI赋能网络安全产业发展；聚焦国家与社会需要，应对AI在医疗、金融等专业领域应用所产生的新型网络安全威胁；构建开放协同的安全生态，加强产、学、研深度融合合作等。
上海市委网信办网络安全处处长单滨
刘勇表示以大语言模型为代表的生成式AI，正成为推动数字化转型的核心引擎，但也带来了大模型可靠性、隐私数据安全等新型网络安全挑战，以金融领域为例，这些问题在合规及资金损益方面会产生重要影响。中关村金融科技产业发展联盟，汇聚了众多产学研用机构，近年来牵头和蚂蚁集团等企业商议共识，形成并持续共建诸多AI驱动时代的安全标准，期待未来和更多的金融科技相关领域的企业、团体协作。
中关村金融科技产业发展联盟秘书长、中关村互联网金融研究院院长刘勇
主题演讲环节，蚂蚁集团副总裁兼首席技术安全官、蚂蚁密算科技有限公司董事长韦韬，亚马逊云科技资深首席科学家、亚马逊云科技上海人工智能研究院院长张峥，CCF YOCSEF秘书长、赛博英杰创始人谭晓生 ，清华大学长聘副教授、网络研究院副院长张超，安恒信息首席安全官、服务中心总裁袁明坤做了精彩分享。
韦韬分享了“高阶程序：专业大模型可信应用的挑战与实践”主题内容。他指出，可靠性挑战是大模型专业应用的最显性障碍，人类保障专业所需的可靠性时找到的解法是“工程化”,即严格执行标准作业程序（SOP）、检查清单、实测检验等机制。大模型则可以通过高阶程序（High-Order Program）来解决。
高阶程序（HOP）具备了编程语言的精确性、可扩展性等优势与自然语言的模糊语义与语境适配等优势，承载了专业领域的关键知识和实践并将其工程化，提供核验机制保障可靠性，提供派生机制扩大适用范围，实现了传统SOP工作成本颠覆性下降。
目前高阶程序已经在事实核验、数据治理等多个专业领域得到应用，在医疗场景中解决了重复收费问题，在金融风控场景实现了成本10-100倍的下降，在网络安全场景中将入侵检测研判的正确率提升到99%以上。
蚂蚁集团副总裁兼首席技术安全官、蚂蚁密算科技有限公司董事长韦韬
张峥发表了“计算裂脑综合征：为何大模型知而不能行”的主题演讲。大型语言模型存在严重的“理解-执行”分离现象，其通过海量训练数据学会了教学表述的模式补全，却无法在真实计算中调用同一知识体系，根源在于Transformer架构的本质缺陷。当前大模型虽在语言流畅度上媲美人类，但在符号推理、系统化泛化和变量绑定等核心智能能力上存在架构性局限，大模型需要具备可泛化的推理能力，即可以实现对任意实体应用规则的系统化转换，而不是死记硬背。
亚马逊云科技资深首席科学家、亚马逊云科技上海人工智能研究院院长张峥
谭晓生介绍了大模型对网络安全行业的重构性改变。当前网络安全行业面临攻防不对等、高度依赖人力、误报率高三大核心痛点。大模型凭借其强大的自然语言理解、思维链构建及智能体执行能力，正推动安全能力从“规则驱动”向“认知驱动”演进。其应用已渗透至多个关键领域，如在安全运营中实现告警降噪与自动化闭环处置，在威胁检测中识别零日攻击与加密流量等。未来，大模型将作为“核心智脑”驱动行业从“人类智慧对抗”转向“人机协同博弈”，同时也面临泛化能力、成本、实时性等挑战。新一代人工智能将引发网络安全行业的重构。
CCF YOCSEF秘书长，北京赛博英杰科技有限公司创始人谭晓生
张超介绍了大模型在软件漏洞挖掘中的创新应用。当前漏洞挖掘技术已经发展到了智能挖掘阶段。面对二进制程序分析难题，他提出“机器语言大模型（MLM）”，MLM具备反汇编、结构识别与语义理解能力，显著提升对机器代码的解析效果。重点以大模型赋能模糊测试，通过增强测试用例生成、变异策略和隐藏接口发现能力，提升漏洞挖掘效率。大模型为软件安全分析开辟了新范式，尤其在处理闭源二进制程序方面展现出强大潜力，为自动化漏洞挖掘提供了重要支持。
清华大学长聘副教授、网络研究院副院长张超
袁明坤介绍了人工智能驱动网络安全新生态的发展趋势。近年来针对关键信息基础设施的攻击攻击频率显著增加，网络攻击呈现智能化、自动化、多维度化的趋势，传统防御手段面临挑战。智能体作为大模型落地的必然演进，通过自主学习与决策能力，在安全领域实现从“可靠代理”到“完全自主”的进化。他还结合亚冬会网络安全防护工作，介绍了安恒“恒脑”安全智能体平台的实际应用成果。
安恒信息首席安全官、服务中心总裁袁明坤
圆桌研讨环节，由蚂蚁集团资深算法专家仲震宇担任主持，中关村金融科技产业发展联盟理事长、中科软科技股份有限公司董事长左春 ，亚马逊云科技资深首席科学家、亚马逊云科技上海人工智能研究院院长张峥，公安部网络安全等级保护评估中心主任助理王勇，上海第五空间信息科技研究院理事长朱易翔围绕“重构信任基石——大模型安全的挑战突围、可信应用新范式”展开了热烈讨论，结合行业实践交流了大模型专业应用的安全风险与应对措施。
论坛上，蚂蚁集团副总裁兼首席技术安全官、蚂蚁密算科技有限公司董事长韦韬宣布了团体标准《大模型金融领域可信应用参考框架(征求意见稿)》正式启动意见征求的消息。该标准项目由蚂蚁科技集团股份有限公司牵头，联合公安部网络安全等级保护评估中心、浙江网商银行股份有限公司、国投证券股份有限公司、北京知其安科技有限公司、北京前沿金融监管科技研究院、浙江省网络空间安全协会、网联清算公司、青岛银行、兴业银行、上海第五空间信息科技研究院等机构共建。
标准提出大模型在金融领域可信应用的参考框架，核心思想在于借鉴人类社会在管理复杂专业系统时采用的成功机制，通过系统工程的思维，在基础大模型自身仍存在可靠性问题时，为大模型构建一个外部的、确定性的、可验证的控制与保障体系，从而使大模型在执行过程中出现偏差，该体系也能确保最终结果的正确性与可靠性。标准期望能够帮助行业中的开发者和应用者更好地推动大模型在金融领域中的应用深化和场景拓展。
AI时代，如何让技术得到更好的应用，以高水平安全护航高质量发展，是我们必须回答的命题。蚂蚁集团希望与更多行业同仁携手探索网络安全的新基准、新范式，在拥抱技术创新的同时，筑牢AI安全与可信防线，让科技发展成果更好地释放价值。
评论