随着生成式人工智能浪潮全面兴起，金融行业在加速迈向“AI原生”时代的同时，也面临多模态深度伪造内容带来的新型安全挑战。利用生成式AI合成的语音、图像、视频与文本，已能够高度模拟真实身份与业务材料，对远程开户、线上信贷、大额交易授权等核心业务构成隐蔽性、系统性攻击，严重威胁金融安全与用户信任。在此背景下，行业亟需构建体系化的内容鉴伪与安全防御能力。
近日，工商银行联合腾讯云、北京金融科技产业联盟联合发布《中国金融生成式AI多模态内容鉴伪与安全防御白皮书（2025）》。白皮书以“风险识别+体系防御+生态共建”为核心思路，系统分析生成式AI多模态伪造的攻击原理、技术路径与业务场景，提出覆盖“风险场景渠道—风险分析与决策—风险处置运营”三层架构的端到端防御体系，并融合了工商银行等行业领先实践案例，为金融机构打造前瞻性、自适应、协同联动的安全防线提供理论框架与实践指引。
生成式AI机遇与挑战共存
金融机构正在积极拥抱生成式AI。IDC报告显示，从市场表现来看，金融行业对生成式AI的投资意愿较高，2024年中国金融行业生成式AI投资规模已达36.26亿元，预计到2028年将增长至238.04亿元，增幅高达556.5%。
生成式AI在恶意内容生成方面的迅猛演进，其核心威胁在于通过多模态生成模型以及多元化技术的协同，系统性地构建高可信度的欺诈证据链。此类攻击已非单点技术突破，而是深度融合了感知逼真性、跨模态语义对齐、信息融合增强与动态交互协调等多层次技术能力，旨在从逻辑一致性、物理真实性与行为合理性等多个维度同时突破风控防线。它不仅能够伪造单一模态数据，更可生成相互印证、无缝衔接的多模态组合攻击内容，金融安全中高度依赖多因素验证与生物识别的核心业务（如远程开户、线上信贷、大额支付等）构成了前所未有的结构性威胁，传统基于单一特征识别或静态规则的风控体系正面临根本性挑战。
为保障金融业务连续性与数字信任基础，亟需从顶层架构出发，构建一套嵌入业务全流程、覆盖多模态信息输入输出、兼具技术稳健性与治理可持续性的安全防御体系。该体系应能够动态集成检测、响应与溯源能力，并实现技术安全与业务合规的协同发展。
白皮书指出，必须清醒地认识到，当前的相关实践仍处于从理论探索向应用过渡的早期阶段。所提出的分层架构、能力模块与协同机制，其综合效能与稳定性尚需在未来复杂的真实业务环境中进一步接受全面验证。因此，安全防御体系更应被视为一个动态演进的起点，而非一成不变的终极方案。其最终形态，必然是在行业各方的共同实践中，通过持续的“攻防对抗—反馈迭代”才能逐步清晰和完善。未来，亟须金融机构、科技公司、监管机构与学术团体携手，通过建设行业沙盒、开展联合试点、共享脱敏情报等方式，在实践中不断探索、验证并优化这一防御范式，共同将理论蓝图转化为守护数字金融安全的坚实壁垒。
为行业提供前瞻性风险治理蓝图
中关村金融科技产业发展联盟副理事长杜宁表示，白皮书提出了通过单模态感知逼真性提示、跨语义对齐和多模态信息融合与增强，具备了利用生成式AI的多模态内容进行伪造的技术可能，基于此分析了远程身份认证、信贷审批、对公业务、智能投顾等多个金融业务领域可能出现的13个风险场景，并提出了相应的“体系化防御”蓝图。更难能可贵的是，它为不同规模的金融机构指明了差异化的实施路径——头部机构如何构建自主能力，中小机构如何借助生态解决方案敏捷部署。
“白皮书发布恰逢其时，在当前生成式AI技术爆发式发展的关键节点，有望为行业提供系统性、前瞻性的风险治理蓝图。这与我们推动监管科技发展的初衷是完全一致的，愈能有效控制风险，愈能推动创新更大踏步地向前发展。” 杜宁说。
哈尔滨工业大学（深圳）计算机科学与技术学院副院长卢光明认为，白皮书构建了一套动态进化的防御体系，为AI安全研究提供了宝贵的工业级实践框架。
“作为一名长期从事人工智能研究的学者，白皮书在技术的深度与前瞻性方面作出了贡献。它没有停留在对现有鉴伪技术的简单综述，而是深刻地指出了不法分子如何利用单模态内容生成与感知逼真性提升、跨模态语义对齐、多模态信息融合与增强、动态协调与抗检测等技术进行多模态伪造，并提出了生成式AI多模态内容安全防御体系，清晰地阐述了从‘被动检测’到‘主动免疫’的范式转变，这为学术界指明了极具价值的研究路径。”卢光明这样评价。
与此同时，卢光明认为此白皮书是连接学术前沿与产业实践的桥梁，建议AI安全的研究人员和技术开发者关注。
清华大学深圳国际研究生院副教授张盛表示，“白皮书是一部兼具学术严谨性与实践指导性的里程碑式报告，构建了一个涵盖技术、监管、标准、生态与人才的综合治理框架。这为我们思考如何在金融创新与组织治理之间取得平衡提供了至关重要的蓝图。”
张盛认为，赢得AI安全攻防战，不仅需要算法创新，更需要前瞻的法规、协同的生态和跨学科的人才。白皮书应成为政策制定者、企业以及教育工作者案头必备的参考。
