21世纪经济报道记者 张欣
“要‘以AI对抗AI’，建立纵深防御体系，确保攻击可以早发现、快处置、能自愈，不断提升自动化、智能化的风险应对水平。要增强AI对抗能力，部署专门的安全监测模型，持续进行对抗训练，提升系统韧性。”
6月18日，农业银行董事长谷澍在2026陆家嘴论坛——“全体大会五：健全科技金融全生命周期服务体系，服务实体经济高质量”发展上发表题为《控制大模型应用风险的几点做法》演讲时如是表示。
（谷澍在陆家嘴论坛，来源：东方网）
“创新与安全的平衡问题，成为制约大模型深化应用的关键所在。”谷澍指出，当前AI已成为科技创新的重要引擎，在银行的应用不断拓展深化，有效助力了金融高质量发展。但也要关注大模型的规模化应用带来的新风险挑战。
在他看来，模型黑箱、模型幻觉、模型自主思考与决策带来的不确定性，是当前金融业大模型应用面临的突出风险。从底层运行机理来看，模型风险是一种客观存在，金融从业者要做的不是追求对风险的绝对消除，而是如何建立与风险共生的治理体系。
结合农业银行一线实践，谷澍现场分享了防控大模型应用风险的四大具体做法，其中以AI对抗AI构筑智能安全防线、健全权责与包容并行的内部AI治理体系两大举措，备受关注。
一是分类施策推进场景适配。按照金融场景的风险等级和监管合规要求，建立模型黑箱分级管控机制，不同场景匹配差异化的技术路线与可解释性要求。对于信贷决策等强监管场景，采用模型蒸馏技术，让大模型在数据合成、归因分析和决策式模型生成等方面提供助力，将大模型能力迁移至更具可解释性的小模型；对于投研分析等高认知场景，强化思维链（CoT）设计，构建清晰的“思考推理”轨迹，增强决策过程的透明度；对于产品营销等创意类场景，构建灵活的上下文工程，充分激活模型的随机性来激发创新活力。
二是设定一定的标尺约束控制模型幻觉。找准大模型与业务流程的结合点，设置必要的参数标尺，同时强化人机互补的约束机制，切实压缩大模型“自由编造”空间。比如，应用AI赋能信贷调查报告智能生成，通过建立业务标尺、模型互检、模型反思、业务数据校准等方式，对模型生成的内容进行自动校验，确保“讲得准”；信贷方案、用信条件等关键内容审核要由人类主导，确保结果可控。
三是以AI手段应对AI应用风险。AI大幅降低网络攻击门槛，传统安全格局面临根本性重塑，安全防御手段亟需升级。要“以AI对抗AI”，建立纵深防御体系，确保攻击可以早发现、快处置、能自愈，不断提升自动化、智能化的风险应对水平。要增强AI对抗能力，部署专门的安全监测模型，持续进行对抗训练，提升系统韧性。要建立全链路可信验证与准入机制，强化漏洞扫描和运行状态监测，确保供应链安全。要强化数据隐私保护，通过提示词注入防御、多租户会话隔离、输出内容拦截等措施，防范模型推理过程中的敏感数据泄露。
四是强化银行内部AI治理体系。AI治理分为宏观层面与企业层面，针对AI应用带来的风险，要健全“权责明晰与风险包容并重”的银行内部AI治理体系，确保AI既用得好、又管得好。要明确责任边界。持续完善覆盖需求提出、模型开发、上线运行、效果评估的全流程管理规范，明确业务、科技、风控等部门的责任边界，确保模型风险责任可追溯，杜绝“黑箱即免责”。要留足创新空间。建立分层的容错机制，坚持“先行先试、先内后外、先外围后核心”的渐进式策略，防止未经充分验证的AI能力直接面客。
谷澍强调，智能体范式的推广对工具接口的调用会进一步放大模型风险，将“信息幻觉”推向“行为失控”。因此金融从业者要把安全可靠作为智能体运行的关键前提，通过分层透明、人机协同、有效治理等多重机制，构建“敏捷、可信、安全”的智能体生态，赋能金融服务发展。
抖音月付是属于抖音钱包针对优质受邀用户群体开放使用的一款个人消费分期产品。抖音推出首个信用消费产品“月付”,抖音依托于对零售产业数字化的理解,在业内率先将AI等前沿 抖音是大家非常熟悉的软件，深受用户喜爱，尤其是年轻人中，几乎每个人的手机安装了抖音。抖音功能很丰富，可以看视频，看直播，还可以购物。为了给用户带来更好的购物体验，抖音月付应运 很多人都认为，人工智能应该取代人类的工作。现实结果却恰恰相反。AI不仅没有消灭工作，反而在创造工作。RampEconomicsLab对2.1万家美国公司的研究显示，AI采用两年后，高强度AI使用企业员工规模反 来源｜时代商业研究院作者｜实习生陈仪、郑琳编辑｜郑琳2026年7月14日，深圳市威兆半导体股份有限公司（以下简称为“威兆半导体”）再次向港交所主板递交IPO申请，独家保荐人为广发融资( 。本文链接：以AI对抗AI！谷澍详解防范大模型应用风险四大做法http://www.sushuapos.com/show-3-177779-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。