银行词元消耗爆发式增长

2026年09月21日 字数:2995
  本报综合报道 词元(Tokenl)是AI处理文本时的基本单位,也是大模型处理信息的最小单元。随着上市银行2026年半年报悉数披露完毕,银行业AI应用的深度与投入成效可随词元消耗量管窥一二。
  在这片快速扩张的产业蓝海中,机遇与挑战并存。有业内专家表示,面对词元调用量爆发式增长、AI场景全面渗透银行业务的行业现状,商业银行在抢抓转型机遇、布局新赛道的同时,需要理性审视其背后的应用效能、成本损耗等潜在问题。
  业内专家还表示,在正视短期成本与效率痛点的同时,需客观看待词元经济、大模型技术为银行业带来的长期核心价值,AI智能化转型绝非短期噱头,而是银行业数智化升级的必然趋势。
  词元消耗激增
  根据半年报,2026年上半年,工商银行的“工银智涌”大模型已在多个领域落地600余个场景,Token使用量保持领先;邮储银行日均大模型调用超600万次,日均输入输出词元超百亿;平安银行上半年大模型日均词元消耗量超过53亿,同比增长约130%,累计落地大模型应用场景超450个;招商银行日均Token吞吐量较上年增长超78%,落地领域模型256个,较上年末增长40%;江苏银行上半年日均Token使用量较2025年末增长18倍,部署从十亿级到万亿级的15种模型,并运用量化压缩、分时调度机制等前沿技术实现单卡运行千亿参数模型,提升整体Token输出效率。
  在场景方面,AI已经深入渗透到业务和办公场景中。工商银行在远程服务渠道的AI应用上半年累计服务客户1.33亿人次;面向个人客户经理的专属岗位智能体“工小财”,上半年累计提供服务超2200万次;在私人银行领域,AI原生综合金融服务智能体将客户综合化、个性化服务方案生成时长由5天降低至3小时;在内控合规领域,“AI智审”智能体上半年已累计输出36万条合规审查意见,被采纳率98.6%,辅助合规审查人员风险揭示能力提升130%。
  中国银行人工智能场景实现前、中、后台各业务条线的全面覆盖,截至今年6月末,AI大模型用户突破3.2万人,智能研发助手月活用户超万人。农业银行打造自研智能体农行版“龙虾”(ABC-Claw);建成企业级数字助手“一明”,将AI能力全链路嵌入客户服务、业务管理、日常办公等场景,持续为员工减负赋能;依托“农银智+”平台实现算力、模型的统一输出,为全行各场景AI应用提供统一标准的技术底座。
  在布局范围广、落地场景多的同时,“向AI要效率和效益”也成为行业共识。半年报及业绩说明会披露显示,平安银行零售信贷AI产能占比提升至12%,对公贸易合同背景审查提效30%,资金同业报表生成提效70%,科技人均提交代码行数增长26%;邮储银行自助设备应用数字人辅助人工进行业务审核,人工作业效率提升40%;交通银行构建的航贸审查智能体,实现单证清分、要素审查、报告生成等任务自动化,日均审查超50万笔,处理效率提升超70%;招商银行则在半年报中给出了“工时”账单,AI提效带来1388万小时等效人工工时贡献。
  成本与信任的双重考验
  不过,在竞速数智化发展的热潮中,有两道“账”必须算清:一道是成本账,一道是信任账。前者决定AI能否规模化,后者决定AI能否进入核心业务。
  第一道是成本账。北京面壁智能科技副总裁刘豪杰将其拆解为两个维度:推理成本和部署成本。刘豪杰指出,金融行业业务高频、海量,对实时性要求极高,“可能会导致成本呈指数级增长”。部署方面同样如此,金融行业对合规、数据安全和保密要求极高,必须本地化部署。
  成本压力之下,投入产出比成为关键。麦肯锡在《全球银行业年度报告2025》中指出,随着人工智能在银行业的全面应用,某些成本类别可能实现高达70%的大幅削减,但报告同时警示,银行必须精准识别通过技术应用能真正产生收益的领域,而非因担心错失机遇而盲目投入。
  第二道是信任账。刘豪杰指出,金融行业要的不只是“便宜”,而是“合规的、可控的、安全的便宜”,“从‘能跑’到‘能上生产系统、能上核心系统’,中间还隔着很多层”。他解释道,模型要可验证、可审计,不能是黑盒;要做软硬件的适配,尤其要满足信创要求;还要与现有业务系统打通。安全对于金融场景不是附加题,而是必答题。
  同时,在业内人士看来,从技术成本来看,银行所有AI智能化场景的运行均依托词元调用来实现,客户每一次智能咨询提问、系统每一次用户意图精准识别、终端每一次智能回复生成、业务每一次智能审核研判,都会产生对应的词元消耗,算力消耗与业务运营频次深度绑定。比如,一家中型商业银行若日均智能会话处理量达到10万次级别,每月仅词元直接采购成本就可能达到数十万元。更关键的是,银行如果想要通过AI技术拓宽业务、扩大客户服务覆盖面、增加智能化服务场景,必然会同步带来词元消耗激增,业务扩张与成本增长同步发生。
  此外,当前部分中小型银行在AI智能体、词元场景的落地应用中仍处于摸索阶段,普遍存在高消耗、低效能问题。比如,某银行高管在内部会议上认为,该行多款AI智能体落地效果未达预期,存在算力消耗巨大、实际产出价值偏低等问题。
  效能导向转型
  在效率价值层面,大模型与算力彻底颠覆了银行传统劳动模式,大幅缩短了业务全流程处理时长。标准化的AI运算能够最大程度规避人工失误,持续降低业务差错率与合规风险。人力成本的持续释放让银行员工从繁杂的基础性工作中解脱出来,全面提升了银行整体运营效率与人才价值。
  在经营价值层面,智能化AI体系大幅拓宽了银行客户触达渠道,突破了人工服务时间、空间、精力的限制,实现了7×24小时全域客户服务,极大提升了客户触达广度与服务响应速度。依托大模型的用户画像分析能力,银行能够精准挖掘客户潜在金融需求,实现信贷、理财、结算、保险等金融产品的智能精准匹配。
  当前,国内银行业正处于数智化转型升级的攻坚期,精细化和智能化已成为行业发展的趋势。银行未来发展的核心课题,是如何在技术创新突破与财务纪律合规之间找到平衡,建立更加精细化的词元成本管控和效能评估模式。只有算力投入和价值产出实现正向循环,AI技术才能转化为银行可持续的竞争力,银行业才能在数字经济时代实现高质量的数智化转型。
  平安银行副行长兼首席财务官项有志在中期业绩会上表示:“科技投入要立足急需、必要并且有效,始终强调应用价值。”
  梳理发现,已有银行披露了AI投入成本管理的内容。例如,兴业银行在半年报中披露,该行专门发布相关规范与实施意见,将人工智能建设由分散探索向集约统筹、体系推进转变;招商银行董事会则在8月审议通过2027年至2028年的AI算力投入规划。
  北京社科院副研究员王鹏还建议,银行可以采用“大参数通用模型+轻量化垂域小模型”的混合协同模式,通过统一平台调度算力资源,大幅压降无效Token调用,并为各业务线设置明确的Token消耗红线,配套低效调用清理机制。同时,将单位Token产出价值纳入业务部门考核指标,使AI风险全面纳入全行风险管理体系。此外,建立模型审计、人工兜底规则,避免因“技术幻觉”“黑箱决策”带来的额外隐性损失。
  从半年报披露的日均百亿级词元消耗,到全行业等效千万小时的AI提效贡献,银行业大模型应用已跨过早期试点探索阶段,正式进入词元调用量爆发式增长的规模化落地期。这一进程中,成本与信任成为绕不开的两道核心考题:一方面,本地化部署的高算力投入与词元消耗激增,倒逼银行跳出“重投入、轻产出”的盲目竞速;另一方面,金融场景对可审计、可追溯的刚性要求,让“合规可控”成为AI接入核心业务的前置门槛。未来,银行业的AI转型将不再单纯比拼场景数量与算力投入规模,而是转向以单位词元价值产出为核心的精细化效能竞争,通过混合模型调度、全链路成本管控、人机权责边界明确,最终实现技术投入与经营价值的正向循环。