上海银行胡德斌 中小银行大模型场景运转选择考量及应战 (上海银行分行长)

“我们既不自觉争先，也不甘落后，即使在资源上存在差距，也不丢弃深化研讨与部署，积极拥抱大模型带来的革新。在场景选择上，我们择优而用，不刻意偏袒某一特定大模型作为运转基础，而是愈减轻视依据业务场景需求来确定成功方式。”1月11日，在新金融联盟举行的“AI优化金融服务效力的场景创新与趋向展望”外部研讨会上，副行长、首席信息官胡德斌在主题发言中表示。

胡德斌分享了上海银行在大模型范围的运转通常及集团的思索见地。

以下为胡德斌发言全文：

一、大模型技术带来的影响观察

大模型技术对银行业的影响可划分为短期与终年两个维度。

从短期视角来看，大模型能够清楚优化任务效率， 文档助手、编码助手等工具便是例证。此外，借助大模型的普适性，可将原本仅面向高净值客户的专家服务下沉拓展。经过融合大模型的通识才干与银行专业知识、客服专家阅历以及客户画像数据启动训练，便能打造出数字客服专家，打破专家数量与服务精气的限制，为更普遍的客户集体提供更具针对性的服务。我们也要看到，大模型在推进银行业务展开、产品创新的同时，也带来了诸如数据暴露风险、大模型稳如泰山性风险、可解释性风险等新应战，这些风险均需深化研讨与妥善控制。

从终年角度而言，大模型将深化改动银行业的竞争格式、运营方式与服务方式。例如在市场研讨范围，大模型为中小银行提供了全新的思绪与方法，对银行展开战略的制定大有裨益。风险控制层面，大模型助力银行成功智能化、精细化与前瞻性的管控，从而有效优化风险控制才干，下降潜在风险损失。产品服务方式也将由单一贯多元、由被意向主动转变。

大模型在银行的树立和运转途径大致可归结为以下几类：一是嵌入式大模型的调用，无需关注基础模型的选择，仅以成功特定运转目的为导向，构建相似黑盒运转体或智能体来满足特定需求；二是将调用大模型的API与业务流程运转相结合的方式；三是目前运转较为普遍的Agent方式；四是运行私有数据启动微谐和训练模型，进而构成企业专属模型。 这些运转方式的本钱呈递进式增长，但模型的针对性越强，出现的成效就越大。 不同规模的银行需依据自身所处阶段，选择契合自身特点的运转途径。

经过对地下资料的搜寻以及与同业的交流，我们概括了不同类型银行大模型基础才干状况。

不同的资源属性形成银行在经常经常使用大模型的方式和方法上采取不同战略。我行的战略是亲密关注行业运转趋向，剖析同业规划，运转途径上秉持借智借力的准绳，借助厂商和大行的技术才干与阅历。我们既不自觉争先，也不甘落后，即使在资源上存在差距，也不丢弃深化研讨与部署，积极拥抱大模型带来的革新。在场景选择上，我们择优而用，不刻意偏袒某一特定大模型作为运转基础，而是愈减轻视依据业务场景需求来确定成功方式。

二、上海银行大模型树立及运转通常

总体而言，我行的大模型树立和运转规划的近期目的是以智能体开发平台为载体，系统地构建各类数字员工或智能体，构成人机协同的重消费方式。秉持“以用带建”“以建带培”的战略，从基础才干树立、场景运转、人员培育、模型优化等多个维度着手，营建一个让每位员工都拥有“AI助理”的环境与创新气氛。

详细而言，从两个层面推进。一是从上至下的总体策划，精准定位适宜场景，采纳分歧规划、分歧实施的方式构建关键运转。二是搭建大模型运转开发平台，奖励员工结合通常业务需求开发“AI助理”，激起自下而上的翻重生机。

在此环节中，有三个方面尤为关键。

第一，模型的分歧控制。无论是生成式AI大模型，还是以规则判别为主的小模型，运转范围都日益扩展。如何妥善控制、监测模型，并确保其能够及时更新迭代，已成为日常运营控制的新范围与新应战。自去年下半年起，我行便着手构建全行企业级的分歧模型控制平台。

第二，分歧知识控制。随着内外部数据的继续增长，从中挑选出有价值的知识愈发困难。同时，不同系统间数据存储格式的差异形成数据衔接性欠佳，使得分歧控制复杂度倍增。因此，树立分歧知识控制体系和数据空间势在必行，需推进数据落标、跨范围数据整合，保证数据继续更新，同时严峻控制数据安保。

第三，数字化人才培育。不只科技人员要积极学习和运用大模型，业务人员也需转变思想、掌握相关技艺。经过培训、研讨、通常来促进全体员工思想转变与技艺优化。

接上去，我引见一下上海银行在大模型运转范围的两个案例。

我行行将推出AI手机银行，积极探求从传统的GUI（图形用户界面）方式向LUI（言语用户界面）方式转变。客户可经过语音对话方式提出服务或咨询需求，手机银前启动语义了解与性能调度，在关键买卖环节再出现买卖画面供客户确认，以更天然、友好的方式为客户提供银行服务。

在智能问数范围，我行也启动了诸多有益尝试。最后的报表开发采纳需求定制方式，依据业务部门的需求来绘制表样、编写程序。随后展开到通用报表方式，经过“拖延拽”的方式加快组装报表。如今，借助大模型了解用户的用数需求，智能转化为SQL语句搜寻数据，并以可视化方式反响结果。这不只是开发方式的改造，更是让数据消费变得简易，继续激起各层级员工运行数据剖析发现疑问、掌握趋向、强化控制，成功“看得清、看得全、看得透，管得好”的目的。

三、大模型运转面临的疑问与应战

大模型在带来诸多机遇的同时，也随同着一系列应战，关键体如今企业微观层面与实施落地层面。

在企业微观层面：一是缺乏高质量金融训练数据。银行业务触及大批复杂且专业的金融数据，这些数据通常是结构化与非结构化数据的混合体，同时还面临着隐私维护与合规性疑问。失掉足够多、质量好且掩盖普遍场景的金融训练数据是一项困难义务。

二是算法可信性与安保性有待优化。银行对准确性、合规性的要求极高。目前大模型或许存在可解释性差、易受攻击等疑问，需进一步深化研讨与改良，以满足金融行业的严峻规范。

三是训练及推理算力投入本钱高。大模型的训练与推理往往要求海量的计算资源，这触及到昂贵的配件投资以及继续的动力消耗，关于中小银行而言，无疑是一笔繁重的本钱担负。

四是大模型运转支撑队伍尚未成型。有效开发、部署与保养大模型要求一支涵盖数据迷信家、算法工程师、系统架构师等多学科背景的专业人才队伍，但目前这类复合型人才稀缺，银行需投入更多资源来培育或招聘顺应大模型运转需求的团队。

从实施落地层面来看，相同面临四个方面的应战：

一是平台基础支撑才干。要求构建一个全行性的、技术与业务均可简易经常经常使用的大模型运转开发平台，便于加快搭建大模型运转与数字员工，同时也能有效整合不同类型的配件资源，成功算力的分歧控制和调度，从而提高算力资源的运行效率。

二是跨组织、跨团队协同。鉴于大模型技术的复杂性，跨团队协作要求具有高度的技术了解和沟通才干。因此，跨组织、跨团队的协同成为商业银行落地大模型的一大难题。此外，大模型运转要求组织架构愈加扁平化，部门间的壁垒需进一步弱化，改发开工的固无看法也并非易事。

三是关键知识的模型注入。大模型的知识注入环节需将银行的专业知识与通用模型无机结合，以确保模型能够精准顺应特定的业务场景。但是，搜集和整理买卖数据、产品数据、风控数据等需消耗大批时期和精气。而且，部分业务知识或许触及敏感信息，如客户隐私、银行外部风险控制战略等，在注入大模型时肯定确保数据安保与合规。

四是运营保证才干。大模型的可解释性与信任度是运营环节中的关键疑问。若模型决策环节不够透明，或许会引发用户对模型结果的信任危机。因此，保证大模型的稳如泰山运转与继续优化是关键应战。

最后，我提出一个倡议：整合资源，共同打造安保可信的AI运转生态。其关键要素是大模型输入的操作性更强。

当大行向小行输入业务运转系统时，落地环节的复杂性是一个肯定正视的难题，通常要求启动大批的本地化改造与中心系统对接，大行往往需派遣数十名人员到现场实施，且继续时期较长，可称之为“硬着陆”。而大模型作为知识与才干的载体，易于成功资源共享与复用。小行在引入大模型后，可依据自身详细业务需求，经过微调等手段，迅速将其运转于信贷评价、风险预测、客户服务等多个范围，无需像运转系统那样展开大批定制化开发，可称之为“软着陆”。

要成功共建共享的目的，离不开监管部门的指点以及行业协会的组织协调，促使各方协同协作。其中，大型金融机构等关键介入方应充散发扬自身在算力、数据资产、人才等方面的优点，与中小银行机构共同构建行业大模型。

在协作环节中，需处置一些关键疑问：明白大行与小行区分承当的角色与定位。无论是大行还是小行，不只要着力构建已有模型运转，还招思索效果输入后能够取得相应的收益。否则，若银行做出了奉献却无收益，或许会引发国有资产流失的担忧。要成功算力共享，将每家银行的配件资源集聚起来，能够有效提高资源运行率。相同，如何权衡这些配件资源的投入产出，也要求深化研讨与讨论。

随着大模型的出现，具有数据、算力、技术人才优点的大型机构或许会构成更大的头部化效应，进而形成竞争格式出现更为复杂的新变化。大模型不只为银行业带来了效率的优化与革新，也使得竞争格式微风险特征变得愈加复杂。心愿我们能够齐心协力，共同探求，让大模型为不同规模的银行注入新的展开动力，成为推进高质量展开的基础与源泉。