一、背景意义
近几年人工智能技术飞速发展，大语言模型让人工智能迎来了新的开悟时刻。大模型具有出色的自然语言处理能力，可以理解和回答各种问题，在知识检索、内容生成、逻辑推理方面都表现出了优异的性能。当前，基于大模型重塑各个行业的服务或工作模式成为当前的热门方向，其中包括银行业。
随着时代发展，银行业务日益繁重和复杂化，给银行客户经理等业务人员带来沉重的工作负担。面对上述挑战，各大银行深度结合数字科技，着力发展面向银行业务的数字助理。数字助理可以作为银行客户经理处理业务流程的重要助手，然而目前的数字助理通常是基于手动设计的规则或模板进行问答交互，只能帮助客户经理解决一些比较简单的任务，比如知识搜索、日程提醒等。大模型的出现将改变这一现状，其强大的语言理解能力使其可以作为数字助理“大脑”，替代先前相对固定的问答模式，可以应对更加灵活的询问，具有更强的通用性。通过接入大模型，数字助理在规章制度和业务流程检索、数据分析总结、解读、邮件撰写等方面的能力都将会大大增强，不仅能够提高客户经理的工作效率，也将间接为客户带来更好的服务体验。
中国工商银行软件开发中心一直致力于探索人工智能技术在银行业务场景的应用。大模型的高智能和通用性可以极大提升营销场景下数字助理的实用性，满足客户经理寻求营销业务支持的需求。下面详细介绍工商银行软件开发中心探索将大模型应用在数字助理场景的情况。
二、大模型在银行数字助理上的应用场景
目前，工商银行软件开发中心在数字助理上的大模型应用探索场景主要有：营销知识检索、客户和产品初印象，以及产品标语生成等，总体技术框架如图1所示。
图1 基于大模型的数字助理总体技术框架
1.应用场景一：营销知识检索
知识检索是数字助理的一个核心功能，能够快速帮助用户找到所需的知识，辅助用户学习，增强决策质量，提高工作效率。然而，传统数字助理提供的知识检索功能通常基于关键字匹配等较为简单的规则模板进行答案召回，缺乏语义理解等智能化检索手段，在知识分散且资料繁多的场景下，无法保证检索结果的准确性和完整性。特别是在客户经理营销场景下，海量营销知识可能分布在来源不同、形式各异的手册、书籍和网页等文档中，无疑大大增加了知识检索的难度。
大模型具备强大的语义理解和推理能力，能够根据上下文和语境理解关键词汇的含义，使其可以更精准地理解用户的查询意图。然而，大模型通常是在通用文本数据上进行预训练，缺少垂直领域的先验知识，从而可能导致比较严重的幻觉问题。针对该问题，目前业界常用的两种解决方案分别是微调和外挂知识库。但由于微调大模型需要耗费大量的计算资源，不利于知识的快速更新，而外挂知识库为大模型提供可靠且可以实时更新的知识来源，结合大模型强大的语言组织能力，缓解了大模型的幻觉问题，实现强大的垂直领域知识检索能力。
工商银行软件开发中心抓住营销知识检索场景下的机遇，为数字助理构建基于外挂知识库的大模型营销知识检索功能，可以帮助客户经理快速了解相关的营销知识。工商银行软件开发中心搭建的基于外挂知识库的大模型营销知识检索技术框架如图2所示。
图2 基于外挂知识库的大模型营销知识检索技术
首先，将收集到的各种营销业务文档进行解析和汇总，形成统一的营销知识文档。
其次，对文档进行分段，并使用文本嵌入模型对文本段进行向量化，将得到知识向量存储到向量数据库中。
再次，使用同样的方法将用户问题进行向量化，并从向量数据库中检索出和问题语义相似的知识向量，并返回知识向量对应的文本段。
最后，整合用户问题和返回的营销知识文本段，构建大模型的提示词，将提示词输入大模型，返回大模型的输出。
同时，为了使大模型输出的回答更具有权威性，除了输出问题本身的答案，还在提示词中要求模型输出答案的来源信息以及相似的问题对话链接。通过构建上述营销知识检索框架，进一步提升数字助理的智能化水平，不仅有助于营销人才的培养，而且有利于提升服务效率和质量。
2.应用场景二：客户和产品初印象
在营销过程中，对客户和产品进行准确的印象总结是非常重要的，通过对客户或产品的标签进行分析总结，可以快速了解用户的需求和偏好，以及产品的特点和优势，从而为潜在客户提供更加精准的营销方案和个性化服务。在过去这一过程通常需要由有经验的业务人员手动完成，不仅增加了人员负担，而且容易受个人主观因素的影响导致总结质量参差不齐。此外，由于市场的情况是不断变换的，业务人员需要时刻关注这些变化并调整客户或产品印象，否则产生的印象可能由于缺乏时效性导致与市场形势脱节。
针对上述挑战，工商银行软件开发中心在客户经理营销场景应用大模型的另一个案例是基于大模型的客户和产品初印象功能。该功能的主要作用是将客户和产品标签信息进行整合，利用大模型强大的语言总结能力为客户或产品生成初印象。大模型是在海量通用文本进行自回归预训练，且通过有监督学习和基于人类反馈的强化学习进行微调，能够轻松应对文本标签化、分类、实体识别等判别性任务，具有强大的语言总结能力。基于大模型的特点，工商银行软件开发中心构建的客户和产品初印象功能框架如图3所示。
图3 基于大模型的客户&产品初印象总结技术
首先，根据输入的客户或产品的名称、编号从工商银行现有数据服务中获取与业务相关的客户标签（如客户年龄、风险偏好等）和产品标签（如产品适配库）信息，将获取到的标签进行文本拼接。
其次，结合拼接的文本构建文本总结的提示词，其中提示词可根据业务人员的需求对输出的印象总结格式进行定制。
最后，将提示词输入大模型，并返回大模型的输出。通过在数字助理中集成客户和产品初印象功能，可以自动化地处理分析客户和产品信息，并且可以通过更新相关数据，缩短制定符合市场形势的精准营销方案所需花费的时间成本。
3.应用场景三：产品宣传标语生成
一个能够抓住人眼球的产品宣传标语在营销过程中的重要性不言而喻，好的产品标语能够在最短的时间内准确地传达产品的特点和价值，激发潜在客户的购买欲望和兴趣。过去产品的宣传标语通常需要专业人员手动编写，十分耗时耗力，而身处一线的客户经理没有经过专业培训往往难以快速编写出具有吸引力的产品标语。
基于大模型强大的语言生成和逻辑推理能力，工商银行软件开发中心构建了数字助理的另一项重要营销功能——产品标语生成，功能框架如图4所示。
图4 基于大模型的产品宣传标语生成技术
首先，根据输入的产品名称或编号获取产品标签，将产品名称和产品标签进行文本拼接。
其次，结合拼接的文本构建生成产品宣传标语的提示词，在提示词中对宣传标语的形式、长度、趣味性等多个维度的特点进行细化要求。
最后，将提示词输入大模型，返回大模型的输出。通过在数字助理中集成产品宣传标语生成功能，可以帮助客户经理快速编写高质量产品标语，有助于树立产品品牌形象和提高用户的信任度。
三、总结
随着大模型研究的发展，大模型能力提升将会进一步提速，是否能将大模型能力应用在具体业务场景是衡量银行数字化水平的重要指标。工商银行软件开发中心在营销领域进行营销知识检索、客户和产品初印象生成，以及产品宣传标语生成等大模型应用的探索，并将这些功能集成在数字助理中，助力工商银行客户经理提供更加令客户满意的服务。未来，工商银行软件开发中心将继续深化大模型在更多领域的探索应用，不断优化和完善相关功能，推动业务不断发展，实现大模型商业价值的最大化。
-END-
这是科技创新最好的时代，这是属于我们每个人最好的时代，关注“BanTech智库”，专注银行科技发展，探索无界金融生态！
