|

财经

多重挑战促使金融机构审慎使用大模型 差异化实施路径能否“柳暗花明”

来源:21世纪经济报道

2023-12-04 13:00:20

(原标题:多重挑战促使金融机构审慎使用大模型 差异化实施路径能否“柳暗花明”)

21世纪经济报道记者  陈植  上海报道

随着AI大模型技术兴起,越来越多金融机构正积极拥抱这项全新的新科技。

今年以来,工商银行、农业银行、中国银行、交通银行、招商银行、中信银行、兴业银行、华夏银行、浙商银行等众多金融机构,都在积极探索大模型在金融领域的应用。与此同时,腾讯、蚂蚁集团等第三方科技平台也在研发金融大模型,方便金融机构更好地使用这项新科技提升业务竞争力。

与此同时,数据隐私保护挑战、模型定制挑战、安全合规应用挑战、场景扩展挑战、底层算力成本高企挑战,同样令众多金融机构对使用大模型技术持有谨慎态度。

如何破解上述挑战,让大模型技术更好地赋能金融生态高质量发展,正成为金融业界高度关注的一大热门话题。

11月21日,在由21世纪经济报道主办的“2023首席科技官思享会(闭门会)上,众多金融机构负责科技研发的高层们对此纷纷献计献策,助力大模型技术在金融领域的应用走得更稳更好更快。

大模型在金融领域落地的具体挑战

中国银行业协会首席信息官高峰在这场闭门会指出,银行业数字化转型需要大模型技术的加持。但大模型在银行业的落地,应具备“三个条件”,即技术成熟度、政策支持、应用场景。

“没有应用场景,新技术就是‘无根之木’。此外,对金融机构而言,合规同样是第一要务。”他强调说。

在高峰看来,大模型在银行业的落地过程,仍面临两大难点,分别是算力和数据治理。在数据治理方面,随着大模型的落地探索,不少金融机构也逐渐在加强数据治理,比如大型银行在数据治理领域有成熟实践,中小金融机构也在开始陆续构建数据中台和数据治理体系。

在算力方面,直接自建算力,成本相对高昂,但好处是安全性足够高,适用于实力雄厚、希望自建行业或企业大模型的大型金融机构。相比而言,算力混合部署,即在敏感数据不出域的情况下,接受从公有云调用大模型服务接口,同时通过私有化部署方式处理本地的数据服务,则适用于资金相对薄弱,按需应用大模型技术的中小型金融机构。

农业银行研发中心副总经理赵焕芳指出,大模型在金融领域的应用,目前仍处于探索试点的初级阶段,面临着多方面挑战,其中包括数据隐私挑战、模型定制挑战、安全应用挑战、场景扩展挑战等。

“由于金融业对安全合规的要求极高。如何解决大模型的幻觉问题、隐私保护等问题,提升可信可控可解释性,需要金融业界持续关注。”他强调说。金融机构要用好大模型技术,还要重点关注数据样本、基础设施、场景应用、安全部署、协作机制五大关键因素。其中,数据是核心,数据不是越多越好, 高质量训练数据才是关键;算力是基础,算力瓶颈是挑战也是机会,开源节流才是关键;场景是关键,场景建设应合理布局。

度小满首席架构师李丰指出,寄希望大模型能在短期带来应用层面快速爆发或场景突破,不是很现实。因为这不是大模型所擅长的,大模型真正的擅长的,是知识库压缩、推理、问题拆解、问题解答等底层能力。若要真正体现大模型的价值,一定是与场景深度结合,但这个进程不会很快,尤其是金融场景的新技术应用必须经过反复验证,确定效果才能上线。

民生银行数据管理部总经理沈志勇表示,要判断一家金融企业能否做好大模型,至少应该从算力规模、NLP(自然语言处理)基础、数据积累等维度判断。算力规模影响大模型的迭代速度;大语言模型属于NLP领域,因此NLP能力积累至关重要;而海量文本数据是训练大语言模型的重要基础。”

“此外,金融机构应用大模型技术一定要注意安全合规。”他强调说。以数据角度而言,金融机构需对大模型进行两种教育与设立三道防线。两种教育分别是训练时通过数据注入正确的价值观、以及在训练时通过强化学习对模型的错误回答进行纠偏;三道防线则是过滤掉训练数据、模型返回结果以及用户提问环节的不良内容。

中信银行信息技术管理部金融产品IT创新实验室处长陈志明指出,目前金融机构在应用大模型过程,还需要大模型选取、算力制约、应用方向选择等方面挑战。在选取大模型方面,一些千亿级大模型需要较大的底层算力,如何突破算力制约变成一大挑战,在应用方向选择方面,金融机构需密切关注大模型领域已出现哪些比较成功的核心应用,确保金融机构不会遭遇“应用代差”。

马上消费科技创新发展部总经理赫建营指出。就金融领域大模型未来发展趋势而言,其围绕场景金融将呈现三大能力方向,分别是GPT功能私有化、LLM(大语言模型)深层个性化、合规安全的科学决策。

“这意味着金融机构需搭建四层大模型解决方案,分别是通用大模型、知识处理大模型、工具大模型和决策大模型。在这个搭建过程,需要产业链上下游共同协同建设。包括响应国家政策,重视防范风险;突破技术边界,共创数智未来;定义行业标准,规划生态体系;创新场景应用,共享AI新红利等。”他强调说。

海尔消金首席信息官梁树峰直言,考虑到大模型刚面世不久仍存在局限性,企业对大模型未来发展前景保持乐观同时,也在谨慎规划与应用大模型。

在他看来,大模型应用面临的挑战来源于四个方面:信息安全、技术鸿沟、基础算力与模式创新。

“就近期OpenAI发布的最新版本可以发现,未来信息处理和调度中枢将不再是操作系统,而是类似于ChatGPT、OpenAI的大模型平台。因此,我们要考虑未来怎样用好、管理好大模型,真正地让客户能够获得专属陪伴式顾问和专业服务。”他表示。 

光大信托数据中心总经理祝世虎认为,未来大模型在金融领域的应用发展,还需关注三大问题,分别是中小银行的后发劣势、技术向善的治理、可解释性的研究。

“中小银行的后发劣势,主要是中小银行学习大银行的成功经验时,会学习容易学的部分而忽视难学的部分,比如较容易学习的包括系统采购,较难学习的是数据整合、人才培养、制度调整等,但这可能在大模型时代,中小银行与大型银行在业务竞争力塑造方面的差距进一步扩大;二是技术向善,对自身具有智能的大模型技术,如何能保证其产生向善的智能,也是一大挑战;三是可解释性,可解释性不能理解为让被解释的人听懂,因为这和被解释人的认知有很大关系,所以可解释性的对象不应该是人,而应该是科学本身,例如用大模型验证来验证模型,用科学解释来解释科学,用魔法来打败魔法。”他坦言。

 金融机构探索差异化解决方案

针对大模型在金融领域应用所带来的诸多挑战,各家金融机构科技部门负责人也在闭门会议给出自己的“解决方案”。

高峰对此提出三点建议,一是当前大模型技术尚不成熟,加之金融行业是一个强监管、高安全的行业,金融机构不妨先内部后外部,短期内不建议直接对客使用;二是注重大模型与小模型协同,不能忽视传统小模型的价值,比如当大模型转换到金融场景,会得到相比原先深度学习算法具备更好创造性的小模型;三是借力知识图谱让大型语言模型更强,通过结合知识图谱,LLM(大语言模型) 有望解决缺乏事实知识、幻觉和可解释性等诸多问题;反之LLM 也能推动知识图谱发展,让其具备强大的文本和语言理解能力。

在李丰看来,大模型在金融领域的应用,可以先内后外,先从企业内部做提质增效的实验,然后再推到更广阔的应用场景。一方面,内部验证风险更低;另一方面,在打磨内部用户的认知和能力后,可以为大模型后续更广泛应用打下很好的基础。

新网银行信息科技部副总经理陈思成指出,随着数字原生迈向AI原生时代,金融机构可以重视基于大模型的AI原生应用。

“AI原生应用不是在现有系统基础上进行简单迭代改造就能完成,而是在大模型基础上重新构建AI的应用能力。AI原生还要充分考虑大模型的一些技术问题,比如算力、产幻、安全、可解释等问题。”他指出。但AI原生应用的确可以带来技术设计、产品设计思维、交互模式的转变。比如在产品设计端,传统的产品设计是面向用户设计,以业务流程、节点、数据等为核心设计,系统更多呈静态,需人工运营才能提升系统能力;而AI原生设计则是以AI为核心驱动力,以交互、理解、记忆、学习等逻辑思维为核心设计,系统呈动态,具备自动化学习能力、自动提升系统能力,能更好地服务客户多元化金融需求。

苏宁银行金融科技主任研究员杜娟透露,当前苏宁银行应用大模型,主要基于两大需求,一是降本增效,二是让金融服务变得更简单,包括客户更简单地使用金融服务,内部员工更便捷地开展工作以提升工作效率。

“对此,我们在数据端,成立了数据资源中心,从数据采集,到数据更新等方面提升银行数据质量,为引入大模型做精准预训练做准备,此外,我们还在探索大模型与某些场景的融合可能性,并构建一个相对成熟的工作体系,为大模型应用落地做铺垫。”她指出。

维信金科首席技术官史红哲指出,围绕大模型的应用,企业正考虑三管齐下,一是积极跟进大模型应用,且企业IT部门要与业务部门加强沟通,逐步推进大模型在具体应用场景的落地,令大模型使用场景更具实际操作性;二是要重视控制成本,不要贸然投入大量资源用于那些尚未看到实际成效的场景应用;三是在战略规划层面,中小金融机构要侧重能力封装与应用探索,坚持“谁好用就用谁的产品”,引入更多技术相对成熟的大模型产品提升自身业务竞争力与金融服务体验。

“考虑到大模型的算力与人力成本都比较昂贵,目前我们不打算做底层的大模型训练,但企业也对大模型应用规划了全景图,打算更好地借助内部能力与外部能力,提升大模型在各个金融业务环节的使用成效。”他表示。

值得注意的是,面对黑灰产欺诈攻击日益猖獗与客群下沉所带来的信贷风控新挑战,大模型如何在信贷风控场景成功落地,成为闭门会议的一大热门讨论话题。

腾讯安全副总裁周斌指出,众多银行等金融机构在开展零售信贷业务过程,都会遇到新客群、存量客户精细化运营、拓客新渠道等挑战。但传统调整风控策略阈值的方式,显然无法支撑大规模零售信贷业务的稳定性。这意味着金融机构得进一步推动风控模型的迭代升级,才能占据主动,这恰恰是大模型在风控场景应用落地的一大优势。

“如今,黑灰产运用新技术发动安全攻击的反应速度非常灵敏,甚至部分黑灰产也可能已研发欺诈大模型,能在24小时内不间断生成不同身份特征的用户,向金融业务发起贷款申请。这要求金融机构需加快迭代风控策略和风控模型的速度,否则会遭遇黑灰产组织的技术降维打击。”他举例说。尽管部分金融机构在人才、数据、预算等方面相对不足。但当前大模型的确可以令中小银行或金融机构拥有与头部机构同等水平梯度的风控科技能力,因为大模型在解决小样本风控建模方面具备较高优势。目前,腾讯云风控大模型在持牌消金机构、互金平台、银行、汽车金融等场景拥有大量服务经验,并积累丰富的风控知识,能很好地弥补风控建模样本短缺等挑战。

证券之星资讯

2024-02-29

证券之星资讯

2024-02-29

首页 股票 财经 基金 导航