11月23日,腾讯金融云新智能技术峰会在上海举办,腾讯云副总裁、腾讯云智能解决方案负责人王麒出席并分享了金融行业大模型的落地思考与实践。

 会上,王麒系统介绍了腾讯云金融行业大模型的创新方案。通过腾讯云TI平台,腾讯云行业大模型对金融领域超过10项基础能力进行了精调优化,涵盖了金融信息提取、阅读理解、意图识别、安全合规等。通过参数优化、微调和强化学习,该模型已广泛应用于知识问答、舆情摘要、营销文案生成、研报摘要、产品推荐、投资者教育等金融客户典型场景。

 腾讯云副总裁、腾讯云智能解决方案负责人王麒

 目前,多家头部金融机构已经与腾讯云在金融行业大模型落地方面展开合作。中国银联通过腾讯云TI平台搭建了一站式AI开发平台,降低金融业务AI能力建设门槛。例如,在单据识别录入场景,腾讯云TI-OCR训练平台整合OCR大模型,支持银联快速自定义证件、票据、文本识别,实现业务流程自动化,提升效率并节约成本。

 携手融360,在优化风险管理、提高信用卡/贷款推荐效率、革新保险体验、助力监管科技等方面,将AI技术应用于实际场景。某交易所联合腾讯云,结合大模型技术,从舆情检索、摘要和内容生成等业务场景进行探索。助力金腾科技,采用公私域结合的模式,在公有云环境实现热点分析、行情总结、股市收评等场景应用;在私有云环境下,构建企业专属大模型,帮助金融机构实现产品信息查询、业务指引、投资建议、投后管理等业务场景。

 模型应用之外,腾讯云还联合中国银保传媒、腾讯研究院发布了《2023金融业大模型应用报告》,对金融行业大模型的边界落地、价值与应用进行了深度分析,为该领域的发展提供了重要参考。

 另一方面,作为推动行业大模型发展的核心单位,腾讯云还与信通院合作发布了国内首个金融行业大模型标准,为行业智能化发展提供了有力支撑,进一步促进了大模型的安全合规和可信发展。

 持续升级大模型MaaS能力,深入金融客户应用场景

 腾讯云一直致力于推动产业创新,特别是大模型在行业中的应用。针对金融行业,腾讯云通过夯实算力基础、提供模型工具和深入业务场景三个关键举措,不断强化MaaS能力,助力客户建立专属金融大模型及智能应用,加速大模型技术在行业中的实际落地。

 夯实算力基础方面,今年4月,腾讯云发布了新一代HCC高性能计算集群,采用星星海自研服务器,提供高性能存储系统,带宽达到3.2Tbps,将算力性能提升了3倍,降低了大模型训练成本,确保高性能、低时延。

 模型工具优化方面,腾讯云MaaS模型商店接入腾讯混元大模型,并整合了多个主流开源模型,如Llama2、Falcon、Dolly等,并支持开源模型的直接调用和低代码操作,确保企业可以自主精细化调整大模型,同时经过推理测试验证其可用性和易用性。

 业务场景拓展方面,腾讯云已积累一套全生命周期的大模型应用方法论,覆盖「模型选型-训练-部署应用」全流程,包括「业务分析-数据分析-数据清洗-数据标注-大模型选择-训练加速-模型评测-应用落地」等环节,同时支持MLOps的体系及工具,保障客户需求的顺利交付。

 眼下,腾讯云行业大模型已全面提升智能客服、数智人、TI-OCR训练等智能应用生产效率,将更多元化的,即插即用的产品、服务推向金融领域。携手中国银联,加速大模型的MaaS建设;与某头部保险公司共创,加速大模型的保险场景应用;并启动腾讯云新智能生态拓展计划,首批涵盖11家行业生态伙伴。

 共建行业生态,发布金融行业报告并推动标准制定

 金融行业作为大模型率先落地的垂直领域之一,拥有丰富的数据资源和广泛的实践场景。同时,金融产业链尚未形成基于大模型的体系化应用共识和领先范式,也尚未形成标准化的应用演进模式与明晰的场景ROI判断框架。

 基于此,腾讯云携手中国银保传媒和腾讯研究院共同发布《2023金融业大模型应用报告》,深入研判大模型在金融领域落地的场景边界和应用落地路径。

 报告指出,由于大模型等新兴技术发展,底层逻辑将发生根本变革,层级化、流程化的金融服务模式或将逐渐消解,而网络化、分布式、场景化、具身化的新金融服务模式将建立,营销、渠道、风控将成为金融业务中大模型应用的高频价值场景。未来,以大模型为核心的应用体系将不断健全,数智金融也将加速迈进新时代。

 与此同时,金融大模型在实际落地过程中仍面临多重挑战,如在哪些场景能发挥作用,金融机构如何评估应用效果等。为应对这一现实,腾讯云联合信通院发布了国内首个金融行业大模型标准,从场景适配度、能力支持度、应用成熟度等方面为金融机构提供了重要的参考和评估依据。

 随着金融行业大模型进入规模化应用的全新阶段,腾讯云作为主要推动者之一,一方面致力于降低金融行业大模型的落地门槛,提高其服务合规性、准确性和部署模式;另一方面,积极推动大模型在新场景中的应用创新,以提升金融业务的用户体验和运营效率。

 未来,腾讯云也将持续向金融行业输出领先的技术、产品和服务能力,携手更多生态合作伙伴,为金融行业的智能化、高质量发展提供持续动能。