基于英特尔®至强®CPU Max系列的金证K-GPT产品方案推动投行技术创新

描述

3月21日,在以“数智创新 携手致远”为主题的2024金证投行数字化峰会上,金证股份发布了投行新一代综合业务数字化平台,该平台融入了基于英特尔 至强 CPU Max系列 9462 处理器的金证K-GPT产品方案,具备高性能、低成本、低延时、部署灵活的优势。通过使用英特尔 oneAPI以及xFasterTransformer,充分发挥英特尔 至强 CPU Max系列的算力潜能和内置HBM内存的高带宽优势,使金证K-GPT大模型无论在云端还是在私有化部署时均可快速落地。接下来,金证股份也将进一步推进金证大模型的持续优化,推进产品信息技术应用创新,赋能投资银行高质量发展。

“过往投行信息化主要是1.0、2.0阶段,烟囱式系统只能满足局部的业务支撑,在3.0阶段需要实现平台化、数字化。而证券公司投行数字化转型从一体化、平台化入手,先做数据治理,做数据模型化、标准化,实现数据完整性和一致性,然后在技术平台上构建投行业务中台,实现组件可复用及应用的快速开发,在一体化平台上实现模块化应用,在此基础上实现客户、项目、流程、任务、文件、底稿等在平台上的横向拉通、一致性管控和数据快速获取,并满足内控的纵向管控,进而对数据进行深度应用。”

“AI技术在金融领域应用广泛,AI背后的模型与设计也多种多样。英特尔 至强 CPU Max系列处理器具备强大的通用算力,不仅如此,它还是英特尔首款集成高带宽内存的x86处理器。我们相信,基于英特尔 至强 CPU Max系列的金证优智 K-GPT大模型产品能够为大家呈现出颇具性价比的优化方案。”

作为证券行业核心交易 IT 供应商,深圳市金证科技股份有限公司(以下简称:金证)推出了满足业务技术发展、监管风控合规要求的先进、开放、稳定的金证投行数字化方案-金证新一代投行综合业务数字化平台,与金证优智及其他伙伴一起,在AI大模型、投行RPA、智能撰写等方面形成联合解决方案,是金证在投行数字化3.0时代的实践成果。

金证优智金融大模型K-GPT及工具集,标志着金证股份推动AI在金融垂直领域落地应用上实现新突破。大模型工具集主要包括K-GPT、金融语义搜索、智能文档处理、金融知识库、精细调整和评估。基于大模型的场景解决方案涵盖智能投研、智能投顾、智能投行、智能合规和智能客服等领域。该解决方案工具集从训练到应用,一站式解决大模型应用落地,提供营销文案生成、监管问询总结、合规问答、智能客服机器人、知识QA生成器应用实例。

相较于通用大模型,K-GPT数据查询准确性高,更好理解金融术语,且回复专业、数据扎实,同时支持查看引用知识源,以及与实时数据与模块化集成,具备调取实时数据与组件的能力。依托于底层庞大的金融知识库,专为金融场景服务的K-GPT核心优势在于懂金融、数据准确、可验证及支持调用Agents。

此次英特尔与金证K-GPT大模型上的合作,基于英特尔 至强 CPU Max系列产品家族。双方通过在软硬件方面的协同合作,使用英特尔OpenVINO优化Embedding模型前后对比,实现3倍*以上性能提升,通过向量数据库的优化前后对比,查询性能实现4倍*性能提升。

在基于英特尔xFasterTransformer框架的大模型应用上,无论在首词生成时间FTL(First Token Latency)还是在吞吐TPS(Througput Per Second)上均可完全满足生产环境需求。英特尔 至强 可扩展处理器广泛部署于云与数据中心,这也意味着金证K-GPT大模型可以实现更加灵活的部署,并极大降低大模型的推理成本。

近年来,英特尔一直秉持着“水利万物而不争”的生态理念,携手国内生态合作伙伴,深挖各行各业的不同需求,凭借软硬件一体的先进技术,打造真正能够规模化落地的创新解决方案以推动行业进步。此次合作标志着英特尔和金证股份的合作迈出了更重要的一步,双方将共同推动更多技术创新,覆盖更广领域,为金融行业用户提供更多更好的服务。




审核编辑:刘清

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分