2024大模型技术及其在金融行业的应用探索.pdf 50页

内容提供方：蓝色星球快生活
大小：13.16 MB
字数：约16.09万字
发布时间：2024-12-22发布于河北
浏览人气：0
下载次数：仅上传者可见
收藏次数：0
需要金币：*** 金币 (10金币=人民币1元)

2024大模型技术及其在金融行业的应用探索.pdf

关闭预览

想预览更多内容，点击免费在线预览全文

免费在线预览全文

星环科技，构建明日数据世界股票代码

星环科技，构建明日数据世界TRANsyARP

ShapingtheFutureDataWorld星环科技688031

ShapingtheFutureDataWorld

大模型技术及其在金融行业的应用探索

星环科技：東方

2024年11月21日

星环信息科技（上海）股份有限公司

星环信息科技(上海)股份有限公司

www.transwarp.cn

Copyrighto2024Transwarp.AllRightsReserved.

股票代码

目录TRANsyARP

目录688031

星环科技

背景知识

01背景知识

大模型应用体系建设

02大模型应用体系建设

02nsd

sOP

sorO

大模型在金融行业的应用探索β0

03大模型在金融行业的应用探索

03sopro

Ed?

sor

Copyrighto2024Transwarp.AllRightsReserved.7

股票代码

TRANsyARP

星环科技688031

背景知识

构建明日数据世界

www.transwarp.cn

Copyrighto2024Transwarp.AllRightsReserved.

股票代码

ChatGPT引发的巨大关注TRANsyARP

ChatGPT引发的巨大关注688031

星环科技

ChatGPT带来的震撼02:43②

ChatGPT带来的震撼WouethelnterogpnoChatGPT:Optimizing

1.技术突破：基于大规模预训练技术和更长的上下文长度，这使得它在对话流LanguageModels

1.技术突破：基于大规模预训练技术和更长的上下文长度，这使得它在对话流

HefHowiong?forDialogue

畅性、多轮对话、复杂语义理解等多个传统的NLP任务上取得了巨大的进展。WeandansdiedhbgChrO阿wtichhs

畅性、多轮对话、复杂语义理解等多个传统的NLP任务上取得了巨大的进展。

2.用户体验：ChatGPT的交互体验非常接近人类，它能够理解和生成自然语言，hcantconplain.you?

2.用户体验：ChatGPT的交互体验非常接近人类，它能够理解和生成自然语言，

pumotandpodsdnon

这使得用户感觉与一个真正有逻辑思维和语言交流能力的真人进行交流。eahrotootatwhuthaweyou

这使得用户感觉与一个真正有逻辑思维和语言交流能力的真人进行交流。

brenuptotody

3.研究范式改变：它的出现改变了NLP的研究范式，从传统的统计学习方法和词

mostyhickingback,checkingout

嵌入方法，到预训练加微调范式，再到如今的大语言模型。

嵌入方法，到预训练加微调范式，再到如今的大语言模型。reddityou?

4.应用潜力：其展示出了在众多领域的应用潜力。产业界积极进行场景实践。

4.应用潜力：其展示出了在众多领域的应用潜力。产业界积极进行场景实践。Wharshemotthumaneperence

youwerrhad?

5.社会影响：引发了对AI技术的广泛讨论，包括其在伦理、安全和隐私方面的2022年11月30日，OpenAI的生成式对话模型服务ChatGPT发布

5.社会影响：引发了对AI技术的广泛讨论，包括其在伦理、安全和隐私方面的

挑战。甚至已经符号化。steppingonakegprowthar

挑战。甚至已经符号化。

painortyahumancanurdersand

Whattyourtwourtefioroficn

cramandwhy?

一些关于ChatGPT的评论mintchocchiplitlecold,me

一些关于ChatGPT的评论

sweet,imecundhy,Justright

1.埃隆·马斯克和比尔·盖茨都对ChatGPT表示了高度评价。马斯克认为

amongthesurwwors.

ChatGPT“厉害得吓人”，而比尔·盖茨则认为ChatGPT的问世具有重大的历

ChatGPT“厉害得吓人”,而比尔·盖茨则认为ChatGPT的问世具有重大的历

upples,lurtherweakeningthehumanpopulation

史意义，这种人工智能技术的诞生不亚于互联网或个人电脑的诞生。

2.英伟达CEO黄仁勋也对ChatGPT给予了高度评价，他盛赞ChatGPT的诞生堪

比iPhone问世。Figure1:ChatinterfacefortheTuringTestexperiment

比iPhone问世。

featuringanexampleconversationbetweenahuman

3.澎湃新闻将2022年11月30日视为可能改变人类历史的日子，他们认为Interrogator(ingreen)andGPT-4.

3.澎湃新闻将2022年11月30日视为可能改变人类历史的日子，他们认为

GPT-4接受图灵测试

ChatGPT不仅催生了人工智能界的又一轮高光期，还并不常见地被誉为“蒸GPT-4接受图灵测试

ChatGPT不仅催生了人工智能界的又一轮高光期，还并不常见地被誉为“蒸

complateandtotalcontol.

汽机时刻”、“iPhone时刻”甚至“钻木取火时刻”。

生成毁灭人类计划引关注和对于大语言模型的思考

《DoesGPT-4passtheTuringtest?》arXiv.2310.20216

《PeoplecannotdistinguishGPT-4fromahumaninTuringtest》arXiv.2405.08007

Copyrighto2024Transwarp.AllRightsReserved.9

股票代码

大模型发展历程TRANsyARP

大模型发展历程星环科技688031

大模型发展历程中主要突破的技术时间线

AttentnsAllYouNeed

三三三

200620132014二三

200620132014

逐层无监督预训练Word2Vec模型GAN诞生scnegnhacahrw…a………xm

GeoffreyHinton提出逐层无监督预训练TomasMikolov和他的团队提Word2VecIanGoodfellow等人首次提出GAN生

GeoffreyHinton提出逐层无监督预训练TomasMikolov和他的团队提Word2VeclanGoodfellow等人首次提出GAN生

方式，缓解深度学习模型梯度消失问题。词向量模型。成式对抗网络概念。

20182017二

20182017

GPT-1BERT大模型发布Transformer架构提出

基于Transformer架构的与训练微调，模Google提出Transformer架构。开创

型在多种NLP任务上的性能。性的进步，引领NLP新纪元。

202020222023

GPT-3模型发布ChatGPT发布GTP-4模型发布

参数规模达到惊人的1750亿。对算OpenAI正式发布ChatGPT，引超大规模多模态预训练大模型。

参数规模达到惊人的1750亿。对算OpenAl正式发布ChatGPT,引超大规模多模态预训练大模型。

力的巨大需求正式拉开。发社会广泛关注。

Copyrighto2024Transwarp.AllRightsReserved.10

股票代码

大模型的大（强）TRANsyARP

大模型的大(强)688031

星环科技

通常包含数十亿甚至数千亿个参数，这些参数在训练

参数规模通常包含数十亿甚至数千亿个参数，这些参数在训练

过程中被调整以最小化损失函数。

为了训练这些模型，需要大量的数据。这些数据可以

是文本、图像、音频或其他类型的数据，用于训练模

预训练数据量是文本、图像、音频或其他类型的数据，用于训练模

型识别模式和做出预测。

由于模型的规模和数据量，大模型通常需要大量的计

算资源，如高性能的GPU集群，以及大量的内存和存储

计算资源算资源，如高性能的GPU集群，以及大量的内存和存储

空间。

大模型的特点

大模型由于其复杂性，通常具有很强的泛化能力，能

泛化能力大模型由于其复杂性，通常具有很强的泛化能力，能

够在未见过的数据上也表现出良好的性能。

处理和理解多种不同类型的数据输入和输出，例如文

本、图像、视频和音频等。使得模型可以跨不同领域

多模态能力本、图像、视频和音频等。使得模型可以跨不同领域

和应用场景迁移知识，提供更全面和深入的理解。

大模型通常可以在一个任务上预训练，然后在其他相

关任务上进行微调，这种迁移学习的能力使得模型可

迁移学习能力关任务上进行微调，这种迁移学习的能力使得模型可

以适应新的数据和任务。

Copyrighto2024Transwarp.AllRightsReserved.11

股票代码

大语言模型的众多优秀能力为产业深度利用打下坚实基础TRANsyARP

大语言模型的众多优秀能力为产业深度利用打下坚实基础688031

星环科技

贝多芬与巴赫什么时候见过面?

■广泛的常识：大模型通过在大规模文本数据上的预训练，学习到了语言的潜在结构、

n广泛的常识：大模型通过在大规模文本数据上的预训练，学习到了语言的潜在结构、

口问题解读aN761600期k,meH的

语法规则和语义关系，因此具备了广泛的常识。例如，它们可以理解和生成涉及各种主

参考

题的文本，从科学知识到日常对话。

题的文本，从科学知识到日常对话。特听结9VOL71不完音|听贝多芬响醒艺荷笔淡1听巴M.为::

全能贝五清刺的甲展河截然不同

n推理能力：大模型能够进行逻辑推理和问题解决。例如，在算术或逻辑推理任务中，互联网1深啊：2人民政协银：3查多(17

■推理能力：大模型能够进行逻辑推理和问题解决。例如，在算术或逻辑推理任务中，

◎回答

通过构建思维链提示技术，模型能够分步骤解决问题，类似于人类的思考过程。

他们的生活年代相隔基远，巴赫是18世纪的作曲家，而贝多芬是19世纪的作曲家，之不

n理解能力：大模型能够理解复杂的指令和上下文信息，这使得它们在执行任务时更加

■理解能力：大模型能够理解复杂的指令和上下文信息，这使得它们在执行任务时更加

·巴赫出生于1685年，逝世于1750年、他的音乐生涯主要在德国度过，他以作曲家和管风琴家的

精准。例如，它们可以根据邮件的主题自动撰写回复，理解用户的需求并生成合适的内身份工作，7#10n

精准。例如，它们可以根据邮件的主题自动撰写回复，理解用户的需求并生成合适的内

·贝多芬出生于1770年，逝世于1827年，他的育乐生涯主要在维也纳面过，他以作曲家和钢早家

容。的身份工作。不真世

容。·巴赫和贝多芬从未见过面，巴赫去世时，贝多芬才十岁。因此，他们之向投有个人交往的可能

n上下文学习：大模型能够根据上下文信息进行学习和预测，这使得它们在处理具有上性，

■上下文学习：大模型能够根据上下文信息进行学习和预测，这使得它们在处理具有上总的来说，巴赫和贝多芬是两位伟大的作曲家，但他们的生活年代相隔甚远，他们从未见过面，

基于常识的推理0监占

下文依赖性的任务时更加有效。例如，它们可以根据对话历史理解和生成连贯的回应。基于常识的推理

下文依赖性的任务时更加有效。例如，它们可以根据对话历史理解和生成连贯的回应。

n语言生成能力：大模型能够创造性地生成新的内容，包括文本、图像等。例如，它们

■语言生成能力：大模型能够创造性地生成新的内容，包括文本、图像等。例如，它们使用渔家傲给我写一首词，主题是描述在寒冬塞外战场上

征战士兵的对家乡与亲人的思念以及他们的报国情怀。

可以撰写文章、故事，甚至生成代码，展现出强大的语言创造能力。

口问题解读

n多任务能力：大模型在预训练后能够泛化到多个下游任务，无需大量针对特定任务的

■多任务能力：大模型在预训练后能够泛化到多个下游任务，无需大量针对特定任务的

回答

训练数据。例如，GPT-3模型在多种自然语言处理任务上展现出了令人瞩目的成果。渔家做塞外战场

训练数据。例如，GPT-3模型在多种自然语言处理任务上展现出了令人瞩目的成果。

寒风家痧边关道，战马嘴鸣藏满地，铁衣冰冷刀枪统，思乡息，梦中归和维寻见，

爆火连天战鼓擂，壮志豪情冲云霄，身在沙场心系国，家国情，儿女情长难自保，

■多模态理解能力：最新的大模型如GPT-4展示了更强的推理与多模态理解能力，能够

n多模态理解能力：最新的大模型如GPT-4展示了更强的推理与多模态理解能力，能够

白骨露寒草木愁，生死相依兄弟手，功名未立身先死、空回百，故乡山水在银前，

处理包括文本、图像在内的多种类型的数据。天地苍范英继泪，报国拥躯无怨悔，青史留名传万代，英魂在、塞外战场就可畏

处理包括文本、图像在内的多种类型的数据。

注：渔家做是词牌名，本词为七言律诗格式，共五十六字，八句四的，每句七个字，押平声的

文学创作口

文学创作

以上结果由星环无涯问知生成，

CopyrightO2024Transwarp.AllRightsReserved.12

股票代码

大模型产业发展-政策端：各级对大模型技术应用的支持与管理政策TRANsyARP

大模型产业发展-政策端：各级对大模型技术应用的支持与管理政策星环科技688031

在2024年3月发布的《政府工作报告》中，中央政府明确了对人工智能产业的顶层设计，主要聚焦于供给侧的“创新生产力”和需求侧的“促进内需”两大

领域。报告提出了针对数据资源、计算能力、市场环境和应用场景的多项具体措施，以推动人工智能产业的全面发展。

国家级引导政策：

Ø《新一代人工智能发展规划》：这份规划由国务院于2017年发布，旨在抢抓人工智能发展的重大战略机遇，构筑我国人工智能发展的先发优势，加快建设创新型国家和世界科技强国。

《新一代人工智能发展规划》:这份规划由国务院于2017年发布，旨在抢抓人工智能发展的重大战略机遇，构筑我国人工智能发展的先发优势，加快建设创新型国家和世界科技强国。

Ø《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》：由科技部等六部门于2022年印发，目的是落实《新一代人工智能发展规划》，系统指导各地方和各主体加快人工智能场景应用，推动经

《关于加快场景创新以人工智自高水平应用促进经济高质量发展的指导意见》:由科技部等六部门于2022年印发，目的是落实《新一代人工智能发展规划》,系统指导各地方和各主体加快人工智能场景应用，推动经

济高质量发展。

《生成式人工智能服务管理暂行办法》:该政策旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益。

Ø《生成式人工智能服务管理暂行办法》：该政策旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益。

Ø《“数据要素×”三年行动计划（2024-2026年）（征求意见稿）》：由国家数据局起草，提出支持开展通用人工智能大模型和垂直领域人工智能大模型训练，以发挥数据要素乘数效应，赋能经济社会发展。

《“数据要素×”三年行动计划(202-2026年)(征求意见稿)》:由国家数据局起草，提出支持开展通用人工智能大模型和垂直领域人工智能大模型训练，以发挥数据要素乘数效应，赋能经济社会发展。

地方支持政策：

Ø《北京市促进通用人工智能创新发展的若干措施》：该政策旨在充分发挥政府引导作用和创新平台催化作用，整合创新资源，加强要素配置，营造创新生态，重视风险防范，推动本市通用人工智能实现创新引领和理

《北京市促进通用人工智能创新发展的若干措施》:该政策旨在充分发挥政府引导作用和创新平台催化作用，整合创新资源，加强要素配置，营造创新生态，重视风险防范，推动本市通用人工智能实现创新弓顺和理

性健康发展。

Ø《北京市促进未来产业创新发展实施方案》：此方案旨在抢抓新一轮科技和产业变革机遇，促进未来产业创新发展，推动北京教育、科技、人才优势转化为产业优势。

《北京市促进未来产业创新发展实施方案》:此方案旨在抢抓新一轮科技和产业变革机遇，促进未来产业创新发展，推动北京教育、科技、人才优势转化为产业优势。

Ø《北京市加快建设具有全球影响力的人工智能创新策源地实施方案（2023-2025年）》：该方案的目标是高水平建设北京国家新一代人工智能创新发展试验区和国家人工智能创新应用先导区，加快建设具有全球影响力

的人工智能创新策源地。

Ø《北京市推动“人工智能+”行动计划（2024-2025年）》：这个行动计划的目标是通过实施标杆型应用工程、示范性应用项目和商业化应用成果，力争到2025年底形成3至5个先进可用、自主可控的基础大模型产品、

100个优秀的行业大模型产品和1000个行业成功案例。

Ø《上海市推动人工智能大模型创新发展若干措施（2023-2025年）》：这份通知由上海市经济和信息化委员会、上海市发展和改革委员会、上海市科学技术委员会、中共上海市委网络安全和信息化委员会办公室、上海

市财政局联合制定。它旨在推动上海大模型创新发展，构建开放安全创新生态，加快打造人工智能世界级产业集群。

Ø《推动区块链、大模型技术赋能生产性互联网服务平台发展实施方案》：由上海市经济和信息化委员会、上海市商务委员会联合发布，目的是推动区块链、大模型等前沿技术与平台深度融合，促进生产性互联网服务

《推动区块链、大模型技术赋能生产性互联网服务平台发展实施方案》:由上海市经济和信息化委员会、上海市商务委员会联台发布，目的是推动区块链、大模型等前沿技术与平台深度融合，促进生产性互联网服务

平台的高质量发展。

Ø《上海市推进“人工智能+”行动打造“智慧好办”政务服务实施方案》：这份通知由上海市人民政府办公厅发布，目的是推进政务服务领域“人工智能+”行动，打造快捷易办的“智慧好办”政务服务品牌。

《上海市推进“人工智能”行动打造“智慧好办”政务服务实施方案》:这份通知由上海市人民政府办公厅发布，目的是推进政务服务领域“人工智能”行动，打造快捷易办的“智慧好办”政务服务品牌。

Ø《上海打造未来产业创新高地发展壮大未来产业集群行动方案》：由上海市人民政府发布，旨在贯彻落实创新驱动发展战略，全力做强创新引擎，培育发展新动能，打造未来产业创新高地、发展壮大未来产业集群。

《上海打造未来产业创新高地发展壮大未来产业集群行动方案》:由上海市人民政府发布，旨在贵彻落实创新驱动发展战略，全力做强创新引肇，培育发展新动能，打造未来产业创新高地，发展壮大未来产业集群

各地AI大模型产业支持政策还有：北京、上海、山东、广东、安徽、福建和深圳、杭州、成都等地均发布了AI大模型的相关产业政策，以加速大模型应用落地。

各地AI大模型产业支持政策还有：北京、上海、山东、广东、安徽、福建和深圳、杭州、成都等地均发布了Al大模型的相关产业政策，以加速大模型应用落地。

CopyrightO2024Transwarp.AllRightsReserved.13

股票代码

大模型产业发展-需求端：企业端对生成式AI强劲需求TRANswARP

大模型产业发展-需求端：企业端对生成式A1强劲需求星环科技688031

l根据SAS和ColemanParkes调研，中国在生成式人工智能的应用率上领先，在“将生成式AI与现有业务流程进行全面覆盖及整合”的使用程度占比达到19%；

在“已进行部署生成式AI但尚未完全覆盖整合”的使用程度上占比达到64%。总比例83%，位居全球第一。美国在该两个维度上则分别达到24%和41%

在“已进行部署生成式A1但尚未完全覆盖整合”的使用程度上占比达到64??总比例83位居全球第一。美国在该两个维度上则分别达到24?41%

lIDC《2024AIGC应用层十大趋势白皮书》中调研显示，从全球化B端（企业端）的应用场景看，作为需求方，知识管理场景是AIGC现在最受企业青睐的应用

场景，全球市场、中国市场及美国市场受访企业对此场景的期待应用分别占到了52%、52.2%及60%

场景，全球市场、中国市场及美国市场受访企业对此场景的期待应用分别占到了52??52.2?60%

重点国家的企业部署AGI占比分布作为需求方，最有希望被企业采用的AIGC应用场景

2020-2028年中国人工智能产业规模

中国43.00%43%38%52%20%

19%大模型架构加速人工智能技术变现点到来，扩大8110

11%人工驾能+产业的商业价值空间6251610

24%49324955

11%美国45.70%46%37.70%60%性40%4092

3293

2620

64%

58%

41%43%

全球42%4110%3670%5220%39%20222025E2026E2027E2028E

中国美国英国全球中国人工智能产业加速前规模(亿元)■中国人工智能产业加速后规模(亿元)

全面部著AG已部MAGH但未全面整合上表引用自-艾瑞咨询-《2023年中国人工智能产业研究报告》第23页

营销代码生成会话知识管理*设计应用上表引用自-艾瑞咨询-《2023年中国人工智能产业研究报告》第23页

数据来源：SAS,CdemanPrkes,IDC等调研

本主要内容引用自-创业邦《2024AIGC创新应用洞察报告》第19页

Copyrighto2024Transwarp.AllRightsReserved.14

股票代码

大模型产业发展-供给端：在大模型带动下的AI产业蓬勃发展，百花齐放TRANsyARP

大模型产业发展-供给端：在大模型带动下的Al产业蓬勃发展，百花齐放688031

星环科技

2023年中国人工智能产业图谱

人工智能应用层ApplicationforAI

Al+泛安防Al+金融Al+政务Al+零售Al+医疗Al+工业Al+交通

计算机视觉大数据智能营销客服信贷风控视觉产品便民办公政务大数据运营优化营销客服视觉产品影像诊断大数据决策视觉检测+安全生产运维决策智慧管理自动驾驶

HKWsow些为云亚伯部Datacamva京乐云些物云间里云

臣云z

商通同e京乐云K

HIKVSIONeO京东云opoko

ahua涵百云系MX然殿*N附混XO西指云

中关树全京乐云中XRaeL些为云

刑事侦查智慧病案与DRGsAIDDnm点

PxradiomA旦兵料cLn

peL6W矿视中科回敬DaapcLIn

Dnucami中辩闻取PgradgmeHALONGO滴流⑥vs*n

X瓶中关MR创新奇智图漾科技

字雪baucam

e◎京乐云双科o联七商Cloudpck云8

MIKW/SION022bac

人机交互AloTAl+泛互联网Al+传媒影视Al+游戏Al+教育

对话式Al消费级硬件产业级消费级智能搜索问答内容审核推荐规划与图像处理创作工具内容生成剪辑特效内容生成、场景建模、教育工具智慧校园

E〇百阳智咽云O百面云HIKVS/OW平台管理生成O西云X州eED策略生成、AIAgent

来7AL好来米

Balom一X然殿

e京东云X然版当ahuaBaa360AI换脸换声创意营销

X愁股F国Fim(AadobeBL附EA国

四酒字线①又o-言污道义干间淘宝同带ammeituO新X然限O四云

中×-]同云8快手W*TRS

oppovivono西醋AI

区E1*KDa■团的至鼎e些毕为云

nw报MAabeA—w

OLenovo*MT

人工智能技术层TechnologyforAl人工智能大模型层与工具层ModelsforAl

Al开放平台Al开发平台通用基础大模型垂直行业/领域大模型大模型开放平台

阿里云Bal大后临火山引年点

e0京东云些华为云②腾讯云awS-网云Oma些云em乐云按模型模态按模型路径-里云〇百度酮能云些华为云OpenAI种EOm云

HIKVSIONnap

oc一万物Cra~

大语言模型闭源腾讯云京东云百爱aea

机器学习知识图谱自然语言处理opmATOMetaGoogleOmee(W云加4Pondgm_中关辉辩

penarA些物云

Datacanvas

京东云讲云A火山X踏股A~kae

AIAgents

Bald大后GoogleMicosoft建摩院京东云Cr~kingdeen

Google

Goagle器Nbsf

视觉大模型语音大模型ovo×小巴

MicrosoftPlantDatadtOm云，润码科技sr

OpenAIIBMBai大脑(X愁股尽TRS

商福些为云云OpenAI-mO西mE来TAL好未来

aws网M云开源网易状Daacanai中xe

计算机视觉智能语音OmaeO京乐云X然4×目万物工具层…

些为云OmmmE00MetaGoogle

eO京东云nm多模态大模型〔阿里云OEAl开源社区模型平台/模型服务

GW旷视兼

∽通〇百面云网里云X然脂川in

DatacampenAI阿里云Om云些物O京东云阿里云〇百度能云网云〇百云eO宗东云

0西eeulsoN

尝和eieX愁殿商泽，Datcanvas火山

下载文档
收藏
分享赏
0

您可能关注的文档

文档评论（0）

内容提供方：蓝色星球快生活
审核时间：2024-12-22
审核编号：6044002013011013
认证类型：实名认证
能力类型：内容提供者
领域认证：
版权证书：
区块链号：

2024大模型技术及其在金融行业的应用探索.pdf 50页