Loading [MathJax]/jax/output/CommonHTML/config.js
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >云厂PK算力够不够高, 客户只在意模型能否落地

云厂PK算力够不够高, 客户只在意模型能否落地

原创
作者头像
华尔街科技眼
发布于 2023-06-21 07:32:48
发布于 2023-06-21 07:32:48
2000
举报
文章被收录于专栏:华尔街科技眼华尔街科技眼

文/陆以达

编辑/cc

从可以领会意图识别情绪的聊天机器人,到梦幻般的图像创作,再到复杂的 DNA 蛋白质建模……ChatGPT吸引了全世界的想象力,并且把数字经济带向了另一个历史性的节点。人工智能正在充当无形的虚拟行政助理,辅助保险理赔估算,甚至进行法律援助。

大模型(LLM)狭义上指基于深度学习算法进行训练的自然语言处理(NLP)模型,它是让人工智能产生以上魔力的基础。为了让各个行业受益于大模型这样的数字经济基础设施的更新和进步,6月19日,腾讯云首次公布行业大模型研发进展,依托腾讯云TI平台打造行业大模型精选商店,为客户提供MaaS(Model-as-a-Service)一站式服务,帮助其他应用者开发在大模型的基础上定制、开发智能应用。

技术的爆发令所有人兴奋,但对于商业用途而言,成本和预算却是现实的考量。从规模上看,目前千亿级参数规模的大模型已经成为主流。各个大厂动辄比拼量级,通过足够大的规模促成“涌现”。通用大模型的训练不但需要依赖大规模的GPU芯片支持算力,也需要海量的训练数据和漫长的训练周期,昂贵且耗时,是大玩家才能负担得起的巨大投入。

腾讯集团高级执行副总裁汤道生在大模型及智能应用技术峰会上就模型、数据、应用与算力拆解了大模型在产业落地的方案,他指出,一味强调规模的大模型并不是满足行业场景需求的最优解:“客户更需要有行业针对性的大模型,再加上企业自己的数据做训练或精调,才能打造出实用性高的智能服务。企业所需要的是在实际场景中真正解决了某个问题,而不是在100个场景中解决了70%-80%的问题。”

激动人心但昂贵的技术如何落地?关于创新技术的应用,麻省理工学院(MIT)麦戈文人脑研究院创始人帕特里克·麦戈文先生说过一句朴素的至理名言:“寻找那些用户需求没有得到满足的领域。”大模型寻找到真正的落地场景,需要特定行业和专业领域的知识。只有经过了特定的“调教”,通用模型才能扩展延伸成行业模型甚至场景模型,解决商业痛点,满足市场的需要。

图:腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声

大模型三千,让客户也可以取一瓢

面对一些中小型企业无法承担大模型落地高昂成本的落地问题,大模型不但要会“计算”,也需要能够为客户着想,会“算计”,成为可负担、具有可及性、可以带来商业回报的技术。

“行业大模型与产业的结合尚处于早期阶段,针对产业的标记和模型训练仍然在摸索的过程中,而产业对大模型的理解和运用也才刚起步。”腾讯云副总裁和智能负责人吴运声认为,“让客户真的能够用起来,帮助他解决问题,才是大模型落地发挥作用的时刻。”

吴运声指出:“我们发现,大模型在不同的参数影响下确实会表现出一些区别,像逻辑推理、数学推理等等确实要到几十B甚至上百B的规模才能比较大的提升;但是,一些开放问答或者其他维度,通过小模型、量化其他方式维持在十几B,甚至比较小的一个范围内,就可以满足客户的需求,达到小问题用大模型这个愿景。”

因此,针对问题,找到最合适的模型,以最低的成本,匹配最好的服务,才是扫清大模型落地产业的障碍。有一些垂直行业、领域或者产品,它所涉及的数据量本身并不大,其实用小参数可能效果会更好。

在依托腾讯云TI平台MaaS一站式服务的精选商店里,企业客户可根据自身业务场景需求,“量体裁衣、按需定制”不同参数、不同规格的模型服务,选购涵盖模型预训练、模型精调、智能应用开发等一站式行业大模型解决方案。在TI平台内置高质量行业大模型基础上,企业加入自己独有的场景数据,就可以快速生成自己的专属模型,大幅降低大模型应用门槛。

“结合客户的需要,评估解决问题的难度,选择对应的模型,形成定制化的整体解决方案。有的场景预算甚至不会提升,而是降低。”吴运声说,“一些问题场景原来是无法解决的,大模型可以解决,一些场景问题原来需要多个模型解决,现在只需要一个模型解决,因此,可以更加节省人力和资源。”

腾讯云TI平台以前更强调工具的属性,如今在升级为MaaS后,得到了腾讯云内置行业大模型的加持。这意味着下游产业和公司可以站在腾讯云的肩膀上继续拓展人工智能的想象力,利用TI平台提供的完善的大模型工具链,包括数据标注、训练、评估、测试和部署等全套工具,进一步打磨大模型的能力,为行业提供高性能的方案。在这样的基础上,场景和应用公司可以更好地用例打磨细节,节省了巨大的投入成本,避免“杀鸡用牛刀”落地问题。

图:腾讯云MaaS全景图

产业场里练兵,哪些用例已经走马上任?

大模型意味着数字基础设施的升级,也预示着相关的创新工具箱的爆发。在这艘全新的数字母舰上,行业新数字化的迁徙已经发生。想要大展拳脚的技术必须找到市场,而市场就在产业和生态中。目前的MaaS覆盖了金融、传媒、文旅、政务、工业等多个行业场景,腾讯云意在锁定船票,开始征途。

依托在高性能算力及大模型能力方面的积累,腾讯云已在大模型行业应用方面共创了50多个行业解决方案,在智能客服、光学字符识别(OCR)、跨模态检索等领域有广泛实践,大模型被调教完之后,直接可以完成这些行业的下游任务。

“以前客户服务需要就相应的流程配置大量的知识库、模块和画布,而如今,行业大模型不但可以提供更高效的方案,它甚至还可以识别客户的意图,做情绪分析,并且给出更人性化的回复。”在分享案例时,吴运声表示,客户对行业大模型持欢迎的态度,只要打消顾虑,解决真问题,带来真效用,行业就会拥抱新技术。

在研发进展的发布会上,腾讯云拿出了几个案例:客服问答服务已经涵盖了文旅行业的定制化服务、政府政务问答和教育就业类的咨询场景;跨模态检索方面,腾讯云TI平台原生模型开始服务于剪辑师,大力提升了视频制作和分发的效率;银行服务也受惠于OCR的智能化,实现了95%以上准确率的文件智能识别和关键词提取,将文件数据转化为结构化数据,全面提升运营效率。

“大模型只是开端,AI与产业的融合,将绽放出更有创造力的未来。”汤道生在主题演讲中说,“回顾过去,人工智能的发展是结合开放数据的积累、算法的创新与算力的突破共同推动的;也是全球科技企业、高校与研究机构共同努力,通过代码的开源与研究成果的分享,开放共建的成果。”让AI普惠产业和生活,是大模型服务数字经济的最终目的。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
大模型进入「落地战」,腾讯云下手「行业」大模型
自 Bert 出现之后,大模型成为 AI 领域的主流技术趋势,业界也因此掀起两轮热潮。
机器之心
2023/08/07
5050
大模型进入「落地战」,腾讯云下手「行业」大模型
瞄准B端!腾讯云推多款行业大模型解决方案,打造模型应用商店
6 月 19 日,腾讯云在国家科技传播中心召开行业大模型及智能应用技术峰会,首次公布腾讯云行业大模型研发进展,依托腾讯云 TI 平台打造行业大模型精选商店,为客户提供 MaaS(Model-as-a-Service)一站式服务,助力客户构建专属大模型及智能应用。值得注意的是,此次腾讯云发布的大模型,主要瞄准的是 B 端市场。
深度学习与Python
2023/08/09
9360
瞄准B端!腾讯云推多款行业大模型解决方案,打造模型应用商店
腾讯云MaaS再升级:混元筑底、生态扩容,持续推进“效能革命”
9月7日,2023腾讯全球数字生态大会于深圳举办。会上,腾讯首次对外公布腾讯混元大模型进展,并宣布从技术底座、平台能力、智能应用三大维度升级MaaS能力。基于自研腾讯混元大模型,同时支持业内20余款主流开源模型,助力客户构建专属大模型及智能应用,加速模型产业落地,推进“效能革命”。
小腾资讯君
2023/09/08
5730
2023世界人工智能大会|大模型等AI技术助力场景创新,激活产业发展新动能
7月7日,2023世界人工智能大会·腾讯论坛在上海世博中心举办。论坛以“无限可能”为主题,聚集AI大模型领域,公布了一系列AI创新进展,在技术底座、创新场景、AI for Science三大领域带来升级,也是继6月行业大模型技术解决方案后的再次更新。
腾讯云TI平台
2023/07/25
8080
2023世界人工智能大会|大模型等AI技术助力场景创新,激活产业发展新动能
腾讯云公布行业大模型最新进展
这是每家企业的关切。然而,面对算力昂贵、数据有限、经验缺乏、人才不足等等挑战,实际难度不小。
腾讯云TI平台
2023/07/25
1.1K0
腾讯云公布行业大模型最新进展
圆桌研讨:大模型要在“尽精微”上面下功夫,核心目的是要解决行业实际问题
去年年底,ChatGPT横空出世,生成式AI、大模型等技术也逐渐被关注。当前大模型展示出了哪些惊艳的能力?在落地的过程中,又存在哪些问题?未来又该朝着什么方向发展?
腾讯云TI平台
2023/07/25
3320
圆桌研讨:大模型要在“尽精微”上面下功夫,核心目的是要解决行业实际问题
腾讯云MaaS最新升级:上架20多个主流模型,支持开发者一键调用
如何快速、低成本将AI大模型技术应用到实际业务场景,是新一轮人工智能技术浪潮中,保持核心竞争力的关键,也是国内越来越多的企业关切、探索方向。
小腾资讯君
2023/08/16
6600
腾讯云 MaaS 最新升级:上架 20 多个主流模型,支持开发者一键调用
如何快速、低成本将 AI 大模型技术应用到实际业务场景,是新一轮人工智能技术浪潮中,保持核心竞争力的关键,也是国内越来越多的企业关切、探索方向。
深度学习与Python
2023/09/08
3830
腾讯云 MaaS 最新升级:上架 20 多个主流模型,支持开发者一键调用
2021世界人工智能大会召开,腾讯云推出全新三大AI底层平台
7月9日,2021世界人工智能大会腾讯论坛在上海举办,腾讯云副总裁、腾讯优图实验室总经理吴运声发表了“人工智能的可持续发展之道”主题演讲,宣布全新推出腾讯云TI ONE、TI Matrix、TI DataTruth三大AI底层平台,可以提供包括算法开发、模型训练、数据标注和数据处理等一系列开发能力,为企业或个人提供一站式的智能化、数据化、移动化服务。腾讯云与AI深度融合,优化产业结构,为数字经济注入新动能,助力可持续社会价值创新。 腾讯云副总裁、腾讯优图实验室总经理吴运声 TI ONE提供了一套从
腾讯云AI
2021/07/12
1.2K0
腾讯云发布三大AI大模型引擎,5分钟开发一款企业级知识应用
2024年5月17日,腾讯云生成式AI产业应用峰会在北京召开,公布大模型研发、应用产品的系列进展。
腾讯云AI
2024/05/20
1.8K0
腾讯云发布三大AI大模型引擎,5分钟开发一款企业级知识应用
AI大模型催生“效率革命”,重塑智能应用
9月7日,2023腾讯全球数字生态大会在深圳国际会展中心举行,聚焦产业未来发展新趋势以及自研技术产品的最新进展,展示了全方位的行业前沿与智慧洞见。
小腾资讯君
2023/09/15
4840
腾讯云吴运声:加速AI原生应用落地,让技术创新转化为实际生产力
“当前,AI应用领域呈现出交互体验更丰富、模型使用更高效、应用构建更快捷等趋势。”5月21日,在2025腾讯云AI产业应用峰会上,腾讯云副总裁、腾讯云智能负责人、腾讯优图实验室负责人吴运声发表主题演讲。
腾讯云AI
2025/05/22
2940
腾讯云吴运声:加速AI原生应用落地,让技术创新转化为实际生产力
加速模型场景落地!腾讯大模型工具链全面升级
目前,腾讯围绕大模型已经构建起全链路的产品矩阵,包括底层基础设施、自研大模型、模型开发平台、智能体开发平台和面向场景的多元智能应用等,帮助企业客户将大模型快速落地到场景中去。
腾讯技术工程官方号
2024/08/08
6750
加速模型场景落地!腾讯大模型工具链全面升级
腾讯云智能战略全新升级,以「四级加速」助力政企开启数智化转型新思路
12月1日,2022腾讯全球数字生态大会上,以“云智能加速推动产业数智化进程”为主题的腾讯云智能专场顺利召开。会上,腾讯云智能基于自身全栈技术能力,正式对外发布全新战略:以四级加速矩阵,打造低成本、低门槛、高可用的AI产品和解决方案,并围绕做厚平台、做精应用、做深行业、做广生态四大方向持续发力,实现算力、AI开发、应用的全链路加速落地。 聚焦战略升级之外,此次数字生态大会期间,腾讯云TI平台也迎来了全新升级:在产品功能特性全面提升的同时,还上新了工业质检、融媒体两大能力平台,以期为工业、传媒行业提供优质的产
腾讯云TI平台
2022/12/02
1.4K0
腾讯云智能战略全新升级,以「四级加速」助力政企开启数智化转型新思路
腾讯吴运声:人工智能与行业应用正展开一场“双向奔赴”的范式变革
9月3日,2022年世界人工智能大会“腾讯论坛”在上海举办。腾讯云副总裁、腾讯优图实验室总经理吴运声发表了“加快AI技术与场景创新,助力数字经济高质量发展”主题演讲。吴运声表示:“随着数字技术与实体经济加速融合,人工智能的发展不再局限于算力、算法、数据等方面的技术突破,而是从行业应用、社会需求的角度逐渐深入,展开一场‘双向奔赴’的范式变革。” 腾讯云副总裁、腾讯优图实验室总经理吴运声 吴运声指出,以促进人工智能与实体经济深度融合为主线,以提升场景创新能力为方向,腾讯一直通过向各行业提供AI技术助力,推动人
腾讯云TI平台
2022/09/06
6940
腾讯吴运声:人工智能与行业应用正展开一场“双向奔赴”的范式变革
腾讯吴运声:「即插即用」式AI服务,加速产业数实融合进程
12月1日,2022腾讯全球数字生态大会上,以“云智能加速推动产业数智化进程”为主题的腾讯云智能专场顺利召开。会上,腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声发表了主题演讲。 腾讯云副总裁、腾讯云智能负责人、 优图实验室负责人吴运声 吴运声表示,人工智能与云计算、大数据等技术的深度融合, 正在成为推动产业智能化深入发展的强劲动力。腾讯云智能聚合领先的 AI 技术优势、深耕产业互联网的行业经验,已经将腾讯云TI平台等多种 AI 产品及解决方案输送到各行各业,助力实体产业转型升级。 腾讯云TI平台
腾讯云TI平台
2022/12/02
1.1K0
腾讯吴运声:「即插即用」式AI服务,加速产业数实融合进程
2022世界人工智能大会,腾讯云+AI驱动技术创新与场景创新双向融合
9月3日,2022世界人工智能大会·腾讯论坛在上海举办,聚焦“人工智能技术助力数字经济高质量发展”,腾讯展示了AI平台建设、产业应用、行业研究的最新成果。与此同时,腾讯联合国家天文台公布以“AI+云”开启M31仙女座星系中脉冲星类致密天体的最深度完整探测,AI+天文跨界组合取得重大突破,成为大会关注焦点。 大会期间,腾讯也公布了一系列AI创新的进展。在技术创新层面,腾讯云TI平台持续升级,通过“最佳实践”不断优化升级平台性能。全新的AI加速功能TI-ACC,训练加速性能较原生框架提升30%以上,作为腾讯首
腾讯云TI平台
2022/09/06
1.2K0
2022世界人工智能大会,腾讯云+AI驱动技术创新与场景创新双向融合
2023国家网络安全周|腾讯吴运声:AIGC浪潮下,大模型应用的机遇与挑战
9月11日,由中央宣传部、中央网信办、教育部、工业和信息化部、公安部、中国人民银行、国家广播电视总局、全国总工会、共青团中央、全国妇联等十部门联合举办的2023国家网络安全宣传周在福建省福州市开幕。今年的网络安全宣传周继续以“网络安全为人民,网络安全靠人民”为主题,全面营造全社会共筑网络安全防线的浓厚氛围。
小腾资讯君
2023/09/27
3580
腾讯云吴运声:打造大模型时代原生工具链,助力客户一站式构建AI原生应用
吴运声指出,随着大模型技术的快速发展,人工智能已成为企业数字化转型的核心动力。Gartner的调研显示,超过60%的中国企业计划在未来12至24个月内部署生成式AI,反映出企业对大模型技术的迫切需求。
腾讯云AI
2024/05/20
4380
腾讯云吴运声:打造大模型时代原生工具链,助力客户一站式构建AI原生应用
国内首个!腾讯云联合信通院正式发布「金融行业大模型标准
9月18日,2023可信AI大会暨南京人工智能产业发展大会成功召开。会上,腾讯云作为推动行业大模型发展的核心单位,联合信通院正式发布国内首个金融行业大模型标准,为金融行业智能化的高质量发展提供了重要支撑,为全面促进大模型安全合规和可信发展提供了重要保障。
小腾资讯君
2023/10/11
7030
国内首个!腾讯云联合信通院正式发布「金融行业大模型标准
推荐阅读
大模型进入「落地战」,腾讯云下手「行业」大模型
5050
瞄准B端!腾讯云推多款行业大模型解决方案,打造模型应用商店
9360
腾讯云MaaS再升级:混元筑底、生态扩容,持续推进“效能革命”
5730
2023世界人工智能大会|大模型等AI技术助力场景创新,激活产业发展新动能
8080
腾讯云公布行业大模型最新进展
1.1K0
圆桌研讨:大模型要在“尽精微”上面下功夫,核心目的是要解决行业实际问题
3320
腾讯云MaaS最新升级:上架20多个主流模型,支持开发者一键调用
6600
腾讯云 MaaS 最新升级:上架 20 多个主流模型,支持开发者一键调用
3830
2021世界人工智能大会召开,腾讯云推出全新三大AI底层平台
1.2K0
腾讯云发布三大AI大模型引擎,5分钟开发一款企业级知识应用
1.8K0
AI大模型催生“效率革命”,重塑智能应用
4840
腾讯云吴运声:加速AI原生应用落地,让技术创新转化为实际生产力
2940
加速模型场景落地!腾讯大模型工具链全面升级
6750
腾讯云智能战略全新升级,以「四级加速」助力政企开启数智化转型新思路
1.4K0
腾讯吴运声:人工智能与行业应用正展开一场“双向奔赴”的范式变革
6940
腾讯吴运声:「即插即用」式AI服务,加速产业数实融合进程
1.1K0
2022世界人工智能大会,腾讯云+AI驱动技术创新与场景创新双向融合
1.2K0
2023国家网络安全周|腾讯吴运声:AIGC浪潮下,大模型应用的机遇与挑战
3580
腾讯云吴运声:打造大模型时代原生工具链,助力客户一站式构建AI原生应用
4380
国内首个!腾讯云联合信通院正式发布「金融行业大模型标准
7030
相关推荐
大模型进入「落地战」,腾讯云下手「行业」大模型
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档