Gartner研究表明,随着时间的推移和价格的持续下降,以及云部署在敏捷性、创新速度和生态系统方面的优势,中国企业的人工智能(AI)部署将逐步从本地转向云端。Gartner预测,到2027年,中国的全部AI推理工作负载中,基于云的工作负载占比将从前的20%上升至80%。
Gartner高级研究总监方琦表示:“多家中国生成式人工智能(GenAI)厂商,其大语言模型应用编程接口(API)的推理成本已经降低了90%以上,有力地推动了企业地GenAI采用。企业数据和分析(D&A)领导者应积极评估相关影响,并扩展GenAI解决方案,以满足未来需要。”
DeepSeek于2024年5月6日推出了V2模型,价格仅为GPT-4 Turbo的1/75。几天后,字节跳动于5月16日推出豆包大模型,宣称比行业平均价格便宜99.3%。作为应对,阿里巴巴、百度和腾讯纷纷调整了其大语言模型API的价格。
图1:中国主流厂商大语言模型与OpenAI的价格变化情况比较
API价格下降短期内对企业的影响有限
在计算企业GenAI解决方案的总拥有成本(TCO)时,需要将微调成本考虑在内。首先,可以使用高端GenAI模型来评估企业用例的技术可行性,然后使用企业自身的数据,对小型模型进行微调,以执行特定的下游任务。此外,在使用API将数据上传到云端时,还应考虑额外的数据安全和隐私要求。与规模较小的模型相比,最先进的大语言模型的价格变化并不显著,这将进一步减轻价格变动的影响。
方琦表示:“已部署本地GenAI解决方案的中国企业,不会受到大语言模型 API价格变化的影响。对于云部署来说,API成本只是GenAI解决方案整体成本的一部分。需要注意的是,价格只是评估因素之一,还需要对其他因素进行仔细审查,如模型质量、吞吐量和延时。”
API价格的持续下降,推动了对AI部署策略的重新评估
企业应根据业务重点来选择AI部署方式,尤其需要从六个角度比较云部署和本地部署方案的优劣势,这六个角度分别是:企业数据的主要存放位置、安全和监管合规、专门的基础设施、平台/集成的优劣势、运营支出(OpEx)与资本性支出(CapEx)、人才和技能集合。
方琦表示:“随着大语言模型API的平均价格不断下降,云部署解决方案在未来将拥有更明显的优势。此外,随着技术的加速迭代和相关架构的日益复杂化,云部署解决方案的优势将在许多场景中更加突显。因此,各企业机构需要重新评估其AI部署战略。”
关键字:Gartner 模型 人工智能引用地址:Gartner:中国大语言模型价格战推动人工智能加速上云声明:本文内容及配图由平台用户或入驻媒体撰写。文章观点仅代表作者本人,不代表EEWorld网站立场。文章及其配图仅供工程师学习之用,如有内容侵权或违规,请联系本站处理,邮箱地址:bbs_service@eeworld.com.cn
推荐阅读最新更新时间:2024-10-11 20:52
如何在TI SimpleLink CC1352P上快速开发AI原型?
德州仪器(TI)的CC1352P器件是一款多协议低于1GHz和2.4GHz无线MCU,面向无线M-Bus、IEEE802.15.4g、支持IPv6的智能对象(6LoWPAN)、Thread、Zigbee®、KNXRF、Wi-SUN®、低功耗Bluetooth®5以及专有系统,包括TI15.4-Stack。该器件包含具有一流效率的+20dBm集成高功率放大器,适用于远距离应用。 CC1352P器件是具有成本效益、超低功耗、2.4GHz和低于1GHz射频器件SimpleLink MCU平台中的一员。非常低的有源射频和微控制器(MCU)电流以及低于1μA的睡眠电流和高达80KB并受奇偶校验保护的RAM保持能力可提供卓越的电池寿命,并
[嵌入式]
MIT开发了一种配备人工智能的机器人 能在线多人游戏中击败人类玩家
麻省理工学院(T)的研究人员开发了一种配备了人工智能的机器人,该机器人可以在棘手的在线多人游戏中击败人类玩家,而其中的玩家角色和动机却被保密。已经建立了许多游戏机器人来跟上人类玩家的步伐。今年早些时候,卡内基梅隆大学的一个团队开发了世界上第一个可以击败多人扑克专业人士的机器人。DeepMind的AlphaGo在2016年成为头条新闻,以击败专业的Go玩家。还建立了一些机器人来击败专业的国际象棋玩家或联合起来合作合作游戏,例如在线夺旗。但是,在这些游戏中,机器人从一开始就了解其对手和队友。在下个月的神经信息处理系统大会上,研究人员将展示DeepRole,这是第一个可以赢得在线多人游戏的游戏机器人,参与者最初对团队的
[机器人]
解锁边缘AI“新视野”:事件视觉如何助力工业制造释放新质生产力?
在智能工厂里,AGV/ARM机器人通过三维视觉感知,精准识别并拾取货架上的物品,它们还可以与人类同事进行协同互动,安全将货物送至生产车间。生产线上,配备智能摄像头的机器如同拥有智慧的眼睛,可以读取标签和解释标识。通过机器深度学习,机器视觉系统可以理解物品形状、计算体积,并以最节省空间的方式将其完美装箱。 这听起来或许像科幻小说里的场景,但在今天的智能工厂里,人工智能正在重塑工业生产与智能制造,从质量控制到预测性维护,从协作机器人到数字孪生……结合人工智能技术的机器视觉系统 通过摄像头和传感器采集数据, 让工业设备能够“看见”并分析生产制造流程、控制生产质量,并确保工人安全,是引领工业制造向工业4.0过渡的关键技术。
[物联网]
AI / 5G如何赋能机器人
一、AI机器感知解决机器理解世界的问题。 1.机器视觉硬件可采集周围环境信息 目前常用的视觉传感器主要有:摄像头、ToF镜头和激光雷达技术。 1)机器视觉相机 机器视觉相机的目的是将通过镜头投影到传感器的图像传送到能够储存、分析和(或者)显示的机器设备上。可以用一个简单的终端显示图像,例如利用计算机系统显示、存储以及分析图像。 2)激光雷达技术 激光雷达是一种采用非接触激光测距技术的扫描式传感器,其工作原理与一般的雷达系统类似,通过发射激光光束来探测目标,并通过搜集反射回来的光束来形成点云和获取数据,这些数据经光电处理后可生成为精确的三维立体图像。采用这项技术,可以准确的获取高精度的物理空间环境信息,测距精度可达厘
[机器人]
2018年值得关注的技术趋势
在刚刚到来2018年,人工智能(AI)、虚拟现实(VR)以及区块链等其他技术趋势都值得密切关注… 近几年来,技术持续以指数级的速度进展,每一个新的一年总会迎来一种全新的技术世代。2014年的3D打印机器、Oculus Rift VR、更灵活的机器人和无人机崛起;2015年揭示行动设备搭载无线支付、纳米架构以及车对车通讯(V2V)等创新技术;2016年与2017年带来了物联网(IoT)、钠离子电池以及诸如Sophia等人工智能(AI)领域的新进展等等。到了2018年,将会出现哪些新技术目前可能难以预测,但可以确定的是在接下来的新技术年代将会更加耐人寻味。 以下是在即将到来的一年里我们应该密切关注的一些技术发展趋势: 在未来十年,预
[安防电子]
“人工智能+能源互联网”前景可期
中国储能网讯: 推进能源生产和消费智能化,人工智能将起到有力的支撑作用。反过来,“互联网+”智慧能源也将支撑人工智能的发展。 构建安全高效的能源互联网《新一代人工智能发展规划》规划的重点任务提出,构建泛在安全高效的智能化基础设施体系。大力推动智能化信息基础设施建设,提升传统基础设施的智能化水平,形成适应智能经济、智能社会和国防建设需要的基础设施体系。加快推动以信息传输为核心的数字化、网络化信息基础设施,向集融合感知、传输、存储、计算、处理于一体的智能化信息基础设施转变。统筹利用大数据基础设施,强化数据安全与隐私保护,为人工智能研发和广泛应用提供海量数据支撑。建设高效能计算基础设施,提升超级计算中心对人工智能应用
[新能源]
贸泽电子开售可提升AI和显卡性能的Advantech VEGA-X110嵌入式GPU卡
202 3 年 1 1 月 17 日 – 提供超丰富半导体和电子元器件™的业界知名新品引入 (NPI) 代理商贸泽电子 (Mouser Electronics) 即日起供货Advantech的VEGA-X110嵌入式GPU卡。VEGA-X110 GPU卡利用Intel ® Arc™显卡提供卓越的性能和功耗、强大的图像处理能力以及更快速的边缘人工智能。Advantech VEGA-X110采用PCIe 4.0 x8接口,可集成到医疗成像、游戏平台和工厂自动化应用中。 贸泽目前供应的Advantech VEGA-X110嵌入式GPU卡是一款MXM Type A嵌入式GPU卡,搭载Intel ® Arc A370M GPU
[嵌入式]
Arm 为无处不在的 AI 奠定技术基础
作为人工智能 (AI) 的创新基础,众多企业都在使用通用且应用广泛的 Arm计算平台。迄今为止,合作伙伴基于 Arm 架构的芯片出货量已超过 2,900 亿颗。 如今,Arm 已为各类技术领域的 AI 应用提供支持,这也是为何 AI 的技术先行者们能够基于 Arm 平台快速创新的关键原因。 无论是现在还是未来,Arm 平台都是 AI 运行的基石。若要满足对 AI 技术和应用的旺盛需求,则必须在计算领域的方方面面实现无处不在的 AI 功能。从使用无数处理器训练大语言模型 (LLM) 的大型数据中心,到全球数字消费者每天接触边缘 AI 的电子设备,计算领域的方方面面都有 AI 的身影。 高效的 AI 计算 若要满足 AI
[嵌入式]
相关知识
四度登榜!启明星辰再次入选Gartner®安全信息与事件管理魔力象限
8大伦理考量:大型语言模型(LLM)如GPT
阿里云
人工智能训练中的伦理考量:基本见解
深度学习+大规模计算+大数据=人工智能,谁掌握先进的算力?
原创 AI+GC=内容产业被AI加持
研究人员利用人工智能解码狗狗叫声的秘密语言
人工智能识别鸟叫声
自然语言处理中的预训练模型效果评估
通俗解构语言大模型的工作原理
网址: Gartner:中国大语言模型价格战推动人工智能加速上云 https://m.mcbbbk.com/newsview368365.html
上一篇: 宠物训练器办理REACH检测的流 |
下一篇: 如何选对供应商开发宠物训练进度跟 |