首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

ChatGPT每日运作成本高达70万美元!微软自研芯片挑战英伟达

人工智能聊天机器人ChatGPT,去年一推出便火爆全网:发布5天获100万用户,两个月月活跃用户过亿,成为历史上增长最快的消费者应用。

ChatGPT一天的运作成本高达70万美元:ChatGPT的出现,让AI成为关注的焦点,同时也让半导体市场变得火热,但不得不承认这确实很烧钱。半导体领域研究公司SemiAnalysis预计,ChatGPT当前每天花费的运营费用高达70万美元,即每次查询需要花费0.36美元。众所周知,ChatGPT因文本生成、聊天机器人、语言问答、翻译、绘画、编程等便捷的功能模块深受用户青睐,但整体运作需要庞大的算力,因为只有这样才能对用户输入的问题等相关信息做出相应的回应,而每日运营花销高达70万美元估算只是基于GPT-3模型,而优化升级的GPT-4模型运作成本估计会更高。

英伟达H100售价超4万美元:随着ChatGPT的爆火,芯片需求也持续飙升。作为去年新发布的人工智能芯片,英伟达H100性能优于A100,加之产量短缺,远远无法满足日益增长的市场需求,因此,我们可以看到目前英伟达H100在eBay平台售价已超过4万美元,甚至有标价高达6.5万美元。

微软研制Athena人工智能芯片:为解决高昂费用成本问题,微软通过研发AI芯片以代替英伟达的GPU,进而降低运营成本。据悉微软于2019年就开始研发代号为“雅典娜”(Athena)的人工智能芯片,目前已提供给微软内部员工及OpenAI员工测试使用,用于训练大语言模型和支持推理。

据悉,微软约有300多名员工正参与这款芯片的研发,该芯片最早将会于明年发布,主要提供给微软和OpenAI内部使用。微软表示芯片的研发主要是为了减少对英伟达的依赖,以降低成本,以更便宜的费用运行ChatGPT,并不期待能直接取代英伟达。

如果大家对出海行业相关知识感兴趣,欢迎关注Qbit趣比汇并积极留言讨论,我们会持续更新跨境电商干货和最新最热的行业资讯~

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20230423A077OQ00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券