首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

截胡Llama3,微软推出小型AI模型Phi-3-mini,手机直接跑的小模型

日前,微软公布了一种低成本的小型人工智能模型Phi-3-mini,该模型可以在使用更少量数据的情况下执行内容创建和社交媒体帖子等任务。

微软表示,Phi-3-mini拥有3.8B参数,在各种评估语言、编码和数学能力的基准测试中,它的表现可以超过两倍于它的模型。

此外,微软特别强调,经过4bit量化处理的Phi-3-mini能够在iPhone14Pro和iPhone15使用的苹果A16芯片上实现每秒12token的运行速度,这标志着手机上能本地运行的最佳开源模型已经达到了ChatGPT的水平。

对于开源小模型超过 ChatGPT这回事,不少网友都认为压力现在给到OpenAI这边,需要赶快推出GPT-3.5的继任者了。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/O9GO5uA0RToejoM3uVhEZRMQ0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券