3月2日,人工智能芯片初创公司Groq收购了另一家初创公司Definitive intelligence Inc.,收购金额未透露。两家公司宣布了这笔交易。这笔交易将帮助Groq提高其云平台GroqCloud的能力。
今年1月其推出新型人工智能芯片 LPU(Language Processing Unit)芯片。该产品近日在一些公开测评、客户测试中,延时(Latency)、吞吐量(Throughput)等指标大受好评,据称AI推理速度远超英伟达GPU。Groq官网提供了两个开源模型的演示:在Mixtral8x7B-32k的生成速度接近500 token/s,在Llama 2 70B-4k接近300 token/s。
Groq公司成立于2016年,总部位于美国加州圣塔克拉拉山景城。随着 Sora 的火爆,多模态大模型对 AI 算力的消耗更高,英伟达的 GPU 芯片一卡难求,算力短缺成为很多 AI 公司面临的头等难题。
领取专属 10元无门槛券
私享最新 技术干货