人工智能芯片初创公司Groq Inc.今日宣布,英伟达公司将以非独占方式获得其技术授权。
该交易还将使显卡制造商聘请几位Groq的关键员工。他们包括创始首席执行官乔纳森·罗斯和总裁桑尼·马德拉。Groq投资者Disruptive Technology Advisers的首席执行官亚历克斯·戴维斯告诉CNBC,这笔交易价值达200亿美元。
通过这些交易,公司获得初创公司的人才和技术,但未直接购买,这被称为反向收购。他们避免了收购中常见的反垄断审查。在过去三年里,科技巨头如Microsoft公司和Meta Platforms公司已签署多项此类协议,以推进其AI发展路线图。
据报道,英伟达将支付200亿美元用于授权Groq的知识产权,这比该公司9月份的估值多出131亿美元的溢价。两家公司表示,该许可涵盖了Groq的“推理技术”,这大概是指其旗舰LPU推理芯片。
公司声称,LPU能够以比显卡低十倍的功耗运行推理工作负载。据Groq介绍,该芯片的效率源于其确定性设计。这意味着它能够高精度地控制计算时序。相比之下,标准的非确定性芯片常常出现意外的处理延迟,导致计算完成顺序混乱。
LPU还通过其他方式优化AI性能。它包含数百兆字节的片上SRAM,这是市场上最快的内存类型。该内存池性能优于显卡使用的HBM内存,且耗电更少。
Groq 通过内部开发的互连系统 RealScale 将配备 LPU 的服务器连接成推理集群。据公司介绍,该技术解决了一种被称为基于晶体的漂移技术问题,该问题使得协调AI服务器变得困难。
处理器使用时钟来控制电路执行计算的频率。通常,时钟是以一块微小的石英晶体实现的。基于晶体的漂移是一种导致时钟意外放慢频率的现象,这会给AI推理流程带来低效。Groq 表示,RealScale 可以自动调整处理器时钟以缓解这个问题。
据报道,英伟达首席执行官黄仁在一份内部备忘录中告知员工,“我们计划将Groq的低延迟处理器集成到英伟达AI工厂架构中,将平台扩展到更广泛的AI推理和实时工作负载。”
交易完成后,Groq将继续作为独立公司运营。公司首席财务官西蒙·爱德华兹将接替乔纳森·罗斯担任首席执行官。
截至7月,据报道Groq 预计年底收入将达到5亿美元。该公司通过一个名为GroqCloud的云平台销售其芯片的访问权限。平台还提供开源的AI模型库和工具,如搜索引擎,这些模型可用于处理提示。
<!-- 非定向300*250按钮 17/09 wenjing begin -->
<!-- 非定向300*250按钮 end -->
</div>