英伟达200亿美元获推理芯片公司Groq技术授权


人工智能芯片初创公司Groq Inc.今日宣布,英伟达公司将以非独占方式获得其技术授权

该交易还将使显卡制造商聘请几位Groq的关键员工。他们包括创始首席执行官乔纳森·罗斯和总裁桑尼·马德拉。Groq投资者Disruptive Technology Advisers的首席执行官亚历克斯·戴维斯告诉CNBC,这笔交易价值达200亿美元。

通过这些交易,公司获得初创公司的人才和技术,但未直接购买,这被称为反向收购。他们避免了收购中常见的反垄断审查。在过去三年里,科技巨头如Microsoft公司和Meta Platforms公司已签署多项此类协议,以推进其AI发展路线图。

据报道,英伟达将支付200亿美元用于授权Groq的知识产权,这比该公司9月份的估值多出131亿美元的溢价。两家公司表示,该许可涵盖了Groq的“推理技术”,这大概是指其旗舰LPU推理芯片

公司声称,LPU能够以比显卡低十倍的功耗运行推理工作负载。据Groq介绍,该芯片的效率源于其确定性设计。这意味着它能够高精度地控制计算时序。相比之下,标准的非确定性芯片常常出现意外的处理延迟,导致计算完成顺序混乱。

LPU还通过其他方式优化AI性能。它包含数百兆字节的片上SRAM,这是市场上最快的内存类型。该内存池性能优于显卡使用的HBM内存,且耗电更少。

Groq 通过内部开发的互连系统 RealScale 将配备 LPU 的服务器连接成推理集群。据公司介绍,该技术解决了一种被称为基于晶体的漂移技术问题,该问题使得协调AI服务器变得困难。

处理器使用时钟来控制电路执行计算的频率。通常,时钟是以一块微小的石英晶体实现的。基于晶体的漂移是一种导致时钟意外放慢频率的现象,这会给AI推理流程带来低效。Groq 表示,RealScale 可以自动调整处理器时钟以缓解这个问题。

据报道,英伟达首席执行官黄仁在一份内部备忘录中告知员工,“我们计划将Groq的低延迟处理器集成到英伟达AI工厂架构中,将平台扩展到更广泛的AI推理和实时工作负载。”

交易完成后,Groq将继续作为独立公司运营。公司首席财务官西蒙·爱德华兹将接替乔纳森·罗斯担任首席执行官。

截至7月,据报道Groq 预计年底收入将达到5亿美元。该公司通过一个名为GroqCloud的云平台销售其芯片的访问权限。平台还提供开源的AI模型库和工具,如搜索引擎,这些模型可用于处理提示。

            <!-- 非定向300*250按钮    17/09  wenjing  begin -->
            <!-- 非定向300*250按钮  end -->
        </div>



Source link

未经允许不得转载:紫竹林-程序员中文网 » 英伟达200亿美元获推理芯片公司Groq技术授权

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址
关于我们 免责申明 意见反馈 隐私政策
程序员中文网:公益在线网站,帮助学习者快速成长!
关注微信 技术交流
推荐文章
每天精选资源文章推送
推荐文章
随时随地碎片化学习
推荐文章
发现有趣的