NVIDIA 将 Groq 3 LPX 推理加速器投入量产

NVIDIA 表示，其交互式推理加速器 Groq 3 LPX 作为 Vera Rubin 的扩展产品已全面投产。该公司称，在 10 万 token 上下文下，Gemma 4 31B 的输出速度达到每秒 3,400 个 token，是 Artificial Analysis 基准测试中最接近的替代方案的四倍。

来源: NVIDIA

由 AI 辅助翻译。