AI 导航
01Groq 是什么
Groq 是一家做推理芯片的公司，它跑开源模型的速度比 GPU 快好几倍——同样的模型，输出速度能到几百 token 每秒，肉眼可见地快。
快意味着什么？实时对话、语音助手、需要立刻出结果的场景，用户体验完全不同。做产品的人为了这个速度愿意付溢价。
短板是模型选择受限。它只跑一批主流开源模型，而且上下文长度不如大厂。要做长文档任务它不合适。
02Groq 能做什么
极快推理
输出速度数倍于 GPU。
开源模型
Llama、Qwen 等主流模型。
OpenAI 兼容
接口能直接迁。
低延迟
实时对话体验好。
按 token 计费
不用包月。
03怎么开始用 Groq
- 先测实际速度不同模型差别很大。
- 实时场景优先这是它的核心价值。
- 注意上下文限制长文档它做不了。
- 做降级方案高峰期也会排队。
04快是优势，但别忽略这些限制
为了速度要接受取舍。
| 项 | 实际情况 |
|---|---|
| 模型选择 | 比聚合平台少 |
| 上下文长度 | 不如大厂 |
| 中文效果 | 看模型，非它专长 |
| 适合 | 实时对话和高并发 |
05好在哪，差在哪
速度是碾压级
实时体验完全不同。
延迟低
语音和对话场景刚需。
接口兼容
迁移简单。
用得上
- 实时语音助手
- 在线客服
- 高并发产品
- 原型演示
别指望
- 长文档任务
- 国内低延迟
- 最全的模型选择
- 离线部署
06价格和套餐
| 版本 | 价格 | 说明 |
|---|---|---|
| 免费额度 | 赠送 | 新用户有试用。 |
| 按 token 计费 | 输入输出分开 | 不同模型单价不同。 |
| 企业方案 | 面议 | 专属容量和支持。 |
按 token 计费，速度快意味着量大时消耗也快，预算要留够。
07谁适合用
实时语音助手
延迟低，对话像人。
在线客服
回复快，用户不等待。
高并发产品
同样的卡出更多结果。
原型演示
演示时响应快很有说服力。
08官网入口
官方域名是 groq.com，国内访问需要网络条件。有同名公司做别的业务，认准 groq.com。
09同类工具
10常见问题
Groq 官网是哪个？
groq.com，国内访问需要网络条件。
为什么快？
它用的是自研 LPU 芯片，不是 GPU。
适合什么场景？
实时对话、语音助手、高并发产品。长文档任务不合适。
能调哪些模型？
一批主流开源模型，比聚合平台少，具体看官网列表。