Groq

Groq 开发了世界上首个语言处理单元™，即 LPU。 Groq LPU 拥有确定性的单核流式处理架构，为生成式 AI 推理速度树立了标准，可为任何给定的工作负载提供可预测且可重复的性能。

除了架构之外，Groq 软件还旨在赋能广大开发者，提供所需的工具来创建创新、强大的 AI 应用。

以 Groq 作为您的引擎，您可以：

• 实现无损耗的低延迟和高性能，用于实时 AI 和 HPC 推理 🔥
• 了解任何给定工作负载的确切性能和计算时间 🔮
• 利用我们的尖端技术保持竞争优势 💪

安装和设置

安装集成包：

pip install langchain-groq

申请一个 API 密钥 并将其设置为环境变量：

export GROQ_API_KEY=gsk_...

Chat models

查看 使用示例。

from langchain_groq import ChatGroq

API Reference:ChatGroq