Groq是一个专注于提供快速AI推理的平台，它支持多种公开可用的模型，包括Llama 3.1等。自2024年2月推出以来，已有数千名开发者使用GroqCloud™。Groq的API密钥免费提供，使得开发者可以轻松开始使用。
Groq的快速AI推理技术特别适用于云部署，例如Llama 3.1模型的超低延迟推理。Meta的创始人兼CEO马克·扎克伯格对此表示兴奋，认为这是开源承诺推动AI创新和进步的绝佳例子。
开发者可以无缝地从其他提供商如OpenAI迁移到Groq，只需更改三行代码。Groq提供了OpenAI端点兼容性，只需将OPENAI_API_KEY设置为Groq API密钥，设置基础URL，选择模型即可开始运行。
Groq的速度是即时的，这一点得到了Artificial Analysis独立基准测试的证明，特别是在基础公开可用模型方面。Groq支持领先的公开可用AI模型，包括LLAMA、MIXTRAL、GEMMA和WHISPER。
Meta的VP兼首席AI科学家Yann LeCun评价Groq芯片“直击要害”。Groq在新闻中也频频出现，其价值在最新一轮融资中达到了28亿美元，正在挑战Nvidia的地位。
Groq, Inc.保留所有权利。本网站使用cookies来运营我们的网站并分析网站流量。
