Groq

Groq是一家专注于AI硬件加速的公司，其创新的LPU（Language Processing Unit）架构专为大语言模型高效推理设计，提供极低延迟和高吞吐量的生成式AI服务，适用于实时自然语言处理场景。