半導体・ハードウェア

Groq

概要

AI推論に特化した専用チップ「LPU」で、圧倒的な応答速度を売りにする米国の半導体企業。

GPUを使う一般的な推論基盤よりも大幅に高速なLLMの応答速度を実現できるとして注目を集めており、独自のチャットサービス経由でその速度を体験できる。