AI開発基盤

Ollama

概要

LLMを手元のPCで手軽に動かせる、ローカル実行ツール。

モデルの重みをローカルにダウンロードして推論を行うため、データを外部に送信せずに済むのが最大の利点。PCのメモリ・GPU性能によって動かせるモデルサイズが制限される。