脆弱性

プロンプトインジェクション

概要

悪意ある指示を入力に埋め込み、AIに意図しない動作をさせる攻撃手法。

プロンプトに巧妙な指示を混入させることで、AIモデルに開発者の意図しない出力や機密情報の漏洩、不正な操作を行わせる攻撃。LLMを利用するアプリケーション特有の脆弱性として、OWASPのLLM向けTop 10でも最上位に挙げられている。