ガードレール（AI の安全対策）

用語集　スプライングローバル株式会社

ガードレールは、AI への入力と AI の出力を検査し、有害な内容や決まりに反する内容を見つけて、止めたり知らせたりするしくみです。開発元やクラウドの事業者が、この名前の機能を提供しています。

検査する対象は、暴力や差別などの有害な内容、個人情報、ジェイルブレイクやプロンプトインジェクションの試み、根拠の無い回答などです（Microsoft、AWS の文書）。2026年10月時点で、Microsoft の文書は、検査する場所に、利用者の入力、ツールの呼び出し、ツールの応答、最終の出力の4つを挙げています（ツールの2つはプレビュー）。

OpenAI のエージェント用の開発キットは、入力と出力のそれぞれに検査をかけ、基準に反したときに処理を止めるしくみを、ガードレールと呼んでいます。AWS の文書は、入力のプロンプトとモデルの応答の両方を、設定した条件に照らして評価すると説明しています。