AI アラインメント（アライメントとも書きます）は、AI システムのふるまいを、人の意図や価値観に沿わせること、また、そのための研究の分野です。ふるまいが人の意図や指示からずれることを、ミスアラインメント（misalignment）と呼びます。
日本の「AI 事業者ガイドライン」（第1.2版）は、事後学習の説明の中で、人間の意図や価値観に沿った応答になるよう制御することを、アライメントと呼んでいます。OpenAI は、AI の行動が、人の価値観、指示、目標、意図に沿わないことを、ミスアラインメントによる失敗としています。
The Alignment Project は、アラインメントの研究に資金を出す国際的な取り組みで、2025年に始まりました。英国の AI Security Institute を含む、政府、企業、慈善団体が支援しています。高度な AI システムが、意図したとおりに確実に動き、意図しない有害なふるまいをしないようにすることを、課題に挙げています。
- 英語
- AI alignment
- 業界
- 製造業、教育機関
- 業務
- AI 活用
- 出典の確認日