禁止される AI の利用は、EU AI 法 第5条が、市場に出すこと、使い始めること、使うことを禁じている AI の使い方です。欧州委員会は、人の安全、暮らし、権利への明らかな脅威とみなされる AI システムを禁じると説明しています。
人の行動をゆがめる操作、弱い立場につけこむ使い方、ソーシャルスコアリング、インターネットなどからの無差別な収集による顔認識データベースの作成などが入ります。職場と教育機関で人の感情を推し量る AI も、医療または安全の理由による場合を除いて、禁止です（第5条1項(f)）。
2025年2月2日から適用されています。改正規則 (EU) 2026/1744 は、本人の同意の無い性的な画像などを生成する AI と、児童の性的虐待にあたる素材を生成する AI を、禁止に加えました（第5条1項(ba)(bb)）。禁止に当たるのは、その生成が意図された目的である場合などに限られます（1a 項）。この2つは、2026年12月2日から適用されます（第113条）。
- 読み
- きんしされるえーあいのりよう
- 英語
- Prohibited AI practices (Article 5 of the EU AI Act)
- 業界
- 製造業、教育機関
- 業務
- AI 活用、規格と法規制
- 出典の確認日