オンデバイス AI は、スマートフォンやパソコンなどの端末の中で、AI モデルの推論を行う方式です。入力したデータを、クラウドのサーバーに送らずに処理します。総務省の情報通信白書は、端末の中で処理する AI を、エッジ AI と呼んでいます。
Google と Microsoft の開発者向けの文書は、利点として、データが端末の外に出ないこと、通信が無くても動くこと、通信による遅れが無いことを挙げています。Google の文書は、推論の速さが端末のハードウェアに左右されることにも触れています。
総務省の令和8年版 情報通信白書は、小規模言語モデル（SLM）は計算量が抑えられ、エッジデバイスの上での実行に適しているとし、端末の中で処理するエッジ AI としての利用を挙げています。
- 読み
- おんでばいすえーあい
- 英語
- On-device AI
- 業界
- 製造業、教育機関
- 業務
- AI 活用
- 出典の確認日