パラメーターは、モデルが学習によって決める内部の数値です。Google の機械学習の用語集は、モデルが学習の間に身につける重み(weight)とバイアス(bias)と説明しています。モデルの規模を、パラメーターの数で表すことがあります。
Google の用語集は、学習を繰り返す間に、人や調整用のサービスが変える変数を、ハイパーパラメーターと呼んでいます。学習によって決まるパラメーターとは区別します。
2020年の GPT-3 の論文は、モデルのパラメーターの数を 1,750億としています。総務省の令和8年版 情報通信白書は、小規模言語モデル(SLM)を、LLM と比べてパラメーターの数が小さいモデルと説明しています。
- 読み
- ぱらめーたー
- 英語
- Parameter (weight)
- 業界
- 製造業、教育機関
- 業務
- AI 活用
- 出典の確認日
