LLM
温度(Temperature)とは?
別名: Temperature
AIの答えのばらつき具合を決めるツマミ。
⚡ 30秒でわかる
温度(Temperature) の主なポイント
- 1 温度(Temperature)とは、AIの出力のランダムさ(ばらつき)を調整するパラメータのこと。
- 2 数値を0に近づけると安定して同じような答えに、上げるほど多様で創造的な答えになる。
- 3 翻訳・要約・データ抽出など正確さ重視の用途は低め、コピー作成やブレストなど創作用途は高めが相性がよい。
- 4 多くのAPIで指定できる範囲は0〜2程度で、おおよそ0.7前後を初期値にしているサービスが多い。
- 5 温度を上げすぎると文章が支離滅裂になりやすく、ハルシネーション(もっともらしい嘘)も増えやすい。
📖 詳しく
温度(Temperature) とは
温度(Temperature)とは、AIが次の単語を選ぶときの「ばらつき具合」を調整するパラメータのことです。AIは内部で「次に来そうな単語」を確率で並べていて、温度はその確率の偏りを強めたり弱めたりするツマミの役割を果たします。0に近づけるほど一番もっともらしい答えに偏り、毎回ほぼ同じ安定した出力になり、数値を上げるほど低い候補も選ばれやすくなって創造的・意外性のある答えになります。なぜ重要かというと、同じプロンプトでも温度ひとつで「堅実で再現性の高い回答」と「自由で多彩な回答」を切り替えられるからです。身近な例えでいうと、温度が低いのは「無難な定番メニューを毎回頼む人」、高いのは「気分でいろいろ試す人」のイメージです。よく一緒に語られるTop-p(確率の上位だけから選ぶ仕組み)とは調整の仕方が違い、温度は確率全体の「メリハリ」を変える点が特徴です。
❓ FAQ
よくある質問
- Q. 温度(Temperature)とは?
- A. AIが次の単語を選ぶときの「ばらつき具合」を決めるパラメータです。低くすると毎回ほぼ同じ安定した答えになり、高くすると候補が広がって多様で創造的な答えになります。出力のランダムさを調整するツマミだと考えると分かりやすいです。
- Q. 温度とTop-p(Top-pサンプリング)の違いは?
- A. どちらも出力の多様さを左右しますが、調整の仕方が違います。温度は確率全体の「メリハリ」を強めたり弱めたりするのに対し、Top-pは確率の高い候補から累積何%までを選択対象にするかを絞る仕組みです。一般的にはどちらか一方を主に動かすのが扱いやすいとされています。
- Q. 温度を0にするとどうなる?
- A. ほぼ毎回、いちばんもっともらしい単語だけが選ばれるため、同じ入力に対して安定して同じような答えが返りやすくなります。再現性が大事な作業に向く一方、表現の幅は狭くなります。なお完全に同一の出力になるとは限りません。
- Q. 初心者は温度をどう設定すればいい?
- A. 迷ったらまずは初期値(多くは0.7前後)のままで十分です。答えがブレて困るときは0.2〜0.3まで下げ、もっと発想を広げたいときは0.9〜1.2あたりまで上げると違いを体感できます。1.5を超えると文章が崩れやすいので注意しましょう。