ai-garage
基本

推論とは?

別名: Inference

学習済みのAIに質問して答えを得る作業。

⚡ 30秒でわかる

推論 の主なポイント

  • 1 推論とは、学習済みAIに入力を渡して答えを計算・出力させる工程のこと。
  • 2 私たちが日常で「AIを使う」場面(質問・生成・要約など)は、ほぼ全部この推論にあたる。
  • 3 AIの賢さは学習で決まるが、応答速度と利用料金(トークン課金)は推論のたびに発生する。
  • 4 「学習=モデルを作る工程」「推論=作ったモデルを使う工程」で向きが逆。
  • 5 名前の似た『推論モデル(reasoning model)』とは別物で、混同しやすいので注意。

📖 詳しく

推論 とは

学習済みのAIモデルに入力(プロンプト)を渡して、答えを計算させて出力する工程を「推論(inference)」といいます。私たちがChatGPTに質問して返事をもらう、画像生成AIに絵を描かせる——こうした「AIを使う」場面は、ほぼすべてこの推論です。重要なのは、AIの賢さは学習で決まる一方、毎回の応答スピードや利用料金(APIなら主にトークン課金)はこの推論時に発生する、という点です。たとえば学習が「教科書で勉強して知識を身につけること」だとすれば、推論は「テスト本番で問題を解いて答えを書くこと」にあたります。同じく工程の名前である「学習(training)」とは逆向き——学習はモデルを作る側、推論は作ったモデルを使う側です。なお名前の似た「推論モデル(reasoning model)」は別概念で、こちらは“答える前にじっくり考える”タイプのモデルを指します。

❓ FAQ

よくある質問

Q. 推論(inference)とは何ですか?
A. 学習済みのAIに入力を渡して、答えを計算させて出力する工程のことです。ChatGPTに質問して返事をもらう、画像生成AIに絵を描かせる、といった「AIを実際に使う」操作はほぼすべて推論にあたります。
Q. 推論と学習(training)の違いは何ですか?
A. 学習はデータを読み込ませてモデルそのものを賢くする工程、推論はできあがったモデルを使って答えを出させる工程で、向きが逆です。勉強で例えると、学習が「教科書で知識を身につけること」、推論が「テスト本番で問題を解くこと」にあたります。
Q. 「推論」と「推論モデル(reasoning model)」は同じものですか?
A. いいえ、別の概念です。「推論(inference)」はAIを使って答えを出す工程一般を指し、「推論モデル」は答える前に段階的に考えてから回答する“じっくり考えるタイプ”のモデルを指します。日本語では言葉が似ているため混同しやすい点に注意してください。
Q. 初心者が推論で気をつけることは何ですか?
A. APIなどでAIを使うと、料金と待ち時間はこの推論のたびに発生する、という点です。入力と出力のトークン数が増えるほどコストも応答時間も上がるため、長すぎるやり取りや無駄な再生成は控えると効率的です。

更新を受け取る