Transformerとは？

❓ FAQ

よくある質問

Q. Transformer（トランスフォーマー）とは？

A. AI が文章を処理するための、現代の主流になっているニューラルネットワークの構造です。「Attention（注意機構）」というしくみで単語どうしの関係を一度にとらえられるのが特徴で、ChatGPT や Claude をはじめほぼ全ての大規模言語モデル（LLM）がこの上に作られています。2017年に Google が発表しました。

Q. Transformer と Attention の違いは？

A. Attention は「単語どうしの関係を計算する部品（しくみ）」で、Transformer は「その Attention を中心に組み立てたネットワーク構造の全体」です。料理に例えると Attention が主役の調理法、Transformer がそれを使った一皿の完成形、というイメージで区別すると分かりやすいです。

Q. Transformer と LLM の違いは？

A. Transformer は「設計図（構造）」、LLM はその設計図を使って大量の文章を学習させた「完成した中身」です。つまり ChatGPT などの LLM は、Transformer という土台の上に膨大なデータと学習を積み重ねて作られた製品にあたります。

Q. 初心者は何を押さえておけばいい？

A. 仕組みを細かく理解する必要はなく、まずは「いまの AI のほぼ全てが乗っている共通の土台」と覚えれば十分です。ただし全単語どうしの関係を計算する都合上、文章が長くなるほど計算量が急に増える弱点があり、これが長文処理（ロングコンテキスト）を巡る技術開発の背景になっている点を知っておくと理解が深まります。