--- title: "量子化 とは？モデルを軽くして安いPCでも動かす技術。 | AI用語集 - ai-garage" description: "量子化（Quantization）を初心者向けにやさしく解説。モデルを軽くして安いPCでも動かす技術。 量子化は、モデルの重みを32/16ビットから8/4ビットなどに丸めて、サイズと計算コストを減らす技術" source: https://ai-garage.jp/glossary/quantization/ --- 技術 # 量子化とは？ 最終更新 2026年7月6日 別名: Quantization モデルを軽くして安いPCでも動かす技術。 ⚡ 30秒でわかる ## 量子化 の主なポイント - 1 量子化は、モデルの重みを32/16ビットから8/4ビットなどに丸めて、サイズと計算コストを減らす技術 - 2 メモリ使用量を半分〜数分の一に減らせるため、家庭用PCやスマホでも巨大モデルを動かせるようになる - 3 推論（実行）速度も上がり、安価なGPUでの運用やコスト削減に直結する - 4 ビット数を下げるほど軽くなるが、下げすぎると回答の精度が落ちるトレードオフがある - 5 LoRAやファインチューニング（用途への合わせ込み）とは違い、量子化は同じモデルを圧縮して軽くする技術 📖 詳しく ## 量子化 とは 量子化（Quantization）とは、AIモデルの重み（[パラメータ](https://ai-garage.jp/glossary/parameter/)）を表す数値の精度を落として、モデルのサイズと計算コストを減らす技術です。たとえば1つの数値を32ビットや16ビットで持っていたものを8ビットや4ビットに「丸める」ことで、メモリ使用量を半分〜数分の一にし、推論（実行）も速くできます。イメージとしては、小数点以下を細かく持っていた家計簿を「だいたい○○円」と切りのいい数字に書き直して帳簿を薄くするようなもので、多少の誤差は出ますが全体の傾向はほぼ変わりません。これが重要なのは、巨大なモデルでも家庭用のPCやスマホ、安価な[GPU](https://ai-garage.jp/glossary/gpu/)で動かせるようになり、AIをより多くの人や端末に届けられるからです。似た言葉の[LoRA](https://ai-garage.jp/glossary/lora/)や[ファインチューニング](https://ai-garage.jp/glossary/fine-tuning/)が「モデルを特定用途に合わせ込む」ものなのに対し、量子化は「同じモデルを軽く圧縮する」点が違い、知識を別モデルに移す蒸留とも目的が異なります。ただしビット数を下げすぎると回答の精度が落ちることがあるため、軽さと品質のバランスを取って使うのがポイントです。 ❓ FAQ ## よくある質問 Q. 量子化（Quantization）とは何ですか？ A. AIモデルの重みを表す数値の精度を落として、サイズと計算コストを減らす技術です。たとえば32ビットや16ビットの数値を8ビットや4ビットに丸めることで、メモリを半分〜数分の一にし、推論も速くできます。これにより、巨大なモデルでも家庭用PCや安価なGPUで動かせるようになります。 Q. 量子化とLoRAやファインチューニングは何が違うの？ A. LoRAやファインチューニングは「モデルを特定の用途に合わせ込む」ための追加学習ですが、量子化は「同じモデルを圧縮して軽くする」技術で目的が異なります。また、知識を別の小さなモデルに移す蒸留とも違います。実際の現場では、量子化とこれらを組み合わせて「軽くて用途に合ったモデル」を作ることもよくあります。 Q. 初心者が量子化モデルを使うときの注意点は？ A. まずは多くの軽量モデルが量子化済みで配布されている、と理解すれば十分です。ローカルで動かす場合、GGUF（llama.cpp系）などの形式で4ビット・8ビットといった版が選べることが多く、迷ったら8ビット前後がバランス良好です。ただしビット数を下げすぎると回答の質が落ちることがあるため、軽さと精度を見比べて選ぶのが安全です。 Q. 量子化すると性能はどれくらい落ちますか？ A. 8ビット程度ならほとんど性能を保てることが多く、研究でも大規模モデルを8ビット化してもほぼ劣化しない手法が示されています。一方で4ビットや3ビットまで下げると、軽さと引き換えに精度がじわじわ落ちる傾向があります。どこまで下げて良いかはモデルや用途によって変わるため、実際に試して品質を確かめるのがおすすめです。 🔗 関連 ## あわせて読みたい 関連用語 [LoRA](https://ai-garage.jp/glossary/lora/)[オープンウェイト](https://ai-garage.jp/glossary/open-weight/)[LoRA](https://ai-garage.jp/glossary/lora/)[蒸留（Distillation）](https://ai-garage.jp/glossary/distillation/)[ファインチューニング](https://ai-garage.jp/glossary/fine-tuning/)[推論](https://ai-garage.jp/glossary/inference/) 関連 AI モデル [Llama — Meta オープンウェイト LLM の代名詞——ただし Meta の開発は Muse 系へ移り、オープン版も2026年8月公開の Muse Glimmer が担う。Llama 4 が事実上の最終世代。](https://ai-garage.jp/models/llama/)[DeepSeek — DeepSeek 中国発、コスパとオープン性の象徴。2026年9月10日に出た V4.1-Flash が旗艦 V4-Pro を性能でも価格でも上回った。予告された Pro の引退は撤回され、2本立てで提供中。](https://ai-garage.jp/models/deepseek/)[Qwen — Alibaba Alibaba 製の高性能モデル群。旗艦は2026年8月に正式リリースされた Qwen3.8-Max で、手元で動く Qwen3.8-27B まで一通り揃う。](https://ai-garage.jp/models/qwen/) 関連トピック [オープンソースAI vs クローズドAI Qwen・DeepSeek・Kimi がトップ走者に迫る。性能だけでなく『所有権』が論点に。](https://ai-garage.jp/topics/open-vs-closed/) 📰 この用語が登場する記事 ## 「量子化」が出てくるニュース [![GLM-5.3-Flash とは？ox-alpha の正体、商用OKで1タスク$0.24](https://ai-garage.jp/images/news-heroes/glm-5-3-flash-ox-alpha-reveal-card.webp) 2026/8/28 GLM-5.3-Flash とは？ox-alpha の正体、商用OKで1タスク$0.24](https://ai-garage.jp/news/glm-5-3-flash-ox-alpha-reveal/)[![Qwen3.8-27B のウェイト公開！Apache 2.0で商用可、性能と必要な容量](https://ai-garage.jp/images/news-heroes/qwen-3-8-27b-open-weights-card.webp) 2026/8/15 Qwen3.8-27B のウェイト公開！Apache 2.0で商用可、性能と必要な容量](https://ai-garage.jp/news/qwen-3-8-27b-open-weights/)[![Meta「Muse Glimmer」公開！24GBのVRAMで動く296億パラメータのオープンモデル──必要スペック・入手先・性能を整理するよ](https://ai-garage.jp/images/news-heroes/meta-muse-glimmer-local-open-model-card.webp) 2026/8/11 Meta「Muse Glimmer」公開！24GBのVRAMで動く296億パラメータのオープンモデル──必要スペック・入手先・性能を整理するよ](https://ai-garage.jp/news/meta-muse-glimmer-local-open-model/)[![Google『DiffusionGemma』が爆速！文章を一気に作る新方式](https://ai-garage.jp/images/v2/scene_data.jpg) 2026/6/11 Google『DiffusionGemma』が爆速！文章を一気に作る新方式](https://ai-garage.jp/news/google-diffusiongemma-local-text-generation/) 📎 SOURCES ## 一次ソース - [→ LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale (Dettmers et al., 2022)](https://arxiv.org/abs/2208.07339) - [→ GPTQ: Accurate Post-Training Quantization for Generative Pre-trained Transformers (Frantar et al., 2022)](https://arxiv.org/abs/2210.17323) 技術 カテゴリの用語 [Attention（注意機構）](https://ai-garage.jp/glossary/attention/)[Diffusion Model（拡散モデル）](https://ai-garage.jp/glossary/diffusion/)[Embeddings（埋め込みベクトル）](https://ai-garage.jp/glossary/embeddings/)[LoRA](https://ai-garage.jp/glossary/lora/)[max_tokens（出力の上限設定）](https://ai-garage.jp/glossary/max-tokens/)[Mixture of Experts（MoE）](https://ai-garage.jp/glossary/mixture-of-experts/)[RAG（検索拡張生成）](https://ai-garage.jp/glossary/rag/)[TPS（Tokens Per Second）](https://ai-garage.jp/glossary/tps/)[Transformer](https://ai-garage.jp/glossary/transformer/)[TTFT（Time to First Token）](https://ai-garage.jp/glossary/ttft/)[ファインチューニング](https://ai-garage.jp/glossary/fine-tuning/)[ベクトルDB](https://ai-garage.jp/glossary/vector-db/)[マルチモーダル](https://ai-garage.jp/glossary/multimodal/)[音声クローン](https://ai-garage.jp/glossary/voice-clone/)[音声認識（STT）](https://ai-garage.jp/glossary/speech-to-text/)[強化学習](https://ai-garage.jp/glossary/reinforcement-learning/)[蒸留（Distillation）](https://ai-garage.jp/glossary/distillation/) ← 前の用語 蒸留（Distillation） NEXT [FOR BEGINNERS AI初心者ガイド 用語が多くて混乱したら、まず全体像から。AI初心者が「何から始める？」を5分で。](https://ai-garage.jp/beginners/) [GLOSSARY AI用語集 一覧へ 96語をカテゴリ・検索で引ける。気になる用語をまとめてチェック。](https://ai-garage.jp/glossary/)