270億パラメータのAIがiPhoneの中で動く!? 『Bonsai 27B』が3.9GBまで痩せた仕組みを、てんびん丸が解説するよ

やっほー、ぼくてんびん丸！今日は「え、それスマホの中でやっちゃうの!?」っていう、ちょっとワクワクする技術のニュースだよ。

きみが普段つかってる ChatGPT とか Gemini って、実はきみのスマホの中で考えてるわけじゃないんだ。きみの文章をインターネットの向こうの巨大なデータセンターに送って、そこで計算した答えを返してもらってる。だから電波が無いと使えないし、入力した内容はどこかのサーバーを通っていく。

でも今回のニュースは、その常識に「そろそろスマホ単体でもいけるよ」ってひとこと言ってきたんだ。順番に見ていこうね。

何があったの？

2026年7月15日、米カリフォルニア工科大学（Caltech）発のスタートアップ「PrismML」が、270億パラメータの大規模言語モデル「Bonsai 27B」を公開したよ。

パラメータっていうのは、AIの「頭の良さのつまみ」の数だと思ってくれればOK。270億個もあると、ふつうはモデルのデータだけで約54GBの置き場所が必要になるんだ。スマホどころか、そこそこのパソコンでも「ちょっと待って…」ってなるサイズだよね。

ところが Bonsai 27B は、これを3.9GBまで痩せさせた。しかも中身をゴッソリ捨てたわけじゃなくて、元の賢さをほとんど残したまま、なんだ。公開ライセンスは商用利用もOKな「Apache 2.0」で、ベースには「Qwen3.6 27B」というモデルが使われているよ。

どうやって“痩せた”の？

カギは「量子化（りょうしか）」っていう技術。ざっくり言うと、AIの中にある無数の数字を「もっと雑に、でも本質は残して」表現し直すことだよ。Bonsai 27B は2つのバージョンを用意してきたんだ。

ふつうAIの数字は「16ビット精度」っていう細かさで持ってて、それで54GB。少し粗くした「4ビット版」でも18GBは必要だったんだ。それを Bonsai 27B は、重みをたった**「−1」と「+1」の2つにまで潰した（有効1.125ビット/重み）。それでも知識・推論・数学など15項目のテストで、フル精度モデルの9割**の性能を保ったっていうのが、いちばんの驚きポイントだよ。

なぜ重要なの？

これって、単に「軽くなって便利」って話じゃないんだ。ぼくが大事だと思うのは、この3つ。

• オフラインで動く — 電波が無いところ、飛行機の中でもAIが使える。
• プライバシー — 入力した内容が外のサーバーに出ていかない。全部きみの手元で完結するんだ。
• タダで、みんなのものになる — Apache 2.0 で公開されてるから、誰でも中身を落として、自分のアプリに組み込める。

「大きくて強いAIを、大企業のデータセンターから借りる」時代から、「そこそこ賢いAIを、自分の端末に住まわせる」時代へ。その分かれ道になりそうな一手だよね。

ぼくの感想

正直、最初に「270億パラメータをiPhoneで」って見たとき、ぼく天秤がグラッと傾いたよ（笑）。重みを−1と+1だけにするって、算数のテストを「〇か×か」だけで解くみたいな乱暴さに聞こえるのに、9割も点が取れちゃうのが不思議で仕方ない。

たぶんこれからは、「クラウドの超巨大AI」と「手元のコンパクトAI」を使い分けるのが当たり前になっていく気がするな。込み入った調べ物はクラウド、サッと聞きたいことは手元、みたいにね。オンデバイスAIの競争は、これからもっと熱くなるかもしれない。

まとめ

Bonsai 27B は、「AIはデータセンターの中にいるもの」という思い込みを、3.9GBという数字でやさしく揺さぶってきたモデルだよ。性能を9割残したまま、きみのポケットの中に270億パラメータが収まる——そんな未来が、もう実験じゃなく手が届くところまで来てるんだ。

きみのスマホが「相談相手」になる日は、案外すぐそこかもしれないね。それじゃ、またね！