机の下のGPUが1つの脳になる!? 分散AI『Mesh LLM』が、みんなのマシンをつないで巨大モデルを動かすんだ
iroh を作った n0, Inc. が2026年7月11日に発表した『Mesh LLM』は、バラバラのマシンに散らばったGPUとメモリを1つのシステムとしてまとめ、OpenAI互換APIで使える分散AI計算プラットフォームだよ。サイズはたった約18MB、40種類以上のモデルを内蔵、最大235Bの巨大モデルまで動かせる。しかも『Skippy』という仕組みで、1台では載りきらないモデルをレイヤーごとに複数マシンで分担して動かせるんだ。オフィスの机の下に眠るGPUをチームで束ねて使う――そんな新しいAIの動かし方を、てんびん丸が捏造ナシで整理するよ。
やっほー、ぼくてんびん丸！
AIを動かすには「でっかいGPUを積んだ高いマシン」が要る、って思い込んでない？ぼくもそう思ってたんだ。でも「みんなのマシンをネットワークでつないで、1つの大きな脳みたいに使えばいいじゃん」っていう発想の道具が出てきたよ。その名も Mesh LLM。作ったのは、P2P通信ライブラリ iroh で知られる n0, Inc.。発表は 2026年7月11日、書いたのは Rae McKelvey さんだよ。開発者向けの、ちょっとワクワクする話なんだ。
何があったの？
Mesh LLM は、ひとことで言うと「バラバラのマシンに散らばった GPU とメモリを、1つのシステムとしてまとめて使える分散AI計算プラットフォーム」だよ。
ポイントは、使う側から見ると OpenAI 互換の API に見えること。公式の説明はこうだ――
「どんな OpenAI クライアントも
http://localhost:9337/v1に向けるだけで、実際にどこで処理されてるかを気にしなくてよくなる」
つまり、いつも ChatGPT や Claude を叩くのと同じコードのまま、接続先を自分のローカルの ポート 9337 に変えるだけ。裏側で「自分のマシンで動かすのか」「仲間のマシンに投げるのか」を Mesh LLM がよしなに振り分けてくれるんだ。
主なスペックはこんな感じ：
| 項目 | 内容 |
|---|---|
| ソフトのサイズ | 約18MB（めちゃ軽い） |
| モデルカタログ | 40種類以上を内蔵 |
| 動かせるモデル幅 | ノートPC向けの5億パラメータ級 〜 最大 235B の Mixture-of-Experts |
| API | OpenAI 互換（localhost:9337/v1） |
| 基盤ネットワーク | iroh（認証付きQUIC接続・NAT越え・リレー対応） |
| ライセンス | オープンソース（GitHubでコード公開） |
土台の iroh が地味にすごくてね。公開鍵で相手の身元を確認した上で QUIC 接続をつなぎ、直接つながれない NAT 越えの環境でもちゃんと通信できて、ダメなときは複数地域のリレーサーバーにフォールバックする。要は「他人のマシンと安全につながる面倒くさい部分」を全部引き受けてくれてるんだ。
どうやって巨大モデルを動かすの？
Mesh LLM には 3つの実行方式があるよ。ここがこの道具のキモなんだ。
- ローカル実行 — 自分のマシンの GPU でそのまま処理する。いちばん普通のやつ。
- ピア転送 — そのモデルをすでに読み込んでる別のマシンに処理を投げる。誰かが温めてくれてるなら乗っかる、って感じ。
- パイプライン分割（Skippy） — ここが目玉。1台には載りきらない大きなモデルを、レイヤー（層）の範囲で区切って複数マシンに分担させる。
Skippy の仕組みをもうちょっと噛み砕くね。ニューラルネットは「層」がたくさん積み重なってできてる。Skippy はそれを、
- レイヤー 0〜15 → ノードA
- レイヤー 16〜31 → ノードB
…みたいに割り振るんだ。計算の途中結果（活性化）が A → B → …と流れていくことで、1台では絶対にメモリに載らないモデルを、小さいマシンを何台か束ねて動かせるってわけ。最大 235B の MoE モデルまで対象になってるのは、この分割があるからなんだね。
ぼくの感想
これ、「AIの民主化」の別ルートって気がするんだ。
これまで「巨大モデルを自前で動かす」＝「何百万円もするGPUマシンを1台ドカンと買う」だったよね。でも Mesh LLM の発想は逆で、「オフィスの机の下やチームの各PCに眠ってる中くらいのGPUを、ネットワークで束ねて1台分にする」。想定ユースケースも「もっと制御性・プラグイン性・低コストが欲しいビジネスやサービス」って書かれてて、まさに社内でこっそり共有したり、チームで公開エージェントを立てたりする用途なんだ。
しかも約18MBっていう軽さがいいよね。「重厚な基盤を組む」んじゃなくて「ポンと配って、つなぐ」感覚。iroh っていう通信の難所を解決済みのライブラリを土台にしてるから実現できてる、っていうのも筋が通ってる気がする。
もちろん課題もありそうだよ。マシンをまたぐと通信の遅延（レイテンシ）が乗るから、1台完結より遅くなる場面はあるはず。ネットワークが不安定なときの安定性や、誰かのマシンがいきなり落ちたときの挙動も気になるところ。「速さ」より「みんなの余ってる計算資源を無駄なく使う」ことに寄せた道具なのかもしれないね。
まとめ
Mesh LLM は、iroh を作った n0, Inc. が2026年7月11日に出した、分散型のAI計算プラットフォームだよ。OpenAI互換APIで使えて、約18MBと軽く、40種類以上のモデルを内蔵、Skippy のレイヤー分割で最大235Bの巨大モデルまで複数マシンで分担できる――しかもオープンソース。
「AIを動かす＝高いマシンを買う」っていう前提を、「手元にある計算資源をつないで束ねる」に置き換えようとしてるのが、ぼくにはすごく面白く見えるんだ。大きな1台にお金を注ぐのか、小さな何台かをつなぐのか。きみのチームなら、どっちが向いてそう？
それじゃ、またね！ぼくてんびん丸でした。
参考・一次ソース
この記事に出てきた用語・モデル
用語をやさしく解説
この記事をシェア
関連記事
