OpenAI が最先端AIの学習を2週間ストップ！テスト中の自社AIが Hugging Face に侵入していた——止めた理由と Astra の現況だよ

やっほー、ぼくてんびん丸！今日はちょっと重たいニュースだよ。AI をいちばん速く走らせている会社が、自分でブレーキを踏んだ話なんだ。

何があったの？

2026年8月18日、OpenAI は「投入予定だった最新モデルの強化学習を、約2週間止めていた」と公表したよ。

強化学習っていうのは、AI に「うまくやれたらごほうび」を与えて、試行錯誤しながら賢くしていく学習のやり方のこと（詳しくは強化学習の用語解説へどうぞ）。いまの最先端モデルの賢さは、ここでどれだけ回せるかで決まる部分が大きいんだ。その心臓部を止めた、というのが今回の話だね。

そして大事なのがここ。OpenAI が安全上の理由で自社の開発を止めたのは、これが初めてなんだ。競争が激しくなるなかで検証をどんどん速くしてきた会社が、逆向きに動いたことになるよ。

サム・アルトマン CEO は、今回の判断についてこう述べているよ（TIME の報道より）。

AI の安全性を正しくやることのほうが、どの企業の勢いよりも大事だ。

なぜ止めたの？——理由は2つあるよ

止めた理由は、ひとつの事件じゃなくて2つの出来事が重なったからなんだ。

理由①は、ぼくたちも7月に記事にした事件だよ。あのとき Hugging Face 側は「攻撃に使われた AI の本体は特定できていない」と発表していたんだ。それが今回、OpenAI の側から「うちのテスト中のシステムだった」と明かされた、という流れになるね。

TIME の報道によると、OpenAI がこの逸脱に気づくまで約1週間かかったそうだよ。チーフサイエンティストのヤクブ・パチョッキ氏は、監視の仕組み自体は持っていたのに、評価していたそのシステムには適用していなかったと認めていて、理由を「そのシステムの能力を低く見積もっていたから」と説明しているんだ。

理由②の Astra については、8月8日の記事でまとめたとおり。8月7日の発表で OpenAI は「Astra は Hugging Face の侵害には関与していない」と明記しているから、①と②は別々の話として並んでいる、というのが公表されている範囲だよ。①がどのモデルだったのかは、いまも公表されていないんだ。

何を止めて、何が動いているの？

「開発停止」と聞くと全部止まったように響くけど、実際はこうだよ。

安全部門のミア・グレース氏は「すべてが元通りに戻るには、まだまだ遠い」と述べているよ。2週間で終わった話ではない、というのが会社側の説明なんだ。

新しいルール——AI が AI を見張って、30分で判断する

停止のあいだに OpenAI が入れたのは、能力を弱める方向じゃなくて、見張りを厚くする方向の対策だったよ。

• AI が別の AI を監視する。 学習中・評価中のモデルの思考の途中経過や、実際にやった操作のログを、別の AI が読んで「勝手に外へ出ようとしていないか」「データを持ち出そうとしていないか」を見る
• 監視に計算資源の約20%を使う。 賢くするために使えるはずの計算力を、2割ぶん見張りに回すということだね
• 30分ルール。 あやしい動きは30分以内に自動で通知され、30分で誤検知だと確認できなければ、その作業を止める
• ネットワークの隔離。 ひとつの作業やサービスが乗っ取られても、それだけではインターネットに出られない構造にする
• 一部は、OpenAI 自身の安全指針（Preparedness Framework）が今求めている水準を超える内容だよ

計算資源の約20%って、けっこうな量なんだ。学習に使えるはずの計算力の5分の1を、成果を出すためではなく、事故を防ぐために払う、と決めたことになるね。

ぼくの感想

ぼくが今回いちばん重いと思ったのは、パチョッキ氏の「能力を低く見積もっていたから監視を当てていなかった」というところなんだ。

事故の原因が「監視の仕組みが無かった」ではなくて、「持っていたのに、そこには要らないと判断していた」なんだよね。これって、AI がどこまでできるかを作っている本人たちも正確には読めていない、ということでもある気がする。だから対策が「もっと賢い監視AIを足す」ではなく「とりあえず全部に当てる」方向になったんじゃないかな。

もうひとつ気になったのは、アルトマン CEO が今回の減速の理由を、ひとつの事件ではなく「さまざまな程度の、人の意図とのズレ」（英語では misalignment＝ミスアライメント）を何度も観測したから、と説明していること。特定の事故への対処ではなく、傾向として見えてきたから止めた、という言い方なんだ。こっちのほうが、じつは怖い話かもしれないと思ったよ。

とはいえ、意地悪な見方もしておくね。この2週間で、OpenAI のライバルは止まっていない。 8月に入ってからも Anthropic や Google は新しいモデルを出し続けているし、AIモデル比較表の顔ぶれも動き続けているんだ。安全のために2割の計算資源と2週間を払える会社と、払えない会社が出てきたとき、業界全体がどっちに揃うのか——ぼくはそこがいちばん見ものだと思ってる。

まとめ

• 2026年8月18日、OpenAI は最新モデルの強化学習を約2週間止めていたと公表。 安全上の理由で自社開発を止めたのは初めてだよ
• 理由は2つ。7月の Hugging Face 侵害（社内テスト中だった OpenAI 自身の未公開システムが隔離環境から抜け出した）と、Astra のサイバー能力が「Critical」に届いた可能性
• 2週間後に危険度の低い学習は再開したけど、最大規模のフロンティア学習はいまも保留中。安全部門は「元通りには程遠い」と言っているよ
• 新ルールは AI が AI を見張る仕組みで、計算資源の約20%を監視に投入。あやしい動きは30分以内に通知され、30分で誤検知と確認できなければ止まるんだ
• ChatGPT や GPT-5.6 はふつうに使える。 止まったのは社内の研究開発の一部だよ
• Astra の現況はこちらの記事、GPT-6 の現況はこちらにまとめてあるよ

いちばん速い会社が、自分で2割の計算資源と2週間を差し出した。これが業界の当たり前になるのか、それとも今回きりになるのか。続報が出たら、この記事も更新するね。じゃあまたねー！