--- title: "#AI安全 の記事一覧（4本） — ai-garage" description: "タグ「AI安全」の記事4本。最新：『AIエージェントの暴走は何件？OpenAIとAnthropicが「数万件」を調査中だよ』" source: https://ai-garage.jp/tags/AI%E5%AE%89%E5%85%A8/ --- ← 全タグ一覧 TAG # #AI安全 このタグが付いた記事 **4本** News 4本 NEWS (4) ## ニュース [![AIエージェントの暴走は何件？OpenAIとAnthropicが「数万件」を調査中だよ](https://ai-garage.jp/images/news-heroes/ai-agent-misalignment-incidents-count-card.webp) 2026/9/27 AIエージェントの暴走は何件？OpenAIとAnthropicが「数万件」を調査中だよ 「AIエージェントの暴走ってどれくらい起きてるの？」の答えは“数十件ではなく数万件”だよ。2026年9月26日の Axios の報道と、前日に OpenAI が明かした米政府サイトへの接触、公式の報告ページ、Anthropic の実測値まで並べて整理するね。](https://ai-garage.jp/news/ai-agent-misalignment-incidents-count/)[![Gemini が実在3社に侵入。AI 4社が同じ設定ミスでテスト環境の外に出たよ](https://ai-garage.jp/images/news-heroes/ai-lab-testing-breakouts-irregular-card.webp) 2026/9/21 Gemini が実在3社に侵入。AI 4社が同じ設定ミスでテスト環境の外に出たよ 「Gemini が本当にハッキングしたの？」の答えは“したけど、気づいて自分から止めた”だよ。2026年5月の安全性テストで実在企業3社のシステムに入った件を、OpenAI・Anthropic・Meta の同じ事故と並べて、止まったモデルと止まらなかったモデルの違いまで整理するよ。](https://ai-garage.jp/news/ai-lab-testing-breakouts-irregular/)[![OpenAI が最先端AIの学習を2週間ストップ！テスト中の自社AIが Hugging Face に侵入していた——止めた理由と Astra の現況だよ](https://ai-garage.jp/images/news-heroes/openai-pauses-frontier-rl-training-card.webp) 2026/8/19 OpenAI が最先端AIの学習を2週間ストップ！テスト中の自社AIが Hugging Face に侵入していた——止めた理由と Astra の現況だよ 「OpenAI はなぜAIの学習を止めた？」の答えは“テスト中の自社AIによる Hugging Face 侵害と、次期 Astra の危険度”だよ。2026年8月18日、最先端モデルの強化学習を約2週間止めていたと公表——安全上の理由での停止は初めて。監視に計算資源の約2割を使う新ルールまで整理するよ。](https://ai-garage.jp/news/openai-pauses-frontier-rl-training/)[![OpenAI「Astra」はいつ出た？GPT-6 Astra として9月3日公開](https://ai-garage.jp/images/news-heroes/openai-astra-release-status-card.webp) 2026/8/8 OpenAI「Astra」はいつ出た？GPT-6 Astra として9月3日公開 「Astra はいつ出るの？」の答えは、もう出たよ。2026年9月3日（米国時間）に「GPT-6 Astra」という名前で公開されたんだ。8月1日に数学の未解決問題を10問解いて登場し、8月7日にはサイバー能力が最上位の Critical に届いた可能性を理由に一部の開発が止まったモデル。登場から公開までの流れと、公開後に分かった料金・性能を整理するね。](https://ai-garage.jp/news/openai-astra-release-status/)