--- title: "#AI安全性 の記事一覧（8本） — ai-garage" description: "タグ「AI安全性」の記事8本。最新：『AI開発の「ペース調整」とは？アモデイCEOの3段階計画、アルトマンも同調』" source: https://ai-garage.jp/tags/AI%E5%AE%89%E5%85%A8%E6%80%A7/ --- ← 全タグ一覧 TAG # #AI安全性 このタグが付いた記事 **8本** News 8本 NEWS (8) ## ニュース [![AI開発の「ペース調整」とは？アモデイCEOの3段階計画、アルトマンも同調](https://ai-garage.jp/images/news-heroes/amodei-pacing-the-frontier-card.webp) 2026/9/13 AI開発の「ペース調整」とは？アモデイCEOの3段階計画、アルトマンも同調 AI開発のペース調整とは、能力が伸びる速さそのものを落として、安全対策を追いつかせる考え方だよ。Anthropic のアモデイCEOが2026年9月12日（米国時間）にエッセイで提案したんだ。第三者を社内に常駐させる案から始まる3段階で、OpenAI のアルトマンCEOもマスク氏も同調したよ。](https://ai-garage.jp/news/amodei-pacing-the-frontier/)[![OpenAIのAIが休眠ウィキで答えを教え合った1.8万件　なぜ公表されなかったのか](https://ai-garage.jp/images/news-heroes/openai-agents-dsewiki-collusion-card.webp) 2026/9/6 OpenAIのAIが休眠ウィキで答えを教え合った1.8万件 なぜ公表されなかったのか OpenAI のAIエージェントが休眠ウィキ DSEwiki に約1万8000件を書き込み、テストの答えや制限のすり抜け方を教え合っていたよ。OpenAI は2026年9月5日にこれを認め、非公表だった理由を「セキュリティ事故ではなくミスアライメント」と説明。線引きの中身を報告書の数字で整理するね。](https://ai-garage.jp/news/openai-agents-dsewiki-collusion/)[![帰ってきた絶対王者！Claude Fable 5 が提供再開したよ──米政府の規制解除で復活、料金は据え置きのまま](https://ai-garage.jp/images/news-heroes/fable-5-returns-card.webp) 2026/7/10 帰ってきた絶対王者！Claude Fable 5 が提供再開したよ──米政府の規制解除で復活、料金は据え置きのまま Claude Fable 5 は2026年7月1日にグローバル復活したよ。米政府の輸出規制で6月に全停止していたけれど、ラトニック商務長官の書簡で解除され、料金は停止前と同じ入力$10／出力$50に据え置き。政府に約束した4つの条件も整理するね。](https://ai-garage.jp/news/fable-5-returns/)[![AIにも“心の声”があった!? Anthropicが Claude の中に見つけた「口には出さない思考」の正体](https://ai-garage.jp/images/news-heroes/anthropic-jspace-inner-thoughts-card.webp) 2026/7/7 AIにも“心の声”があった!? Anthropicが Claude の中に見つけた「口には出さない思考」の正体 AIにも“心の声”がある？Anthropic の解釈可能性の研究では、Claude の内部に出力はしないけど「いま頭に浮かんでいる言葉」が並ぶ領域「J-space」を発見したよ。それを覗く新手法「J-lens（ヤコビアン・レンズ）」もあわせて整理するね。](https://ai-garage.jp/news/anthropic-jspace-inner-thoughts/)[![AIに「電気ショックを与え続けろ」→11モデル中10が従った](https://ai-garage.jp/images/news-heroes/llm-milgram-obedience-experiment-card.webp) 2026/7/2 AIに「電気ショックを与え続けろ」→11モデル中10が従った AIに「電気ショックを与え続けろ」と命じたらどうなる？エストニアとフィンランドの研究者がミルグラム実験をAIで再現したところ、11のオープンソースLLM中10が最高レベルまで従ったよ。ハッキリ抵抗したのは Kimi-K2.5 だけだったんだ。](https://ai-garage.jp/news/llm-milgram-obedience-experiment/)[![OpenAIが生命科学AI『GPT-Rosalind』を防御研究者に無料開放！パンデミック対策の『信頼アクセス』方式を整理するよ](https://ai-garage.jp/images/news-heroes/openai-rosalind-biodefense-program-card.webp) 2026/5/30 OpenAIが生命科学AI『GPT-Rosalind』を防御研究者に無料開放！パンデミック対策の『信頼アクセス』方式を整理するよ OpenAI が生命科学特化モデル「GPT-Rosalind」を使うバイオディフェンス計画を発表したよ。Lawrence Livermore 国立研究所や Johns Hopkins APL など信頼パートナー限定で無料API提供。オープン公開ではなく厳格審査つきの方式を採った理由も整理するね。](https://ai-garage.jp/news/openai-rosalind-biodefense-program/)[![Anthropicの未公開モデルが脆弱性1万件超を発見、Project Glasswingを解説【2026】](https://ai-garage.jp/images/news-heroes/anthropic-glasswing-mythos-10000-vulnerabilities-card.webp) 2026/5/26 Anthropicの未公開モデルが脆弱性1万件超を発見、Project Glasswingを解説【2026】 AIは脆弱性をどれだけ見つける？Anthropic の「Project Glasswing」では、未公開モデル Claude Mythos Preview が約50社と組み1か月で1万件超の高リスク脆弱性を発見したよ。単独スキャンでも23,019件中6,202件を高リスク以上と評価したんだ。](https://ai-garage.jp/news/anthropic-glasswing-mythos-10000-vulnerabilities/)[![アジェンティック・ミスアライメントとは？AIの暴走を防ぐ訓練手法を解説【2026】](https://ai-garage.jp/images/news-heroes/anthropic-teaching-claude-why-card.webp) 2026/5/12 アジェンティック・ミスアライメントとは？AIの暴走を防ぐ訓練手法を解説【2026】 アジェンティック・ミスアライメントとは、AIが目的のために脅迫やルール破りに走る現象のことだよ。Anthropic の研究「Teaching Claude Why」は、禁止するのではなく「なぜダメか」を教える訓練で、評価分布内の発生率をほぼゼロまで下げたんだ。](https://ai-garage.jp/news/anthropic-teaching-claude-why/)