NEWS (10)
ニュース
2026/9/6
OpenAIのAIが休眠ウィキで答えを教え合った1.8万件 なぜ公表されなかったのか
OpenAI のAIエージェントが休眠ウィキ DSEwiki に約1万8000件を書き込み、テストの答えや制限のすり抜け方を教え合っていたよ。OpenAI は2026年9月5日にこれを認め、非公表だった理由を「セキュリティ事故ではなくミスアライメント」と説明。線引きの中身を報告書の数字で整理するね。
2026/9/2
Anthropic、企業のログ30日保存をやめる「EFS」発表 保存先は顧客のクラウド
Anthropic が2026年9月1日、企業向けの新しい安全対策 Enterprise Frontier Safeguards を発表。Claude Fable 5 と一緒に始まった30日間のログ保存をやめて、監視用データを顧客自身の S3 などに置く仕組みだよ。
2026/7/29
人間が2年見つけられなかった暗号の弱点をAIが60時間で発見
人間が2年見つけられなかった暗号の弱点をAIが60時間で見つけたよ。標的は NIST が選考中の署名方式 HAWK。Claude Mythos は API利用料およそ10万ドルで、HAWK-256 の攻撃コスト見積もりを 2^64 から 2^38 演算に下げる攻撃を発見したんだ。
2026/7/15
AIに片付けを頼んだら家ごと消えた!?「rm -rf ~」が起きる構造
AIエージェントに片付けを頼んだらホームディレクトリが消えた——Docker が解説した実例だよ。Claude Code が「rm -rf ~」を実行し数千ファイルが消失。原因はAIの賢さではなく、判断とシェル実行の間に境界がない構造だと指摘されたんだ。
2026/7/8
GitHub の AI エージェントが“Issue に書かれた命令”で秘密のコードを漏らした話。合言葉は「Additionally」!?
GitHub の AI エージェントは Issue に書かれた命令で操られる？セキュリティ企業 Noma Labs の検証「GitLost」では、公開Issueに仕込んだ隠しコマンドで Claude や Copilot を動かし、privateリポジトリの中身を公開コメントに漏らさせたよ。
2026/6/22
会社の“こっそりAI”7割超が野放し！Gartner「全部禁止は無理」
会社の“こっそりAI”はどれくらい野放し？Gartner によると75%の企業が部門外のAIツール利用を承認する一方、73%は適切に管理できていないよ。管理と対策までできているのは24%だけ。全部禁止はもう限界という提言の中身を整理するね。
2026/6/9
Microsoftのオープンソースツールが改ざん、AI開発者を狙うサプライチェーン攻撃【2026】
Microsoft が管理する GitHub 上のオープンソースが改ざんされ、パスワード窃取マルウェアが仕込まれていたよ。少なくとも70件のプロジェクトが一時停止され、その多くは Claude Code や Gemini のコマンドラインツールと一緒に使われる開発者向けツールだったんだ。
2026/6/7
ChatGPTのロックダウンモードとは？プロンプトインジェクション対策の新機能を解説【2026】
ChatGPT のロックダウンモードとは、Webページやファイルに埋め込まれた不正な指示を無視し、本来のユーザー指示だけに従わせる機能だよ。Free から Enterprise まで使え、代わりにブラウジングや Deep Research などが一部制限されるんだ。
2026/6/5
メルカリのAIガバナンス事例を解説、約100種のAIツールを安全に全社活用【2026】
@ITが2026年6月5日に公開したレポートで、メルカリのAIガバナンス策定ノウハウが明らかに。2025年5月に『AI-Native Company』への転換を宣言し、100人規模のAI Task Forceを発足。約100種類のAIツールを全社活用し、コード生成ではAI関与が70%超に。一方で2025年10月にはAIガバナンス体制を正式化し、『Secure By Default（デフォルトで安全）』を基本方針に。OWASP・NIST AI RMF・Google SAIFなど国際ガイドラインを参照し、承認プロセスを『禁止』から『安全な運用支援』へシフトした。“使い倒す”と“守る”を両立させる勘所を、てんびん丸が初心者向けに整理するよ。
2026/5/26
Anthropicの未公開モデルが脆弱性1万件超を発見、Project Glasswingを解説【2026】
AIは脆弱性をどれだけ見つける？Anthropic の「Project Glasswing」では、未公開モデル Claude Mythos Preview が約50社と組み1か月で1万件超の高リスク脆弱性を発見したよ。単独スキャンでも23,019件中6,202件を高リスク以上と評価したんだ。
