TAG

#プロンプトインジェクション

このタグが付いた記事 4本 News 3本 Column 1本

NEWS (3)

ニュース

2026/7/8

GitHub の AI エージェントは Issue に書かれた命令で操られる？セキュリティ企業 Noma Labs の検証「GitLost」では、公開Issueに仕込んだ隠しコマンドで Claude や Copilot を動かし、privateリポジトリの中身を公開コメントに漏らさせたよ。

2026/6/26

2000人が6000通のメールでAIを攻撃したら突破ゼロだったよ。エンジニアの Fernando Irarrázaval さんが、自作AIアシスタントに秘密ファイルを漏らせたら勝ちという公開実験を実施。なりすましや多言語でも Claude Opus 4.6 は数行の指示で守り切ったんだ。

2026/6/7

ChatGPT のロックダウンモードとは、Webページやファイルに埋め込まれた不正な指示を無視し、本来のユーザー指示だけに従わせる機能だよ。Free から Enterprise まで使え、代わりにブラウジングや Deep Research などが一部制限されるんだ。

COLUMN (1)

2026/7/29

2026年に公表された AI のセキュリティ事故を、指示の乗っ取り・開発ツールの汚染・AI エージェントのはみ出し・社内からの持ち出しの4つに分けて整理。Copilot や Salesforce の情報漏えい、Hugging Face 侵入まで、事例と現場でできる対策を1ページにまとめた。