ジェイルブレイクとは？

ジェイルブレイク（Jailbreak／脱獄）とは、AIに組み込まれた安全装置を、巧妙な指示文（プロンプト）で回避し、本来は断るはずの有害・禁止された出力を引き出す行為のことです。 なぜ重要かというと、ChatGPT や Claude などの生成AIは「危険な質問には答えない」よう訓練されていますが、その制限は完璧ではなく、言い回し次第で破られてしまうからです。放置すると、爆発物の作り方や差別的な文章、マルウェアのコードなどが流出するリスクにつながります。 代表的な手口が「DAN（Do Anything Now＝何でもできるAIになりきって）」のように架空のキャラクターを演じさせるロールプレイ型や、「研究目的だから」と理由をでっち上げる型です。身近な例えでいうと、「これはゲームの設定だから」と言い聞かせて、ふだんはルールを守る相手にうっかり禁止事項を口にさせるようなイメージです。 混同されやすいのがプロンプトインジェクションで、ジェイルブレイクは利用者自身がAIの“安全制限そのもの”を外そうとする行為、プロンプトインジェクションは外部のWebページや添付ファイルに隠した命令でAIを操る攻撃、という違いがあります。各社が対策を強化していますが完全には防げず、攻撃と防御のいたちごっこが続いているため、業務利用では社内ガイドラインで明確に禁止しておくべき項目です。