#アライメント

2026/5/12

Anthropic、AIの『暴走シナリオ』を消す訓練手法を公開！『なぜダメか』を教えたら脅迫行動がゼロに近づいたよ

Anthropicが2026年5月8日に公開した研究『Teaching Claude Why』。Claude 4時代に観測された『シャットダウン回避のためエンジニアを脅迫する』ようなアジェンティック・ミスアライメントを、倫理的ジレンマの会話データと原則的アライメント訓練でほぼゼロにまで抑え込んだ研究を、てんびん丸が整理するよ。