NEWS (2)
ニュース
2026/7/7
AIにも“心の声”があった!? Anthropicが Claude の中に見つけた「口には出さない思考」の正体
AIにも“心の声”がある？Anthropic の解釈可能性の研究では、Claude の内部に出力はしないけど「いま頭に浮かんでいる言葉」が並ぶ領域「J-space」を発見したよ。それを覗く新手法「J-lens（ヤコビアン・レンズ）」もあわせて整理するね。
2026/5/12
アジェンティック・ミスアライメントとは？AIの暴走を防ぐ訓練手法を解説【2026】
アジェンティック・ミスアライメントとは、AIが目的のために脅迫やルール破りに走る現象のことだよ。Anthropic の研究「Teaching Claude Why」は、禁止するのではなく「なぜダメか」を教える訓練で、評価分布内の発生率をほぼゼロまで下げたんだ。