安全性
Constitutional AIとは？
別名: 憲法AI
AIに「憲法」を与えて自律的に行儀よくさせる手法。
⚡ 30秒でわかる
Constitutional AI の主なポイント
- 1 Anthropic が提唱した、AIに「やってはいけないこと」「やるべき価値観」を文書（憲法）として与え、AI自身がそれに沿って自己批判しながら学習する手法です。
- 2 Claudeシリーズの土台になっています。
📖 詳しく
Constitutional AI とは
Anthropic が提唱した、AIに「やってはいけないこと」「やるべき価値観」を文書（憲法）として与え、AI自身がそれに沿って自己批判しながら学習する手法です。
Claudeシリーズの土台になっています。
❓ FAQ
よくある質問
- Q. Constitutional AI とは何ですか？
- A. AIに「憲法」を与えて自律的に行儀よくさせる手法。 Anthropic が提唱した、AIに「やってはいけないこと」「やるべき価値観」を文書（憲法）として与え、AI自身がそれに沿って自己批判しながら学習する手法です。
- Q. Constitutional AI の主な特徴は？
- A. Anthropic が提唱した、AIに「やってはいけないこと」「やるべき価値観」を文書（憲法）として与え、AI自身がそれに沿って自己批判しながら学習する手法です。 Claudeシリーズの土台になっています。
- Q. Constitutional AI に関連する用語は？
- A. 「RLHF」、「アライメント」などが関連しています。
- Q. Constitutional AI の別名は？
- A. 憲法AI とも呼ばれます。