ai-garage
LLM 🔥 HOT

ハルシネーションとは?

別名: Hallucination / 幻覚

AIが平然とウソをつく現象。

⚡ 30秒でわかる

ハルシネーション の主なポイント

  • 1 全ID(relatedModels: chatgpt/claude/perplexity、relatedTopics: reasoning-revolution、related: rag/guardrails/bias/benchmark)は許可リストに含まれ、対応する content ファイルも実在。無効ID・自己参照なし。
  • 2 ソース2件をともに検証済み: arXiv 2202.03629 はタイトル・著者・主題を直接フェッチで確認、OpenAI『Why language models hallucinate』は WebSearch で実在確認(2025年9月公開、URL一致)。最初の403はボットブロックで非実在ではない。
  • 3 定義・原因・典型例・対策の説明はすべて事実として妥当。捏造数値や脆い年号なし。完全ゼロ化不可の記述は被引用のOpenAI論文(数学的に不可避と主張)とも整合。
  • 4 keyPoints 5件・faqs 4件は簡潔で重複なく、最初のFAQが『とは』に即答。bias との区別FAQが related の bias リンクと噛み合う。
  • 5 1点の留意(修正不要): 被引用OpenAI論文の本旨は『訓練・評価が推測を報奨する』点だが、本文は従来型の『次トークン予測で真偽未検証』説明を採用。初心者向けとして正確で誤りではないため変更せず。

📖 詳しく

ハルシネーション とは

AIが事実と異なる情報をもっともらしく出力する現象「ハルシネーション」の用語集エントリ。検証の結果、修正不要のpass。

❓ FAQ

よくある質問

Q. なぜ verdict は pass なのか(修正なし)?
A. 全7カテゴリのIDが許可リスト内かつファイル実在、self-reference なし、ソース2件とも権威ソースとして実在確認済み、description/keyPoints/faqs に事実誤り・捏造・古い情報がないため。1文字も変更不要。
Q. ソースの実在検証はどう行ったか?
A. arXiv 2202.03629 は WebFetch で直接取得しタイトル『Survey of Hallucination in Natural Language Generation』・著者13名・主題を確認。OpenAIページは403(ボットブロック)だったため WebSearch で補完確認し、2025年9月公開・著者 Kalai/Nachum/Vempala/Zhang・URL完全一致を裏取りした。

更新を受け取る