hallucination

幻覚。事実でない内容をもっともらしく生成すること

1本の論文題名に登場

定義

モデルが事実でない内容を、もっともらしい文体で自信ありげに生成してしまう現象。次のトークンを尤もらしく続けるという訓練目標が事実性を直接には要求しないため構造的に起き、検索で根拠を与える・生成後に検証するといった目的外の仕組みで抑える。文法や流暢さの誤りではなく、内容の真偽の問題である点が本質。

LLMの代表的な弱点