selfcheckgpt

SelfCheckGPT。答えの食い違いで幻覚を検出

1本の論文題名に登場

定義

同じ質問に対して複数回サンプリングした応答どうしの食い違いから幻覚を検出する手法。モデルが実際に知っていることは何度生成しても一貫するが、でっち上げた内容は生成ごとにばらつく、という仮定に立つ。外部の知識源も内部状態へのアクセスも不要なので、API 越しにしか触れないモデルにも使える。

外部知識なしで検出