用語集 › constitutional
GLOSSARY
constitutional
憲法的な。AIに規範文（憲法）を与える
1本の論文題名に登場
定義
AIに明文化された規範（憲法）を与え、それに照らして自分の出力を批評・修正させる方式を指す。人手で有害性ラベルを大量に付ける代わりにモデル自身の判定を報酬源に使うため、無害性の調整を人間の作業量から切り離せるのが主張。原則の中身は公開文書として検証可能な形に置かれる。
論文題名での読み方
Constitutional AIの型
GLOSSARY
憲法的な。AIに規範文（憲法）を与える
1本の論文題名に登場
AIに明文化された規範（憲法）を与え、それに照らして自分の出力を批評・修正させる方式を指す。人手で有害性ラベルを大量に付ける代わりにモデル自身の判定を報酬源に使うため、無害性の調整を人間の作業量から切り離せるのが主張。原則の中身は公開文書として検証可能な形に置かれる。
Constitutional AIの型