ソース帰属｜LLMO用語集

友人から「明日は雨が降るらしいよ」と聞いたとき、「それ、どこで見たの？」と情報元を知りたくなることがあります。
このとき「気象庁のホームページに書いてあったよ」と教えてくれるのが、ソース帰属の考え方です。
AIも同じように、ただ答えを出すだけでなく、「この本に書いてありました」や「〇〇というウェブサイトの情報を参考にしました」と、どこでその情報を知ったのかを教えてくれる機能のことです。
どこから情報を持ってきたかがわかることで、その情報が本当に正しいのかどうかを自分自身で確かめることができるようになります。

AIが参照した元のデータ自体に誤りがある場合、情報源が明示されていても不正確な回答が出力される可能性があります。
また、AIが複数の異なる情報源を組み合わせて新しい文章を作成した場合、どの部分がどの情報源に基づくのかを細かく特定することが技術的に困難になることがあります。
さらに、著作権やプライバシー保護の観点から、一部の情報源をユーザーに対して開示できないケースも存在します。
そのため、情報源が提示された場合でも、その内容をすべて受け入れるのではなく、情報の妥当性を最終的に判断する工程が必要になります。

情報源が明らかになることで、AIが生成したテキストによる著作権侵害のリスクを管理しやすくなるというメリットがあります。
AIがどのデータを参考にしたかが可視化されるため、特定の著作物を不適切に引用していないかをシステム管理者側で確認できます。
また、ユーザーが提示されたリンクや参照元の資料を直接読むことで、短い回答の背景にある詳しい知識や関連情報へスムーズにアクセスできる点も利点です。
企業内で利用する場合は、社内の業務マニュアルや規定のどの部分を参照したかがわかるため、必要な社内ドキュメントを見つけ出すための検索システムとしても役立ちます。