グラウンディング｜LLMO用語集

AIが回答を作る際に、自分の記憶だけで答えるのではなく、指定された資料やデータを確認しながら答える仕組みのことです。
AIは多くの文章を学習していますが、知らないことや忘れてしまったことに対しても、知っているふりをして間違った答えを作ってしまうことがあります。
グラウンディングを導入すると、AIはまず指定された書類や最新のニュースなどの資料を探しに行きます。
そして、そこに書かれている事実だけを使って答えを作るようになります。
この仕組みによって、AIが間違ったことを言うのを防ぎ、私たちが安心してAIの答えを利用できるようになります。
また、学習が終わった後に起きた新しい出来事についても、資料を渡すことで正しく答えられるようになります。

グラウンディングは、AIの出力を事実や根拠に基づく情報に結びつけるという概念や目的を指します。
一方でRAG（Retrieval-Augmented Generation）は、そのグラウンディングを実現するための具体的な手法の一つです。
RAGは、ユーザーからの質問に対してまず外部のデータベースや検索エンジンから関連する情報を探し出します。
次に、検索して得られた情報をAIの入力に加え、その情報に基づいて回答を生成させます。
つまり、RAGというシステムを使うことで、結果としてAIの出力がグラウンディングされた状態になるという関係性です。
グラウンディングを実現する方法はRAG以外にも存在しますが、現在のLLM開発においてはRAGが代表的なアプローチとして採用されています。

グラウンディングを導入する際の主な課題は、参照元となるデータの品質管理です。
AIは与えられた外部データに基づいて回答を生成するため、参照するデータベースや文書に古い情報や誤った情報が含まれていると、AIの回答も不正確になります。
そのため、情報の定期的な更新や、不要なデータの削除といった継続的なメンテナンスが必要です。
また、ユーザーの質問に対して多数のデータの中から適切な情報を探し出すための検索精度の向上も必要です。
検索で不適切な資料を抽出してしまうと、的確な回答を生成できなくなります。
さらに、情報を検索して参照するプロセスが追加されるため、通常のテキスト生成と比較して、回答を出力するまでの処理時間が長くなる傾向があります。