セマンティック近接性｜LLMO用語集

セマンティック近接性とは、「言葉の意味の近さ」を数値で表したものです。
たとえば、「リンゴ」と「ミカン」は別の言葉ですが、「果物」という同じグループに属しているため、意味が近いと言えます。
一方で、「リンゴ」と「自動車」は関連性がないため、意味が遠くなります。
人間は言葉の持つ意味や背景の知識からこれを直感的に理解できますが、コンピュータにはそれができません。
そこで、コンピュータにも言葉の意味の近さを理解させるために作られた仕組みが、セマンティック近接性です。
この仕組みがあるおかげで、検索窓に入力した言葉と完全に同じ単語が文章に含まれていなくても、コンピュータは私たちが知りたいことの意味を汲み取り、適切な答えを見つけ出すことができます。

主に「エンベディング」と呼ばれる技術と、ベクトル空間における距離の計算によって求められます。
エンベディングとは、単語や文章を多次元の数値データ（ベクトル）に変換する処理のことです。
この変換により、テキストデータは座標上の一点として配置されます。
計算手法としては、コサイン類似度が用いられるのが一般的です。
これは、2つのベクトルがなす角度を計算する手法であり、角度が小さいほど値が1に近づき、意味が類似していると判定されます。
他にも、ユークリッド距離やマンハッタン距離など、ベクトル間の物理的な距離を測定する計算方法がシステムの仕様に応じて選択されます。

精度の向上には、適切なエンベディングモデルの選定と、対象領域に特化したデータの学習が求められます。
言語モデルはそれぞれ得意とする言語や分野が異なるため、扱うテキストの性質に合わせたモデルを使用する必要があります。
医療や法律などの専門用語が多く使われる分野では、汎用的なモデルでは単語の正確な意味を捉えきれない場合があります。
そのため、特定の専門分野のテキストデータを用いてモデルを追加学習させるアプローチが有効です。
また、文章をベクトル化する際の分割単位を最適化し、文脈の情報が欠落しないように前処理を調整することも、近接性の判定精度を向上させる要因となります。