IDF

逆文書頻度は、大量の文書から情報を探し出す際に、特定の単語がどれだけ重要かを示す指標です。ある単語が多くの文書に現れるほど、その単語の情報としての価値は低くなります。例えば、一般的な言葉は多くの文書に含まれるため、逆文書頻度は低くなります。逆に、特定の分野でしか使われない専門用語は、現れる文書が少ないため、逆文書頻度は高くなります。この考え方は、文書を自動で分類したり、検索エンジンの性能を高めたりするために利用されています。具体的には、文書全体における単語の出現回数と、その単語が現れる文書の数を考慮して計算されます。この計算によって、文書の内容を特徴づける重要な単語を特定し、より的確な情報検索を可能にします。逆文書頻度が高い単語ほど、その文書の内容を特定する上で重要な手がかりとなるのです。