HOME | 事務所紹介 | サーチャー紹介 |講習会・講演会・執筆 | コラムバックナンバー |お問合せ |
注意:内容は執筆時点での情報です
コラム第46号(2006/10/10UP)
「“単語検索”が使われているデータベース」
このコラムの第43号で、Google検索の “単語検索” のしくみをご案内しました。
この“単語検索”のしくみに興味をもたれたかたも多かったようで、
いろいろと感想や質問などもいただきました。
そんなわけで、今回も“単語検索”についてもう少し書いてみたいと思います。
というのも、“単語検索”ってGoogleに使われているだけではなくて、
いろんなデータベースで使われていますし、
特に現在ではテキストマイニングを中心に、様々な検索システムに応用されています。
そんな中から、今回は2つご案内しましょう。
●新聞記事検索「日経テレコン21」
新聞記事データベースの検索システムは、基本的には文字列検索です。
G-SearchやEL-NETなどの全国紙・地方紙・専門紙を横断検索できるシステムも、
朝日新聞の検索システム「聞蔵」、読売新聞の検索システム「ヨミダス」など
各新聞独自にサービスしている検索システムも、ほとんどが文字列検索で検索するしくみを使っています。
そんな中で日経テレコン21は、単語検索での検索システムを使っています。
日経レテコン21の単語検索のしくみは、Googleとはまたチョット違っていて、
「任意一致」 と 「完全一致」 に注意していただきたいです。
特に 「完全一致」。
普通の文字列検索での完全一致と同じ感覚で使うとNGです。
例えば、検索語に「環境」と入力し、「完全一致」で検索する。
さてこの場合、日経テレコン21は見出し・記事本文の “単語の切り出し” をしているので
完全一致で検索すると 「環境」が “単独で切り出されているデータだけ” を拾ってきます。
試しに、日経gooで日経テレコン21の検索システムが無料で試せますので、
検索語入力ボックスに「環境」と入力して、
検索対象は 「見出し」 だけを選んで(他のチェックは外して)、
検索条件は 「完全一致」、 ←有料版の日経テレコン21ではプルダウンキーで選択します
「同異義語展開」はチェックを外して、 検索してみてください。
結果の見出しが表示されます。
「環境」がヒットしているから、ちゃんと検索できた・・・と思ってしまいがちなのですが、
よく見ると、「環境・情報」 とか 「環境に配慮」 など
「/ 環境 / ・ / 情報 /」 「/ 環境 / に / 配慮/」 のような、「環境」が単独で単語切り出しされている
データのみを拾ってきているのが分かりますよね。
単語を切り出すしくみを使っている検索システムは、文字列検索よりも一般に検索の精度が上がります。
例えば「着物」を検索語に使う場合、モレのない検索をしたい場合は
「着物 OR 呉服 OR 和服 OR キモノ OR きもの」と、同義語や異表記語をOR演算します。
このとき文字列検索のしくみだと 「きもの」 という検索語に対し
「彼を亡きものにしようと…」 や 「幼きものたちへ…」などのデータもヒットしてしまいます。
これに対し単語検索はデータを 「幼き / もの / たち / へ」 と単語を切り出してデータを格納するので
「きもの」という検索語に対し一致する単語が無いため、検索のノイズ(不要な情報)が減るしくみです。
でも、精度が上がると同時に検索モレも生じます。
日経テレコン21での「完全一致」も、単語の切り出しが行われていますから、
他の文字列検索を使っている新聞記事データベースを検索するときとは、
頭を切り替えて検索語を考えないといけません。
日経テレコン21で、普通の文字列検索での「完全一致」と同じを検索したい場合は、
「任意一致」を使います。
試しに、先ほどの 「環境」 での検索を 「任意一致」 に変えて検索すると、
「環境安全」 「環境省」 「オフィス環境」 など、「環境」を含んだ単語がヒットしてくることが分かります。
検索に慣れていない方の場合は、
素直に(?)画面に初期設定されている「任意一致」のまま検索する方が多いと思いますが、
チョット検索に慣れてきたかたが、この「完全一致」の落とし穴に落ちてしまいがちです。
しかも、落とし穴に落ちたことに自分ではなかなか気づきにくい。 どうぞご注意を。
(ていうか、
日経テレコン21での「任意一致」と「完全一致」の意味、パッと画面見て理解できます?できないですよねぇ・・・)
●インターネット検索エンジン「Clusty.jp」
もうひとつ、インターネット検索エンジンの 「Clusty.jp」 。
これは単語の切り出しを基本として、
検索された結果を、カテゴリ別フォルダに自動的に分類・整理して表示する検索エンジンです。
試しに、検索ボックスに 「グリーンピース」 と入力して検索してみてください。
検索結果の画面が表示されると、
画面左側に、「環境」 「野菜」 「スープ」・・・というように
環境団体の「グリーンピース」 や 野菜や食材としての「グリーンピース」 などの
分類が表示されているのが、分かります。
ここで「環境」をクリックすれば、環境団体のグリーンピースのサイトだけの検索結果一覧が表示されます。
いかがですか、 なかなか賢いでしょう?
Googleなどの検索エンジンだと、いろんな概念のサイトが全部いっしょくたにヒットしますが、
Clusty.jpは、サイト内の単語に切り出しと、その関連度を計算する検索システムによって、
カテゴリ別フォルダに自動的に分類・整理して表示してくれるしくみです。
ある程度、検索に慣れているひとなら、環境団体のグリーンピースに関する情報を検索したいなら、
“「グリンピース」だけで検索すると、野菜のグリーンピースもヒットしちゃうから、「環境」をANDしよう”
と考えるわけですが、そういう予測がたたない場合、
例えば、専門用語がどういう分野で使われるか確認したい場合などは、この検索システムは便利です。
・・・ちなみに、
個人的には、この検索システムを中学校や高等学校などの生徒さんに活用してもらえたらいいのにな、
と思っています。
中学生や高校生って、考える力は大人と同じくらいあるけども、
残念なことに、まだ世の中を知っている範囲が狭い。
だから “この言葉でコレを検索したい” と思っても、
不要な情報がいっぱいヒットしているんじゃないか、と思うのですよ。
そういうとき、このClusty.jpを使えば “こういうカテゴリに分かれるんだ” ということを示してもらえる。
このClusty.jpのアイソのない画面(これはこれでシンプルで良いのですが・・・)を見ると、
あまり、中高生の利用は視野に入れていないようなのですが、
まずは先生がた、ご利用なさってみてはいかがでしょうか。
というわけで、単語の切り出しを使った検索のしくみは
これからも様々な方面で多様に使われていくと思います。
これを機会に、検索のときチョット気にかけてもらえるとうれしいです。
HOME