著者
平林 幹雄 江渡 浩一郎
出版者
一般社団法人情報処理学会
雑誌
情報処理学会研究報告データベースシステム(DBS) (ISSN:09196072)
巻号頁・発行日
vol.2006, no.78, pp.215-222, 2006-07-13
被引用文献数
1

全文検索システムの転置インデックスを実現するにあたり,テキストデータからN-gram法によって切り出したトークンを検索キーにする手法が広く用いられている.この手法には,言語中立性や再現率の完全性という利点がある反面,検索対象の文書群から抽出するトークンの数が膨大になるために,転置インデックスのサイズが肥大化して空間効率が悪化するという欠点がある.検索の際にクエリから切り出した各トークンが対象文書のテキスト内でも連接しているかどうかを判断するためには,転置インデックス内にトークンの文書内での出現位置を記録しておくことが必要となるが,この位置情報が転置インデックスの肥大化の一因となっている.本稿では,N-gram法の欠点である転置インデックスの空間効率を改善する手法として,N.M-gram法を提案する.N.M-gram法では,各トークンの文書内での位置情報のかわりに後続のトークンのハッシュ値を用いることによって,N-gram法の利点である言語中立性や再現率の完全性を保持したまま,空間効率を改善することができる.When constructing inverted index for full-text search system, using N-gram is very popular for tokenizing text data of target documents. Although the method has many advantages like language neutrality and perfect recall ratio, it has also shortage that the inverted index becomes large. The tokens extracted from documents tend to be enormous. The system needs to record each offset of tokens into inverted index because the offset is used for checking adjacency of tokens. The inverted index tends to be large because of the offset. In this paper, we describe N.M-gram method, which improves space efficiency of N-gram. The method uses hash values of succeeding tokens instead of offset in each document. The method can improve space efficiency without losing advantages of N-gram.

言及状況

はてなブックマーク (1 users, 1 posts)

[mixi] 平井さん企業 論文 mikio 平井さん

Twitter (2 users, 4 posts, 0 favorites)

こんな論文どうですか? N.M-gram : ハッシュ値付きN-gram法による転置インデックスの実現(言語処理,夏のデータベースワークショップDBWS 2006)(平林幹雄ほか),2006 http://id.CiNii.jp/UVhZL
こんな論文どうですか? N.M-gram : ハッシュ値付きN-gram法による転置インデックスの実現(言語処理,夏のデータベースワークショップDBWS 2006)(平林幹雄ほか),2006 http://id.CiNii.jp/UVhZL
こんな論文どうですか? N.M-gram : ハッシュ値付きN-gram法による転置インデックスの実現(言語処理,夏のデータベースワークショップDBWS 2006),2006 http://ci.nii.ac.jp/naid/110004849355
@negipo ミクシィだと平林氏が論文公開されてますね http://ci.nii.ac.jp/naid/110004849355/

Wikipedia (1 pages, 2 posts, 2 contributors)

編集者: Yaizawa
2020-08-24 09:03:46 の編集で削除されたか、リンク先が変更された可能性があります。

収集済み URL リスト