Text categorization using machine lerning

Hirotoshi Taira · Institutional Repositories DataBase (IRDB) · 2002

博士論文題目Text Categorization Using Machine IJearning (機械学習を用いたテキスト分類) 氏名 平博順 (論文内容の要旨) 近年、大量のテキストデ-タが利用可能になったことや、コンピュ-タの性能が 大幅に向上したことから、機械学習的アプロ-チ、すなわち人手によりカテゴリラ ベルを付与したテキストデ-タから自動的に分類器を作成する方法が、分類精度・ 省力性・保守性に優れているために主流となっている。本論文では、機械学習を用 いたテキスト分類に関して、次のような点について研究を行なった。すなわち、大 量の単語属性を用いて高精度の分類を行う方法、分類ラベル有り訓練デ-タが少な いときにラベルなしデ-タの分布を利用する方法、および、下位カテゴリの存在を 仮走し、能動的ラベル付けを用いて効率よく高精度の分類を実現する方法である。 機械学習を用いて高精度のテキスト分類を行うためには、 -般に沢山の単語属性 が必要であり、従来の学習手法では沢山の単語属性を入力として使用すると訓練デ-タに対して必要以上に適合して、未知のデ-タに対する分類精度は落ちるという過 学習が起きる問題があった。そこで様々な情報量で属性選択を行い、学習に使用す る属性の次元を数百程度まで減らして学習を行っていた。しかし、数百程度の属性 では、十分に高い分類精度を持つ分類器を学習することは困難であった。そこで、 過学習しにくいとされる新しい機械学習手法であるサポ-トベクタマシンを用いて テキスト分類をおこなった。さらに、サポ-トベクタマシンを用いる場合にも属性 選択は有効であるかどうかを評価した。 次に、トランスダクテイブ・ブ-ステイングを用いたテキスト分類について研究 を行った。訓練デ-タが十分に得られる場合には、サポ-トベクタマシンやブ-ス テイングなどのマ-ジン最大化分類は高い分類精度を持つ分類器を生成するために 有効な手法であるが、訓練デ-タの作成は人手で行うため、コストが高く、学習に 十分な訓練デ-タが得られないことも多い。そこで、分類ラベルが付与されていな い未知のデ-タの分布も考慮に入れて学習を行うトランスダクシヨンの手法をテキ スト分類の学習に取り入れた。サポ-トベクタマシンと同じマ-ジン最大化分類器 の-つであるブ-ステイング、特にアダブ-ストアルゴリズムにトランスダクショ ンを組み入れる方法を提案した。 さらに、拡張結合混合分布モデルを用いたテキスト分類についての研究を行った。 与えられたカテゴリの中に潜在的に下位カテゴリを仮走したときの分類について述 べる。さらに、訓練デ-タが少ないときに、未知デ-タに対して、分類に重要だと 思われる少数のデ-タを機械的に選択、提示し、少数のデ-タに人手でカテゴリ付 与を行うことで、効率よく高精度の分類器を得る「能動的ラベル付け」手法を提案 した。

Read the paper · More papers on PaperTik