日本語の品詞を分解して判別することができるspaCy, MeCab, UDpipeですが触っているうちにそれぞれ分解した結果が違うなと感じることがあったのでいくつかの文例を分解してもらいながらそれぞれの能力の限界を探ってみたいと思います。
とりあえず結論
先にそれぞれ優れている点の結論をば。どれでも同じく動かせるのであれば、総合ではspaCy、細かい分析をするならMeCab、信頼性を犠牲にした手軽さを求めるならUDpipeが優れていると思います。
実行準備
Rでそれぞれのプログラムを実行する準備をしておきましょう。
- Mecabの準備
MeCabはRでRMeCabというパッケージがあるのですがこれを動かすためにはMeCabをインストールしなければなりません。MeCabのインストール、RでのMeCabの動かし方は公式のドキュメントをご覧ください 。ここではMeCabのインストール手順は省略します。
library(RMeCab)
- spaCy
spaCyはそもそもPythonのライブラリーです。Rにおいてはspacyrというパッケージがありますが、これはPythonがインストールされていないと動作しません。また、すでにPythonがインストールされていてもWindowsでR(もしくはRstudio)を**「管理者として実行」して起動**させないと動いてくれません。ご注意ください。
これらがクリアされている（Pythonインストール済、Windowsユーザーは「管理者から実行」で起動済み）前提で以下を実行すると日本語の形態素解析ができるようになります。
library(spacyr)
spacy_install() #初回のみ実行。spaCyがインストールされます。途中コンソールで入力を求められます。
spacy_download_langmodel("ja_core_news_md") #初回のみ実行。日本語モデルのインストール。
spacy_initialize(model = "ja_core_news_md")
- UDPipe
Rにはudpipeというパッケージがありますが、今回はcleanNLPというtidyパッケージからUDpipeを動かします。設定が極めて楽ですし、R以外に何かインストールする必要はありません。cleanNLPからspaCyも動かせることになっているみたいですが、「Python側でcleanNLPのライブラリーをインストールしろ」といわれてしまうので今回はspaCyはspacyr、UDPipeはcleanNLPから動かします。
library(cleanNLP)
cnlp_init_udpipe(model_name = "japanese")
いざ対決
それではいざいざ動かしていきましょう。今回解析してもらう文章は以下の6つです。
-
"学校へ行った。しかし今日は休校日だった。"
→通常の文章。 -
"元気がないですね、朝はご飯を食べないのですか。"
→1個目の"ない"と2個目の"ない"の品詞の区別はつきますか？ -
"もしもし、株式会社ゴリラデータサイエンスの田中と申します。"
→固有名詞(架空)の判別力テスト。 -
"Rei、ファースト・アルバム『REI』のInternational EditionがVerve Forecastレーベルより全世界配信決定"
→英語が入った記事タイトルでも大丈夫？(出典はこちら:SPICE, 2021年2月15日) -
"すもももももももものうち"
→もももも… -
"白熊のやうな犬を二疋つれて、だいぶ山奥の、木の葉のかさ／＼したとこを、こんなことを云ひながら、あるいてをりました。"
→宮沢賢治『注文の多い料理店』の旧仮名遣いverより、冒頭部分から抜粋。
実行のためのコマンドは以下の通りです。コマンドのtextの部分をこれらの文章置き換えて実行します。
#spaCy
spacy_parse(text, lemma = FALSE)
#MeCab
RMeCabC(text) %>% unlist()
#UDPipe
annotation <- cnlp_annotate(input = iconv(text, to = "UTF-8"))#Windowsは文字コード変換
##For Mac/Linux: annotation <- cnlp_annotate(text)
annotation$token
以下出力結果の形態素解析結果のみ書いていきます。
1. "学校へ行った。しかし今日は休校日だった。"
#spaCy
token pos
1 学校 NOUN
2 へ ADP
3 行っ VERB
4 た AUX
5 。 PUNCT
6 しかし CCONJ
7 今日 NOUN
8 は ADP
9 休校 NOUN
10 日 NOUN
11 だっ AUX
12 た AUX
13 。 PUNCT
#MeCab
名詞 助詞 動詞 助動詞 記号 接続詞
"学校" "へ" "行っ" "た" "。" "しかし"
名詞 助詞 名詞 名詞 助動詞 助動詞
"今日" "は" "休校" "日" "だっ" "た"
記号
"。"
#UDPipe
token token_with_ws lemma upos
<chr> <chr> <chr> <chr>
1 学校 学校 学校 NOUN
2 へ へ へ ADP
3 行っ 行っ 行う VERB
4 た た た AUX
5 。 。 。 PUNCT
6 しかし しかし しかし CCONJ
7 今日 今日 今日 NOUN
8 は は は ADP
9 休校日 休校日 休校日 NOUN
10 だっ だっ だ AUX
11 た た た AUX
12 。 。 。 PUNCT
UDPipeのみ"休校日"を分解していませんが大きな問題はないでしょう。品詞も間違いがないようです。
2. "元気がないですね、朝はご飯を食べないのですか。"
#spaCy
token pos
1 元気 NOUN
2 が ADP
3 ない ADJ
4 です AUX
5 ね PART
6 、 PUNCT
7 朝 NOUN
8 は ADP
9 ご飯 NOUN
10 を ADP
11 食べ VERB
12 ない AUX
13 の SCONJ
14 です AUX
15 か PART
16 。 PUNCT
#MeCab
名詞 助詞 形容詞 助動詞 助詞 記号 名詞 助詞
"元気" "が" "ない" "です" "ね" "、" "朝" "は"
名詞 助詞 動詞 助動詞 名詞 助動詞 助詞 記号
"ご飯" "を" "食べ" "ない" "の" "です" "か" "。"
#UDPipe
token token_with_ws lemma upos
<chr> <chr> <chr> <chr>
1 元気 元気 元気 NOUN
2 が が が ADP
3 ないです ないです ない ADJ
4 ね ね ね PART
5 、 、 、 PUNCT
6 朝 朝 朝 NOUN
7 は は は ADP
8 ご飯 ご飯 ご飯 NOUN
9 を を を ADP
10 食べ 食べ 食べる VERB
11 ない ない ない AUX
12 の の の SCONJ
13 です です だ AUX
14 か か か PART
15 。 。 。 PUNCT
お、2つの"ない"の品詞の違いがどれも区別されています。この点はどれも問題がないみたいです。
3. "もしもし、株式会社ゴリラデータサイエンスの田中と申します。"
#spaCy
token pos
1 もしもし INTJ
2 、 PUNCT
3 株式 NOUN
4 会社 NOUN
5 ゴリラ NOUN
6 データ NOUN
7 サイエンス NOUN
8 の ADP
9 田中 PROPN
10 と ADP
11 申し VERB
12 ます AUX
13 。 PUNCT
#MeCab
感動詞 記号
"もしもし" "、"
名詞 名詞
"株式会社" "ゴリラデータサイエンス"
助詞 名詞
"の" "田中"
助詞 動詞
"と" "申し"
助動詞 記号
"ます" "。"
#UDPipe
token token_with_ws lemma upos
<chr> <chr> <chr> <chr>
1 も も も ADP
2 しもし しもし しもす VERB
3 、 、 、 PUNCT
4 株式会社 株式会社 株式会社 NOUN
5 ゴリラデータサイエンス~ ゴリラデータサイエンス~ ゴリラデータサイエンス~ NOUN
6 の の の ADP
7 田中 田中 田中 PROPN
8 と と と ADP
9 申し 申し 申す VERB
10 ます ます ます AUX
11 。 。 。 PUNCT
ここらで大きな違いが。spaCyは固有名詞"ゴリラデータサイエンス"を一般名詞"ゴリラ","データ","サイエンス"に分割しています。その点MeCabは固有名詞はそのまま残してくれています。UDPipeも同様に…と思ったら**"もしもし"がぶっ壊されている**。これに形態素解析を任せておくのは不安ですね…
4. "Rei、ファースト・アルバム『REI』のInternational EditionがVerve Forecastレーベルより全世界配信決定"
#spaCy
token pos
1 Rei PROPN
2 、 PUNCT
3 ファースト NOUN
4 ・ SYM
5 アルバム NOUN
6 『 PUNCT
7 REI PROPN
8 』 PUNCT
9 の ADP
10 International NOUN
11 Edition NOUN
12 が ADP
13 Verve PROPN
14 Forecast NOUN
15 レーベル NOUN
16 より ADP
17 全 NOUN
18 世界 NOUN
19 配信 NOUN
20 決定 NOUN
#MeCab
名詞 記号 名詞
"Rei" "、" "ファースト"
記号 名詞 記号
"・" "アルバム" "『"
名詞 記号 助詞
"REI" "』" "の"
名詞 名詞 助詞
"International" "Edition" "が"
名詞 名詞 名詞
"Verve" "Forecast" "レーベル"
助詞 接頭詞 名詞
"より" "全" "世界"
名詞 名詞
"配信" "決定"
#UDPipe
token token_with_ws lemma upos
<chr> <chr> <chr> <chr>
1 Rei "Rei" Rei PROPN
2 、 "、" 、 PUNCT
3 ファースト "ファースト" ファースト PROPN
4 ・ "・" ・ SYM
5 アルバム "アルバム" アルバム NOUN
6 『 "『" 『 PUNCT
7 REI "REI" REI PROPN
8 』 "』" 』 PUNCT
9 の "の" の ADP
10 International "International " International PROPN
11 Edition "Edition" Edition PROPN
12 が "が" が ADP
13 Verve "Verve " Verve PROPN
14 Forecast "Forecast" Forecast PROPN
15 レーベル "レーベル" レーベル NOUN
16 より "より" より ADP
17 全世界配信決定 "全世界配信決定" 全世界配信決定 NOUN
文章に日本語以外が入っていても日本語部分は影響はなく解析ができるようですが、"International"などの形容詞であっても英語はすべて名詞と判断されます。
5. "すもももももももものうち"
#spaCy
token pos
1 すもも NOUN
2 も ADP
3 もも NOUN
4 も ADP
5 もも NOUN
6 の ADP
7 うち NOUN
#MeCab
名詞 助詞 名詞 助詞 名詞 助詞 名詞
"すもも" "も" "もも" "も" "もも" "の" "うち"
#UDPipe
token token_with_ws lemma upos
<chr> <chr> <chr> <chr>
1 すももももももも すももももももも すももももももも CCONJ
2 もの もの もの NOUN
3 うち うち うち NOUN
UDPipeが完全に混乱。
6. "白熊のやうな犬を二疋つれて、だいぶ山奥の、木の葉のかさ／＼したとこを、こんなことを云ひながら、あるいてをりました。"
#spaCy
token pos
1 白熊 NOUN
2 の ADP
3 やう NOUN
4 な AUX
5 犬 NOUN
6 を ADP
7 二 NUM
8 疋 NOUN
9 つれ VERB
10 て SCONJ
11 、 PUNCT
12 だいぶ ADV
13 山奥 NOUN
14 の ADP
15 、 PUNCT
16 木の葉 NOUN
17 の ADP
18 かさ NOUN
19 ／ SYM
20 ＼ SYM
21 し AUX
22 た AUX
23 とこ NOUN
24 を ADP
25 、 PUNCT
26 こんな PRON
27 こと NOUN
28 を ADP
29 云ひ VERB
30 ながら SCONJ
31 、 PUNCT
32 あるい VERB
33 て SCONJ
34 をり AUX
35 まし AUX
36 た AUX
37 。 PUNCT
#MeCab
名詞 助詞 名詞 助動詞 名詞 助詞 名詞 名詞 動詞
"白熊" "の" "やう" "な" "犬" "を" "二" "疋" "つれ"
助詞 記号 副詞 名詞 助詞 記号 名詞 助詞 名詞
"て" "、" "だいぶ" "山奥" "の" "、" "木の葉" "の" "かさ"
記号 記号 動詞 助動詞 名詞 助詞 記号 連体詞 名詞
"／" "＼" "し" "た" "とこ" "を" "、" "こんな" "こと"
助詞 名詞 動詞 助詞 記号 動詞 助詞 助詞 助動詞
"を" "云" "ひ" "ながら" "、" "あるい" "て" "を" "り"
助動詞 助動詞 記号
"まし" "た" "。"
#UDPipe
token token_with_ws lemma upos
<chr> <chr> <chr> <chr>
1 白熊 白熊 白熊 NOUN
2 の の の ADP
3 やう やう やう ADJ
4 な な だ AUX
5 犬 犬 犬 NOUN
6 を を を ADP
7 二 二 二 NUM
8 疋つれ 疋つれ 疋つれる VERB
9 て て て SCONJ
10 、 、 、 PUNCT
11 だいぶ だいぶ だいぶ ADV
12 山奥 山奥 山奥 NOUN
13 の の の ADP
14 、 、 、 PUNCT
15 木の 木の 木の DET
16 葉 葉 葉 NOUN
17 の の の ADP
18 かさ かさ かさ NOUN
19 ／ ／ ／ PUNCT
20 ＼ ＼ ＼ PUNCT
21 し し する VERB
22 た た た AUX
23 とこ とこ とこ NOUN
24 を を を ADP
25 、 、 、 PUNCT
26 こんな こんな こんな ADJ
27 こと こと こと NOUN
28 を を を ADP
29 云ひながら 云ひながら 云ひながる VERB
30 、 、 、 PUNCT
31 あるいて あるいて あるいて ADV
32 をり をり をる VERB
33 まし まし ます AUX
34 た た た AUX
35 。 。 。 PUNCT
ここで予想外にMeCabが旧仮名に弱いことが発覚。"云ひながら, あるいてをりました。"の分割を完全に間違っています。ここに関しては一番spaCyが信頼できそうです。
まとめと結論
3つの形態素解析ソフトを様々なタイプの文章の解析をしながら比較してきました。それぞれ長所と短所があり、目的に応じて使い分けていただければいいと思うのですが、まとめると以下のようになるでしょうか。
1. spaCy
どんな文章でも崩壊することなく信用が置けるうえ、旧仮名遣いにもうまく対応。また、今回紹介はできなかったが初期設定を変えるだけで日本語以外の文章も同じコマンドで動かせるのも便利。唯一固有名詞に弱そうなのが欠点か。
2. MeCab
こちらも信用できる解析をしてくれるが、旧仮名遣いにはうまく対応できていなかった。また、日本語以外の形態素解析向けに開発されていないため、同じコマンドを実行しても英語などを解析できない拡張性のなさが難点。今回紹介しなかったが品詞に加えて"自立語/非自立語"など細かい形態素解析も行ってくれるので、細かな形態素解析を必要とする場合はMeCabがよい。
3. UDPipe
簡単な文章は対応しており、R以外のものをインストールしなくてよい手軽さはとりあえず触ってみる人にはお勧めできるが、肝心の形態素解析自体が信頼性に大きく欠ける。
他にも形態素解析エンジンはあるので、今後試しましたらこれらと比較をしてみます。お読みいただきありがとうございました。