Edited at

素人の言語処理100本ノック:24

More than 1 year has passed since last update.

言語処理100本ノック 2015の挑戦記録です。環境はUbuntu 16.04 LTS + Python 3.5.2 :: Anaconda 4.1.1 (64-bit)です。過去のノックの一覧はこちらからどうぞ。


第3章: 正規表現


Wikipediaの記事を以下のフォーマットで書き出したファイルjawiki-country.json.gzがある.

・1行に1記事の情報がJSON形式で格納される

・各行には記事名が"title"キーに,記事本文が"text"キーの辞書オブジェクトに格納され,そのオブジェクトがJSON形式で書き出される

・ファイル全体はgzipで圧縮される

以下の処理を行うプログラムを作成せよ.



24. ファイル参照の抽出


記事から参照されているメディアファイルをすべて抜き出せ.



出来上がったコード:


main.py

# coding: utf-8

import gzip
import json
import re
fname = 'jawiki-country.json.gz'

def extract_UK():
'''イギリスに関する記事本文を取得

戻り値:
イギリスの記事本文
'''

with gzip.open(fname, 'rt') as data_file:
for line in data_file:
data_json = json.loads(line)
if data_json['title'] == 'イギリス':
return data_json['text']

raise ValueError('イギリスの記事が見つからない')

# 正規表現のコンパイル
pattern = re.compile(r'''
(?:File|ファイル) # 非キャプチャ、'File'か'ファイル'
:
(.+?) # キャプチャ対象、任意の文字1文字以上、非貪欲
\|
'''
, re.VERBOSE)

# 抽出
result = pattern.findall(extract_UK())

# 結果表示
for line in result:
print(line)



実行結果:


端末

Royal Coat of Arms of the United Kingdom.svg

Battle of Waterloo 1815.PNG
The British Empire.png
Uk topo en.jpg
BenNevis2005.jpg
Elizabeth II greets NASA GSFC employees, May 8, 2007 edit.jpg
Palace of Westminster, London - Feb 2007.jpg
David Cameron and Barack Obama at the G20 Summit in Toronto.jpg
Soldiers Trooping the Colour, 16th June 2007.jpg
Scotland Parliament Holyrood.jpg
London.bankofengland.arp.jpg
City of London skyline from London City Hall - Oct 2008.jpg
Oil platform in the North SeaPros.jpg
Eurostar at St Pancras Jan 2008.jpg
Heathrow T5.jpg
Anglospeak.svg
CHANDOS3.jpg
The Fabs.JPG
PalaceOfWestminsterAtNight.jpg
Westminster Abbey - West Door.jpg
Edinburgh Cockburn St dsc06789.jpg
Canterbury Cathedral - Portal Nave Cross-spire.jpeg
Kew Gardens Palm House, London - July 2009.jpg
2005-06-27 - United Kingdom - England - London - Greenwich.jpg
Stonehenge2007 07 30.jpg
Yard2.jpg
Durham Kathedrale Nahaufnahme.jpg
Roman Baths in Bath Spa, England - July 2006.jpg
Fountains Abbey view02 2005-08-27.jpg
Blenheim Palace IMG 3673.JPG
Liverpool Pier Head by night.jpg
Hadrian's Wall view near Greenhead.jpg
London Tower (1).JPG
Wembley Stadium, illuminated.jpg


ファイル参照とは?

問題26で参考情報として紹介されているマークアップ早見表の「ファイル」を指しているようなので、これに従いコーディングしました。なお、File:も同様のようなので、こちらも抽出しています。それにしても、なぜファイル:をやめてFile:に統一しないのか不思議...

なお、前問のCategory:とは異なり必ず|が続くようなので、そこまでをキャプチャ対象としています。また、行単位の検索は冗長のような気がしてきたので、やめてすっきりさせました。

 

25本目のノックは以上です。誤りなどありましたら、ご指摘いただけますと幸いです。


実行結果には、100本ノックで用いるコーパス・データで配布されているデータの一部が含まれます。この第3章で用いているデータのライセンスはクリエイティブ・コモンズ 表示-継承 3.0 非移植日本語訳)です。