#はじめに
以前書いた「pythonで特定のサイトURLから画像を一括ダウンロード」では、例えば
<img src="../sample.png">
っとなっていた場合ERRORになり画像をダウンロードできなかったのを今回修正しました。
ただし、今回のプログラムは基本的にurl上のroot?(http://ドメイン名/
の階層)上で分かれている場合を考えています。
(かなり説明下手で自分で書いていて何を言っているのか分からなくなってます(^^;)↑)
追加したコード
今回のコードで追加したのは、get_url_root
という関数です。
引数 :ユーザーが入力するurl
返り値:ドメイン名までのurl。返り値が0ならばERRORの意味。
def get_url_root(url):
if("http://" in url):
url_delet_http = url.lstrip("http://")
if("/" in url_delet_http):
url_root = "http://" + url_delet_http[0:url_delet_http.find("/")]
return url_root
elif("https://" in url):
url_delet_https = url.lstrip("https://")
if("/" in url_delet_http):
url_root = "http://" + url_delet_http[0:url_delet_http.find("/")]
return url_root
return 0
#編集したコード
最後に画像を実際にダウンロードする部分。
urlに"../"
が含まれていれば上記の関数を使ってドメイン名までのurlを取得し、
例えば../sample.png
の..
の部分をhttp://sample.com/sample.png
にする。
for j in range(0,(len_url-1)):
url = number_url[j]
if("../" in url):
root_url = get_url_root(serch_url)
if(root_url!=0):
url = url.replace("..",root_url)
print url
download(url)
else:
download(url)
コード
getimage.py
# -*- coding: utf-8 -*-
import urllib
import urllib2
import os.path
import sys
from HTMLParser import HTMLParser
def download(url):
img = urllib.urlopen(url)
localfile = open(os.path.basename(url),'wb')
localfile.write(img.read())
img.close()
localfile.close()
def get_url_root(url):
if("http://" in url):
url_delet_http = url.lstrip("http://")
if("/" in url_delet_http):
url_root = "http://" + url_delet_http[0:url_delet_http.find("/")]
return url_root
elif("https://" in url):
url_delet_https = url.lstrip("https://")
if("/" in url_delet_http):
url_root = "http://" + url_delet_http[0:url_delet_http.find("/")]
return url_root
return 0
class imgParser(HTMLParser):
def __init__(self):
HTMLParser.__init__(self)
def handle_starttag(self,tagname,attribute):
if tagname.lower() == "img":
for i in attribute:
if i[0].lower() == "src":
img_url=i[1]
# 取得した写真のURLを集めたファイルの作成
f = open("collection_url.txt","a")
f.write("%s\t"%img_url)
f.close()
if __name__ == "__main__":
print('写真を取得したいサイトのURLを入力してください。')
input_url = raw_input('>>> ')
serch_url = input_url
htmldata = urllib2.urlopen(serch_url)
print('現在画像ファイルを取得中です...')
parser = imgParser()
parser.feed(htmldata.read())
parser.close()
htmldata.close()
# 生成したファイルの読み込み
f = open("collection_url.txt","r")
for row in f:
row_url = row.split('\t')
len_url = len(row_url)
f.close()
number_url = []
for i in range(0,(len_url-1)):
number_url.append(row_url[i])
for j in range(0,(len_url-1)):
url = number_url[j]
if("../" in url):
root_url = get_url_root(serch_url)
if(root_url!=0):
url = url.replace("..",root_url)
print url
download(url)
else:
download(url)
print('画像のダウンロードが終了しました。')
# ファイルの削除
os.remove("collection_url.txt")