「ゼロから作るDeep Learning 2自然言語処理編」読書会に参加する前に読んで置くとよい資料とプログラム


目的(pupose)

「ゼロから作るDeep Learning」読書会に必要な資料を整理する。


成果(outcome)

「ゼロから作るDeep Learning」読書会参加者が、必要な予備知識、演習のための基礎技術が身につく。


前書き(preface)

今日(2018年04月13日)がReview最終日

「ゼロから作るDeep Learning 2自然言語処理編」を読む前に読んで置くとよい資料とプログラム

「『ゼロから作るDeep Learning ❷』公開レビューのお知らせ」

終了しました。

「公開レビューのお知らせ」の引用

「ゼロから作るDeep Learning」著者の続編『ゼロから作るDeep Learning ❷ 自然言語処理編』の公開レビューが始まっている。「レビュー期間は2月28日(水)から4月13日(金)までの1ヶ月半です。」

(主催者の記述の引用です。)


https://www.oreilly.co.jp/editors/archives/2018/02/ann-public-review-machine-learning-from-scratch.html


「ゼロから作るDeep Learning 2自然言語処理編」読書会

場所は名古屋市工業研究所(地下鉄名港線六番町徒歩1分:敷地に入ってから電子技術総合センター5階コンピュータ研修室までは2分)です。2018年7月19日から毎月第3木曜で始まります。

書籍の出荷が7月21に変更になりました。読書会の開催は2018年8月23日午後1時から午後5時までになりました。

第1章を担当できる方は、お申し付けください。

午前は、昨年の復習を兼ねた画像処理による自動運転への応用の演習、午後が自然言語処理編の輪講です。どちらかだけの参加も可能です。午前参加希望、午後参加希望、終日参加希望のいずれかを@kaizen_nagoyaまでRT,又はDMください。

「ゼロから作るDeep Learning」参考文献一覧

https://qiita.com/kaizen_nagoya/items/82975f7b63b6ea2f33ff

なぜdockerで機械学習するか 書籍・ソース一覧作成中 (目標100)

https://qiita.com/kaizen_nagoya/items/ddd12477544bf5ba85e2

「ゼロから作るDeepLearning2 自然言語処理編」読書会用資料を ゼロから作る。現在参考文献確認中。

https://qiita.com/kaizen_nagoya/items/33fb2c66175a25e39559

「ゼロから作るDeepLearning2 自然言語処理編」参考文献の参考文献(作業中)

https://qiita.com/kaizen_nagoya/items/45ef08bd8da6d30d1d3e


最近の記事から

【AI】機械学習の勉強に役に立つサイト

https://qiita.com/wb_seo/items/ce461e181fe127a05a6e

Deep Learningの学習の様子を可視化する、fastprogressがすごく良さげ

https://qiita.com/AnchorBlues/items/fd9b9bd00042337ed0e2


自動運転応用

午前の自動運転への応用は、次のような演習を予定しています。

主に、松浦光洋さんから教えていただいた内容にもとづいています。

名古屋電子工作の会(松浦光洋)

http://ma2.la.coocan.jp/files/ndkk/

DonkeyCar 用 ラズパイ3 boot SD の作り方

https://qiita.com/mituhiromatuura/items/d0268d8ec3577cf3e7d7

DonkeyCar の製作(TAMIYA TT-02)

https://qiita.com/mituhiromatuura/items/c7da046d9b912d8249fc

DonkeyCar の製作(TAMIYA GF-01)

https://qiita.com/mituhiromatuura/items/6b84b4d89abf328b96a7

DonkeyCar の製作(SunFounder Smart Video Car kit)

https://qiita.com/mituhiromatuura/items/9698b09d654ea8245cef

DonkeyCar の製作(Pololu Zumo)

https://qiita.com/mituhiromatuura/items/bd978b07c2b947c9d1fa

DonkeyCar セットアップ

https://qiita.com/mituhiromatuura/items/86a4dde22f469119f9d3

DonkeyCar動画RaspberryPi3 DeepLearning Controlled Model Car(松浦光洋)

https://youtu.be/3BaV8bIyFiY

DonkeyCar動画 RaspberryPi3 DeepLearning Controled Pololu Zumo(松浦光洋)

https://www.youtube.com/watch?v=YkRAuzBT3Yg


「ゼロから作るDeep Learning 2自然言語処理編」読書会に参加する前に読んで置くとよい資料とプログラム

前提条件(主催者の記述ではありません。1読者の記述です。)

公開レビューに参加するに当たって前提条件として知っているとよいこと、意見の根拠文書・URLとして利用するとよい資料を一覧します。

言語処理100本ノック2015

http://www.cl.ecei.tohoku.ac.jp/nlp100/

を、読書会の期間内に最後まで実施することを参加条件とさせてください。開始前に全部やっている必要はありません。毎回のLTで、1章くらいづつ報告をしていただくことを計画しています。

言語処理100本ノック 2015(python) 落ち穂拾い 第1章: 準備運動 00, 01, 02, 03, 04, 05

https://qiita.com/kaizen_nagoya/items/ee1b625b0b65cd63d42a

下記のは読書会への参加例に変更します。

視点としては、次の6種類の立場を想定しています。

技術調査担当者

Pythonプログラマ

データ解析担当者(data scientist)

機械学習技術者

深層学習研究者

量子計算機研究者


『ゼロから作るDeep Learning』斉藤康穀 著 オライリージャパン, 2016

https://www.oreilly.co.jp/books/9784873117584/

68747470733a2f2f71696974612d696d6167652d73746f72652e73332e616d617a6f6e6177732e636f6d2f302f35313432332f38303639613938632d616564332d363066342d346430392d6262376430626331623161392e6a706567.jpeg

Pythonで機械学習の原理から深層学習の応用までを、プログラム見本を示して説明している。とてもわかりやすい。

見本算譜(sample program)はWebに上がっている。

https://github.com/oreilly-japan/deep-learning-from-scratch

deep-learning-from-scratch/ch01/


man.py

# coding: utf-8 

class Man:
"""サンプルクラス"""

def __init__(self, name):
self.name = name
print("Initilized!")

def hello(self):
print("Hello " + self.name + "!")
def goodbye(self):
print("Good-bye " + self.name + "!")

m = Man("David")
m.hello()
m.goodbye()



文字コード

文字コードはutf-8。

異なる文字コードを基本としているシステムのエディタで編集する場合はコード変換が必要かも。

$ nkf -s man.py > mans.py

参考資料:pythonのcodingを調べ試して

https://qiita.com/kaizen_nagoya/items/55e92e0636cbcd0c80be


ゼロから作るDeepLearning読書会 @ 名古屋市工業研究所

名古屋市工業研究所では斉藤直希が企画して2017年3月より半年間「ゼロから作るDeepLearning読書会」を開催しました。(月1回:原則第三木曜日)

毎回最後にLT(Lightning Talk:軽談)を行なった。下記2つはLTの資料をslideshareに公開したもの。

start a learning of Deep Learning with Python

https://www.slideshare.net/kaizenjapan/start-a-learning-of-deep-learning-with-python

From Scratch, let's start Deep Learning with Python (plus Text Processing, privately.)

https://www.slideshare.net/kaizenjapan/deep-learning-with-python-plus-text-processing/kaizenjapan/deep-learning-with-python-plus-text-processing

個人的には文書処理を深めたいと書いている。続編(2)が文書処理で小躍りしてる。


中間報告をSWEST2017で行った。

https://swest.toppers.jp/SWEST19/program/

Deep learning reading club @ nimiri for SWEST

https://www.slideshare.net/kaizenjapan/deep-learning-reading-club-nimbi

Deep Learning reading club at SWEST 2017 interactive session

https://www.slideshare.net/kaizenjapan/swest-20170714

SWESTまとめ

https://qiita.com/kaizen_nagoya/items/62e56ae151554d6200c0

SWEST20開催案内

https://swest.toppers.jp


関連資料

機械学習(machine learning)と自動会話系(chat bot system)入門前夜

https://qiita.com/kaizen_nagoya/items/808f681f139e2b16bc8d

「pythonによる機械学習入門」入門

https://qiita.com/kaizen_nagoya/items/65d51bf78f52383e71ff


dockerでpythonを使う方法紹介。

言語処理100本ノック 2015(python) 動作確認docker環境構築

https://qiita.com/kaizen_nagoya/items/abaf3fd0198f9f557243

dockerで機械学習 with anaconda(1)「ゼロから作るDeep Learning - Pythonで学ぶディープラーニングの理論と実装」斎藤 康毅 著

https://qiita.com/kaizen_nagoya/items/a7e94ef6dca128d035ab

dockerで機械学習with anaconda(2)「ゼロから作るDeep Learning2自然言語処理編」斎藤 康毅 著

https://qiita.com/kaizen_nagoya/items/3b80dfc76933cea522c6


前回の読書会では macOSでpyenvを使った

tensorflowを使ってみる① pythonの環境構築とtensorflowの導入

https://qiita.com/yossyyossy/items/bc6f077400b80593b2f1#_reference-c0885c43016257e9d9a4

pyenvを使ってMacintoshでpython2, python3を切り分けて使おう

https://qiita.com/kaizen_nagoya/items/cf93981852cc6e0b7cc2


読書会ではPythonはAnacondaを推奨して使った。

Windows(MS)にPython(Anaconda)を導入する(5つの罠)

https://qiita.com/kaizen_nagoya/items/7bfd7ecdc4e8edcbd679

「pythonによる機械学習入門」にWindowsにAnacondaの導入の記述がある。Anacondaの導入記事で省略が多く、罠にはまっていた人がいた。

「pythonによる機械学習入門」入門

https://qiita.com/kaizen_nagoya/items/65d51bf78f52383e71ff


JupyterNotebook(python)の紹介があった。

下記は読書会での紹介ではありません。Qiita上にあったJupyter Notebookによる資料です。

ゼロから学ぶディープラーニング - AWS上のJupyterを使ったハンズオン

https://qiita.com/yoshihiroojp/items/23436992de5b1ab2b92d

JupyterNotebookでの報告も歓迎された。JupyterNotebookのPDF出力はLaTeXを利用している。

MacintoshにLaTeXを導入する7つの利点と導入方法

https://qiita.com/kaizen_nagoya/items/75be26d34a7432d5700b


Python関連のシステム設定・事故解決

python: Error in sitecustomize; set PYTHONVERBOSE for traceback: KeyError: 'PYTHONPATH'

https://qiita.com/kaizen_nagoya/items/50e6c79810a154eb5c5a


GPU

GPU搭載端末利用顛末(1日目・2日目)'SSLError(SSLError(1, '[SSL: CERTIFICATE_VERIFY_FAIL ED] certificate verify failed (ssl.c:777)'),)'

https://qiita.com/kaizen
nagoya/items/149cae9df7adbf2df1cc

CPUとGPUの速度比較

https://qiita.com/guitar_char/items/1ff037bd1455a64d6d05

KerasでGPUメモリの使用量を抑える方法

https://qiita.com/tags/gpu

オフラインPC(Windows10)にchainer環境構築(with GPU)

https://qiita.com/kappanda/items/a6c8f5a2847e8cd2eb67

Tensorflowを動かすためのGPU環境の構築概要

https://qiita.com/shizuma/items/0fdb644e7a9964d2b8d4

初心者がGPU搭載Windows10にPython+Anaconda+TensorFlow+Kerasの環境を構築してみた[2018/4/28]

https://qiita.com/Joe_Takasuna/items/e5444c31fbd16f30725a

GPUでChainerを動かすならDeep Learning Base AMI(Ubuntu)を使用するのが楽。

https://qiita.com/y428_b/items/e38b456972dd7bf8e2aa


第二金曜日午前9時から、確率論・統計論輪講を開催している

確率論及統計論(伏見康司)の数式をTeX(LaTeX)入力するための13の技法

https://qiita.com/kaizen_nagoya/items/9c692c4d3546ffbb70b4


R関連の資料も整理

参加いただいた方には日頃Rで資料整理をされている方もお見えになっった。Rの資料を整理し、Raspberry PIを使用して確認などを行なっている。

R(データマイニング入門) Windows 6段階。データ取得・導入・起動・スクリプト読み込み・一括実行・逐次実行。3つの罠。

https://qiita.com/kaizen_nagoya/items/52a288b002a54cd613d3

R(データマイニング入門) Raspbian(Raspberry PI),Mac OSX, docker/ubuntu 6段階。データ取得・導入・起動・実行・描画・一括実行。

https://qiita.com/kaizen_nagoya/items/e8417310129c2425af59

データマイニング入門 第9章「潜在意味解析」が本のように動かない件。壁六つ。コードの壁も。

https://qiita.com/kaizen_nagoya/items/44567fb589c040aad40d


終了後は「名古屋のIoTは名古屋のOSで」というRaspberry Piの連続セミナで、Python、R、TOPPPERSリアルタイムカーネルを題材にしている。

名古屋のIoTは名古屋のOSで(TOPPERS まとめ)

https://qiita.com/kaizen_nagoya/items/9026c049cb0309b9d451

名古屋のIoTは名古屋のOSで Raspberry PI & TOPPERS

https://qiita.com/kaizen_nagoya/items/4c46153324a8081fe18c

Raspberry PIのSDカードをRaspbian, TOPPERS/FMP, TOPPERS/SSP起動用に利用する

https://qiita.com/kaizen_nagoya/items/814cccdaa59dc09196e3

Dockerをどっかーらどうやって使えばいいんでしょう。TOPPERS/FMP on RaspberryPi with Macintosh編 5つの関門

https://qiita.com/kaizen_nagoya/items/9c46c6da8ceb64d2d7af

Dockerどっかー使い方おかしかったんでしょうか。TOPPERS/SSP on RaspberryPi with Macintosh編:9つの関門

https://qiita.com/kaizen_nagoya/items/cbf40186ae4da48ec4c7

TOPPERS/FMPカーネルソース勉強会(0) docker, build_fmp.sh

https://qiita.com/kaizen_nagoya/items/91e27b2881c4b3ef87cf

TOPPERS/FMPカーネルソース勉強会(1) start.S

https://qiita.com/kaizen_nagoya/items/9a0bd8a725de62682602

TOPPERS/SSPカーネルソース勉強会(0) docker, build_ssp.sh, build_ssp_ruby.sh

https://qiita.com/kaizen_nagoya/items/20e382d58c6dd0e40534

TOPPERS/SSPカーネルソース勉強会(1) start.S

https://qiita.com/kaizen_nagoya/items/fa0d482bfaacf37dbe62

TOPPERS/SSPカーネルソース四段活用。落とし方、読み方、コンパイルの仕方、アプリの作り方 7つの壁

https://qiita.com/kaizen_nagoya/items/cdce810943ba063efc47


推奨資料

読書会を欠席された方には、Yahoo名古屋で開催されていた「機械学習 名古屋 分科会」の資料を予習・復習として読む(観る)ことを推奨させていただいた。


機械学習 名古屋 分科会 #1 ゼロから作る Deep Learning 読書会+ハンズオン @ Yahoo! Japan名古屋

facebookに掲載している動画のURLを掲載。予習・復習に最適。

機械学習 名古屋 分科会 #1 ゼロから作る Deep Learning 読書会+ハンズオン その1

https://machine-learning.connpass.com/event/54539/

機械学習 名古屋 分科会 #1 ゼロから作る Deep Learning 読書会+ハンズオン その2

https://machine-learning.connpass.com/event/55649/

機械学習 名古屋 分科会 #1 ゼロから作る Deep Learning 読書会+ハンズオン その3

https://machine-learning.connpass.com/event/57609/

機械学習 名古屋 分科会 #1 ゼロから作る Deep Learning 読書会+ハンズオン その4

https://machine-learning.connpass.com/event/59899/

機械学習 名古屋 分科会 #1 ゼロから作る Deep Learning 読書会+ハンズオン その5

https://machine-learning.connpass.com/event/62582/

機械学習 名古屋 分科会 #1 ゼロから作る Deep Learning 読書会+ハンズオン その6

https://machine-learning.connpass.com/event/64721/

機械学習 名古屋 分科会 #1 ゼロから作る Deep Learning 読書会+ハンズオン その7

https://machine-learning.connpass.com/event/67109/

機械学習 名古屋 分科会 #1 ゼロから作る Deep Learning 読書会+ハンズオン その8

https://machine-learning.connpass.com/event/69329/

機械学習 名古屋 分科会 #1 ゼロから作る Deep Learning 読書会+ハンズオン その9

https://machine-learning.connpass.com/event/72434/

機械学習 名古屋 分科会 #1 ゼロから作る Deep Learning 読書会+ハンズオン その10

https://machine-learning.connpass.com/event/74669/


ゼロから作る Deep Learning 勉強メモ@rkosaka

ゼロから作る Deep Learning 勉強メモ #1

https://qiita.com/rkosaka/items/35e61d5c9ceab78860bf

ゼロから作る Deep Learning 勉強メモ #2

https://qiita.com/rkosaka/items/f6c7898d047d1aa67c98

ゼロから作る Deep Learning 勉強メモ #3

https://qiita.com/rkosaka/items/c96975cd50dc6aa1886b#_reference-638ada3558d0d8f23788

ゼロから作る Deep Learning 勉強メモ #4

https://qiita.com/rkosaka/items/b2039efeae4067addb89#_reference-01c8c1d641ff58626fff

ゼロから作る Deep Learning 勉強メモ #5

https://qiita.com/rkosaka/items/60105faf86be1fa1d750#_reference-29d750342df8c844a939

ゼロから作る Deep Learning 勉強メモ #6

https://qiita.com/rkosaka/items/319e2c6af48cc2c85d33#_reference-5e8f1df2aaa871484b28

ゼロから作る Deep Learning 勉強メモ #7

https://qiita.com/rkosaka/items/87df0977d62714dfecba#_reference-d77d4a84c637011db449


ゼロから作るDeep Learning 1 @ Qiita

ゼロから作るDeep Learningのメモまとめ

https://qiita.com/y_ujitoko/items/4f9d3d388a55839f42e9

ゼロから作るDeep Learning Java編 第1章 はじめに

https://qiita.com/saka1029/items/8c8b4bd17669e3da614a#_reference-7103c66519b8b0d6d720

ゼロから作るDeep Learning Java編 第2章 パーセプトロン

https://qiita.com/saka1029/items/bce542064073a2e6b404#_reference-c462bd142e80f35f1526

ゼロから作るDeep Learning Java編 第3章 ニューラルネットワーク

https://qiita.com/saka1029/items/dcc40a9868d709fc6510#_reference-2d2b40dfa065b24df921

ゼロから作るDeep Learning Java編 第4章 ニューラルネットワークの学習

https://qiita.com/saka1029/items/39b13dac9f5fccd5b551#_reference-cea6d77298b4f1bc4772

ゼロから作るDeep Learning Java編 第5章 誤差逆伝播法

https://qiita.com/saka1029/items/00aed8cdb557781d643a


基礎 @ Qiita

高校数学で理解・実装するニューラルネットワーク

https://qiita.com/perrying/items/6b782a21e0b105ea875c

10分でわかる深層学習のニューラルネットワーク

https://qiita.com/begaborn/items/3fb064215d7f6e6cce96

ニューラルネットワーク、多様体、トポロジー

https://qiita.com/KojiOhki/items/af2241027b00f892d2bd

深層学習を読んでいったときのメモ (1. 順伝播型ネットワーク)

https://qiita.com/ma-oshita/items/99b2cf313494adbb964d

Deep learning(深層学習)チュートリアルなど集

https://qiita.com/tttamaki/items/40d3bdfedad14982317c

「ニューラルネットワークと深層学習」の翻訳ページリンク

https://qiita.com/togoturns/items/117cfdfdb149ce62141c

深層学習いろいろ

https://qiita.com/Ted-HM/items/298116d03cbb9b3477e6

誤差逆伝播法のノート

https://qiita.com/Ugo-Nama/items/04814a13c9ea84978a4c


機械学習・深層学習@icoxfog417

はじめるDeep learning

https://qiita.com/icoxfog417/items/65e800c3a2094457c3a0

機械学習における、定型的な作業を自動化する

https://qiita.com/icoxfog417/items/506fa7dd9da4166e8ea8

Pythonで機械学習を行うための対話環境を構築する

https://qiita.com/icoxfog417/items/240e2b876d7e64fe3b58

Pythonで機械学習アプリケーションの開発環境を構築する

https://qiita.com/icoxfog417/items/950b8af9100b64c0d8f9

Tech-Circle 機械学習を利用したアプリケーション開発をはじめよう(自習編)

https://qiita.com/icoxfog417/items/bf0d4dcaebf2e9490d5d

Chainerで始めるニューラルネットワーク

https://qiita.com/icoxfog417/items/96ecaff323434c8d677b

ニューラルネットワークで時系列データの予測を行う

https://qiita.com/icoxfog417/items/2791ee878deee0d0fd9c

ディープラーニングの判断根拠を理解する手法

https://qiita.com/icoxfog417/items/8689f943fd1225e24358

ゼロからDeepまで学ぶ強化学習

https://qiita.com/icoxfog417/items/242439ecd1a477ece312

Convolutional Neural Networkを実装する

https://qiita.com/icoxfog417/items/5aa1b3f87bb294f84bac

はじめてのパターン認識 第3章 ベイズの識別規則 解説

https://qiita.com/icoxfog417/items/c3c8fed9902ad6200069

はじめてのパターン認識 第7章 パーセプトロン型学習規則

https://qiita.com/icoxfog417/items/e574a9d61f9f680d578b

きみはTensorFlowでフレンズをとらえて揃えてたのしー!アプリなんだね!

https://qiita.com/icoxfog417/items/b1cf7ee404675071935f

機械学習モデルの実装における、テストについて

https://qiita.com/icoxfog417/items/67764a6756c4548b5fb8


深層学習(deep learning) @Qiita

ディープラーニングの有名ライブラリ5種を最短距離で試す半日コース(TensorFlow, Chainer, Caffe, DeepDream, 画風変換)

https://qiita.com/shu223/items/a4fc17eb3356a6068553

例の機械学習コースが良いらしいと知りながらも2年間スルーし続けたがやはり良かったという話

https://qiita.com/shu223/items/9e3a50e092c2997fe6d2

機械学習はじめの一歩に役立つ記事のまとめ

https://qiita.com/shu223/items/9cbde46c0690f1952750

深層学習 第2章 順伝播型ネットワーク

https://qiita.com/t_niimura/items/3890f92849ce55bdfade

深層学習 第3章 確率的勾配降下法

https://qiita.com/y_ujitoko/items/dce196506fbc43069ab5

深層学習 第4章 誤差逆伝播法

https://qiita.com/t_niimura/items/b46a2b02db3e9c26160e

深層学習 第5章 自己符号化器

https://qiita.com/y_ujitoko/items/a271bbfa5d11d8c720de

深層学習 第6章 畳込みニューラルネット

https://qiita.com/t_niimura/items/423468de4dc1e0fca8f4

深層学習 第7章 再帰型ニューラルネット

https://qiita.com/y_ujitoko/items/a04e3564297530522ffb

ディープラーニングを実装から学ぶ(1)はじめに

https://qiita.com/Nezura/items/97c90bdbf615d57e48a4

ディープラーニングを実装から学ぶ(2)ニューラルネットワーク

https://qiita.com/Nezura/items/0a9a04476be084738a82

ディープラーニングを実装から学ぶ(3)学習(勾配降下法)

https://qiita.com/Nezura/items/8635d6764e166aa9f87d

ディープラーニングを実装から学ぶ(4)学習(誤差逆伝播法)

https://qiita.com/Nezura/items/bdbf0ec3ec3962d6037b

ディープラーニングを実装から学ぶ(4-2)学習(誤差逆伝播法2)

https://qiita.com/Nezura/items/4802f8abcd1733300561

ディープラーニングを実装から学ぶ(5)学習(パラメータ調整)

https://qiita.com/Nezura/items/e729705be1a167902a44

ディープラーニングを実装から学ぶ(5-2)学習(パラメータ調整2)

https://qiita.com/Nezura/items/ccb751dc334a63cd8175

ディープラーニングを実装から学ぶ(6-1)学習手法(正則化)

https://qiita.com/Nezura/items/f7416ad17d79ccd1eab6

ディープラーニングを実装から学ぶ(6-2)学習手法(最適化)

https://qiita.com/Nezura/items/0b5457e080aa8070fa16


言語処理

自然言語処理による文書分類の基礎の基礎、トピックモデルを学ぶ

https://qiita.com/icoxfog417/items/7c944cb29dd7cdf5e2b1

自然言語処理における、Attentionの耐えられない短さ

https://qiita.com/icoxfog417/items/f170666d81f773e4b1a7

大自然言語時代のための、文章要約

https://qiita.com/icoxfog417/items/d06651db10e27220c819

形態素解析をして単語を取り出せているつもり・・・か?

https://qiita.com/icoxfog417/items/e83383263badec7a4805

自然言語処理における前処理の種類とその威力

https://qiita.com/Hironsan/items/2466fe0f344115aff177

講義まとめ:自然言語処理のための深層学習(CS224d)

https://qiita.com/yoh_okuno/items/06155fe4666204caf944

pythonでwebScrapingしてみた。

https://qiita.com/dotKomu/items/5099bd6a791a323d99d1

「 立花理香のブログのタイトルの「ボカロ曲感」率を算出する」の裏側

https://qiita.com/albno273/items/69d65f1bd677a7450b6c

機械学習 画像認識のGoogle Cloud Vision 対 Microsoft Computer Visionやってみた

https://qiita.com/tomohiku/items/2969db0c13582c5bc4b3


Word2vec

word2vec

https://qiita.com/teresa/items/b5dc3b0a25aea49f78a1

word2vecの環境構築

https://qiita.com/opankopan/items/45a4e9538c12e2c9d5d7

Python3 で word2vecしてみる

https://qiita.com/MariMurotani/items/d5adc56a090e2f0e09dd#_reference-e94ec9d4c5d5702c5f32

word2vecであそんでみる

https://qiita.com/yuichi_bl/items/cb885a022b8e2233d097

【Python】Word2Vecの使い方

https://qiita.com/kenta1984/items/93b64768494f971edf86

word2vecのC#実装

https://qiita.com/mash0510/items/9284f29f4e6f7a1d2716

kerasでword2vecを構築

https://qiita.com/hiroto0227/items/2e4670cfa68ab06a3b5c


Word2vec応用

semantic volumeの考え方で文章要約をpythonで実装してみた

https://qiita.com/m__k/items/fc6f28b3b7ca7fdea162

ジョブマッチングの為のword2vec

https://qiita.com/watanabe0621/items/584e8502590b50df75f6


形態素解析器 MeCab

MeCab: Yet Another Part-of-Speech and Morphological Analyzer

http://taku910.github.io/mecab/

MecabをPythonで使う

https://qiita.com/nekkoneko/items/98f8e1810c886ebb0734

Python3からMeCabを使う

https://qiita.com/taroc/items/b9afd914432da08dafc8

mecabで分かち書きコマンド

https://qiita.com/fujitora/items/4c361a20ccc598fa0d6c


MeCab辞書

Mecabに人名辞書を追加

https://qiita.com/awakia/items/9a0dec41d91c997c74b4

MeCabでオリジナル辞書を作成する

https://qiita.com/nnahito/items/16c8e214d71fbc23ed8e

MeCabユーザ辞書作成時の陥りがち?なミス(エラー: cannot find LEFT-ID)

https://qiita.com/tekunikaruza/items/2cb5eff7066b7715510e

MaCabのユーザー辞書にmecab-ipadic-NEologdを手動で追加する

https://qiita.com/K-1/items/5cb3601341f6fa4fdd95


Centos/Redhatへの導入(MeCab)

centos7.2でpython + mecabの環境構築方法

https://qiita.com/sp6/items/c4897878b6c3de5cb86c

Mecabのシステム辞書・ユーザ辞書の利用方法について

https://qiita.com/hiro0217/items/cfcf801023c0b5e8b1c6

mecabの辞書を自動コストで作成

https://qiita.com/wakisuke/items/d15b5defc1aad61cc910


Macintoshへの導入(MeCab)

新し目の辞書を使ってMeCabをPythonから利用する

https://qiita.com/yuichy/items/5c8178e5cc3711386b77

Mecab関連のメモ

https://qiita.com/kamemoge/items/fbcc5e27e597f8972169

MeCabをMacにインストールする手順

https://qiita.com/nkjm/items/913584c00af199794257

$ brew install mecab

$ brew install mecab-ipadic

辞書を作る(macintosh)

https://qiita.com/nkmrtkhd/items/883199864f7da4312673

mecabユーザ辞書を追加(macintosh)

https://qiita.com/takaheraw@github/items/286cdb27887bd00e2245


形態素解析器 Janome(python)

pythonの形態素解析 janomeを導入した

https://qiita.com/kaizen_nagoya/items/0ffc2e4b130ef1c2cb31


自動生成

短歌の自動生成プログラムとデータの収集

https://qiita.com/kaizen_nagoya/items/d3198402d8b8b4ac8cd2


学習データ

学習データは、ネットで公開されている文章と、著作権切れの書籍の電子化データがある。

Free ebooks - Project Gutenberg

http://www.gutenberg.org/

日本語は青空文庫

http://www.aozora.gr.jp

Gutenbergで英語の本で日本語訳があるものが、青空文庫に掲載がまだ十分でない。翻訳の半分でも電子化が進むと英日データとして有用。

FacebookのfastTextでFastに単語の分散表現を獲得する

https://qiita.com/icoxfog417/items/42a95b279c0b7ad26589


日本語情報処理


CJKV日中韓越情報処理

Ken Lunde,オライリージャパン,2002

51WYTER3E3L._SL500_.jpg

https://www.amazon.co.jp/dp/4873111080/

前著:

日本語情報処理 (A nutshell handbook), Ken Lunde, ソフトバンククリエイティブ, 1995

https://www.amazon.co.jp/dp/4890527087


日本語語彙大系

https://www.amazon.co.jp/dp/4001301016/

41EehOIzgiL._SX372_BO1,204,203,200_.jpg

日本語語彙大系著者らが主催してきた

「言語・認識・表現」(Lace: Language, Cognition and Expression)年次研究会一覧

https://researchmap.jp/jov1bp0k3-45644


今昔文字鏡 16万漢字字形(Font)

mojikyo45_640-2.gif

http://www.mojikyo.co.jp/software/mojikyo45/

今昔文字鏡メンバが企画した「今昔秀歌百撰」全項目索引(一覧)

https://researchmap.jp/joakum54g-1787586/#_1787586


マルチリンガル環境の実現

X Window/Wnn/Mule/WWWブラウザでの多国語環境, 錦見 美貴子, 戸村 哲, プレンティスホール出版,1996

https://www.amazon.co.jp/dp/4887350201

Mule:MULtiscript Enhancement,多用字系拡張


機械翻訳


Google 翻訳

http://translate.google.com


PAT-Transer V12, クロスランゲージ

81xES4C82vL._SL1500_.jpg

https://www.amazon.co.jp/dp/B015X2X18M/

上記ソフトで採用されている処理に関する文献

英語複文の構文解析と編集、その論理と方法, 加藤 輝政, 小川清, 佐良木 昌 , 情報処理学会研究報告自然言語処理1997-NL-120, 65-70, 1997-07-24

一般社団法人情報処理学会

https://ci.nii.ac.jp/naid/110002934567/


先端部門に配属されたら

「君は今日から人工知能開発部門のリーダーだ!」と言われた時の処方箋

https://qiita.com/icoxfog417/items/d0319d2208ab4adf956b


応用領域(application)


量子計算機

量子コンピュータプログラムへの道

https://qiita.com/kaizen_nagoya/items/37c90488c87bbe9f2d71

T-QARDの日々 量子コンピュータへのお勧めの入口

https://qiita.com/kaizen_nagoya/items/fb869e5f38ae354e6294

「量子アニーリングの基礎」への記事一覧<作成中>

https://qiita.com/kaizen_nagoya/items/2f9b56d7dea41e3f18dd


機械語

Qiitaで組立語(assembler)・機械語(machine language)・CPU<アセンブラへの道>

https://qiita.com/kaizen_nagoya/items/46f2333c2647b0e692b2


音楽

プログラムは音楽だ (A program is a music.)

https://qiita.com/kaizen_nagoya/items/33c9f33581e6886f8ad8


参考文献の参考文献

機械学習を体系的に学ぶために何をやればいいか?がわかる記事まとめ

https://qiita.com/okmttdhr/items/8272e33812c9c2694375

ここで書ききれなかった深層学習項目分類(入門、道具、応用、今後、参考文献関連)

https://researchmap.jp/joqwju86n-2078500/#_2078500


文書履歴

ver.1.0 20180306 初稿

ver.1.1 20180307 名古屋市工業研究所の「ゼロから作る Deep Learning読書会」の記事を追記

ver.1.2 20180308 Yahoo! Japan名古屋で開催の「機械学習 名古屋 分科会 #1 ゼロから作る Deep Learning 読書会+ハンズオン」 の記事を追記

ver.1.3 20180310 日本語情報処理、word2vecを追記

ver.1.3.1 20180310 画像の大きさを調整

https://qiita.com/kaizen_nagoya/items/cef6ae1fcbdbec9e7be2

ver.1.4 20180311 Mecabの節を作り、資料の一部順番入れ替え

ver.1.4.1 20180312 日本語情報処理に補足事項 追記

ver.1.4.2 20180316 anacondaの記述を詳細化

ver.1.4.3 20180318 janome導入。記事追記。

ver.1.4.4 20180322 google翻訳、swest20 追記。

ver.1.5 20180329「終了後は「名古屋のIoTは名古屋のOSで」というRaspberry Piの連続セミナで、Python、TOPPPERSリアルタイムカーネルを題材にしている。」「R関連の資料も整理」追記

ver. 1.51 20180330 機械学習・深層学習@icoxfog417  追記

ver. 1.52 20180331 「先端部門に配属されたら」「量子計算機」 節追記

ver. 1.60 20180401「pyenv」, 「ゼロから作る Deep Learning 勉強メモ@rkosaka」節新設, 節順番入替

ver. 1.61 20180402 「AWS上のJupyterを使ったハンズオン」追記

ver. 1.62 20180408 項目追記

ver. 1.63 20180410 SSLError, KeyError: 'PYTHONPATH 対策項目追記

ver. 1.65 20180413 今日が最終日 追記

ver. 2.0 20180414 標題変更

「ゼロから作るDeep Learning 2自然言語処理編」を読む前に読んで置くとよい資料とプログラム

から

「ゼロから作るDeep Learning 2自然言語処理編」読書会に参加する前に読んで置くとよい資料とプログラム

に変更

ver. 2.01 20180417 誤植訂正 「全開」ー>「前回」

ver. 2.02 20180618 書籍の出荷が7月21に変更になりました。読書会の開催は8月からにさせてください。

ver. 2.03 20180704 GPU追記中

ver. 2.10 20180716 Docker Car項目追加

ver. 2.11 20180720 「読書会の開催は2018年8月23日午後1時から午後5時までになりました。当日、第1章を担当できる方は、お申し付けください。」

ver. 2.12 20180723 項目追記

ver. 2.13 20180724 目的と成果追記

ver. 2.14 20180801 項目追記

ver. 2.15 20180815 参考文献一覧URL追記

ver. 2.16 20190113 最近の記事から追記

ver. 2.17 20190214 参考資料 dockerで機械学習 追記

ver. 2.18 20190622 補足

  • 「ゼロから作るDeep Learning 2自然言語処理編」読書会に参加する前に読んで置くとよい資料とプログラム
  • ゼロから作るDeepLearning読書会 @ 名古屋市工業研究所
  • 機械学習 名古屋 分科会 #1 ゼロから作る Deep Learning 読書会+ハンズオン @ Yahoo! Japan名古屋
  • 基礎 @ Qiita
  • 言語処理
  • 先端部門に配属されたら
  • 応用領域(application)
  • 参考文献の参考文献
  • 文書履歴