前々処理(序説):サクサク使うSQL(エクセルだけから卒業)

  • 3
    いいね
  • 0
    コメント

背景(前々処理の重要性)-> 次の記事(インストール)

データマイニングからはじまって、データに関するブームはなんどもおこっています。そして、いつの間にかブームはさっていきます。データマイニングの頃からデータに関わってきたものとしては、なんだか寂しい気がしていました。でも、今(2017年)は、少し状況が違っている気がします。エクセルで扱えない大きなCSVデータが簡単に入手可能になってきたのです。単純集計レベルでもサクサクと扱いたいことはしばしばあります。もちろんエクセルではあつかえません。エクセルだけの状態から卒業し、本格的に大きなデータを扱う時代になりました。実際に、データを扱い始めると、まず、データの前処理を行う必要がでててきます。データが実際にどんな構造をしているのか? 項目は? 総数は? を検証して、想定されるデータになっていない場合には、想定されるデータ(正しいデータ)にする必要があります。この処理を前処理といいます。この前処理は非常に手間がかかる作業です。ですが、実際にデータを扱ったことがない人には、重要性はほとんど理解されません。データを入手してから、分析するまでの工程の8割が前処理に費やされると言われています。実際に作業したことがない人には、前処理の大変さは、理解の範囲外です。ただ、本格的にデータを扱うようになると、前処理が大きな課題になります。そこで、従来、軽視されている前処理の重要性の理解を少しでもわかってもらおうと思ってこの記事を書き始めました。実際の内容は、前処理というより、前処理をするための前処理とでも言うべき非常に基本的な内容です。それで、前々処理を学ぶという主題を設定しました。

どうするのがいいか

  1. 大きなCSV(データエクセルで扱えないデータ)を扱う
  2. 何を使う?
  3. 具体的には?

大きなCSVデータを扱う

エクセルで扱うことができない大きなデータ(100Mくらいのcsvデータ)は今は、よくあります。政府の統計データ貿易統計でも、10年分くらいで簡単に、100メガ超えます。エクセルしかつかえないと単純集計すらできません。そこで、100メガくらいのデータを扱うソフトとしては、nysolがおすすめです。100MB超えたらnysolが良さそうという記事もあります。Macや、linux も使っていて、shell も少し使える人なら、nysol はおすすめです。メモリを食いませんから、5GくらいのCSVファイルも8G程度のメモリでもなんとか対応できます。でも、windows で使うのは結構面倒です.ここで、大切なことは、データはすでに存在しているということです。目の前にデータがあるのに、処理できない状態を解消したいと思う人は多々いるのではないでしょうか

何を使う? やっぱりSQL

多くの人がつかっている、windowsでは、どうするのがいいのでしょうか?

  • プログラミングも覚えるか?
    • GUI でやりたいなら、無料(実質)のでは、microsoft のPowerBI,talend,rapidminer などがあります。
    • どのアプリがいいのかは、まだ、混沌としていると思っています。細かいデータ処理が簡単にできるのもあれば、簡単なことでも、どうしたらいいのがわからないことがあります。
  • プログラミング(的なもの)も覚えるとすると何がいいか
    • sql (シーケルもしくは、エスキューエルと読みます)がおすすめだと思います。
    • プログラミングとは言いがたいですが、データベース問い合わせ言語のsql はおすすめです。こんな記事非エンジニア職こそSQLを学ぶべきがあります
    • sqlが使えるデータベースにいろいろな種類がありますが、無料で手軽なsqlite3 がおすすめです。
    • さらに、正規表現わかるとなおよし
    • 実際のデータは、ゴミがまざっていたりして、文字列の削除、置換が必要になります。そういったときに、柔軟な文字列処理ができる正規表現が使えると便利です。参考記事
    • 正規表現は、テキストエディターならなんでも通常つかえます。おすすめは、vistual studio code

具体的には?(sqlitebrowser,visual studio code)

sqlite3,visual studo code について軽く説明です。

  • sqlite3とは

  • visual studio code

    • 無料の高機能のテキストエディタです。すでに、正規表現使えるエディタに慣れている人には、おすすめはしません。
    • メモ帳よりは便利なテキストエディタがつかいたいと思っていて何にしようかと迷っている人におすすめです。
    • 似たソフトはいっぱいあります。 なぜ、おすすめかというと、マイクロソフト(寄らば大樹)がつくっているからと、機能があるわりには、軽快に動くように思えたからです。

次は、まず、インストール