データ分析用パーツ集

• 履歴
  • 2021/01/21 ver1

version.cmd

python --version
:: Python 3.7.6
jupyter --version
:: jupyter core     : 4.6.1
:: jupyter-notebook : 6.0.3
:: qtconsole        : 4.6.0
:: ipython          : 7.12.0
:: ipykernel        : 5.1.4
:: jupyter client   : 5.3.4
:: jupyter lab      : 1.2.6
:: nbconvert        : 5.6.1
:: ipywidgets       : 7.5.1
:: nbformat         : 5.0.4
:: traitlets        : 4.3.3

パッケージ

import.py

import pandas as pd #データ解析を支援する機能を提供するライブラリ
import numpy as np #数値計算の拡張モジュール 
import matplotlib #データビジュアライズに関するパッケージ
import matplotlib.pyplot as plt # 自動的にプロットするためのインターフェース、らしい
from datetime import datetime as dt #日付や時刻を操作するためのモジュール
from sklearn.preprocessing import StandardScaler #データ標準化用モジュール

matplotlib内で日本語を扱う

参照元： matplotlibで日本語

matplot_japanese.py

from matplotlib import rcParams
rcParams['font.family'] = 'sans-serif'
rcParams['font.sans-serif'] = ['Hiragino Maru Gothic Pro', 'Yu Gothic', 'Meirio', 'Takao', 'IPAexGothic', 'IPAPGothic', 'VL PGothic', 'Noto Sans CJK JP']

表示するグラフや画像のサイズ

figsize.py

plt.figure(figsize=(20,2))

データの入出力

SQLから読み込み

#SQL
import pymysql
import sqlalchemy
from sqlalchemy import create_engine

#接続情報
url = 'mysql+pymysql://root:XXXX@127.0.0.1:3306/databasename?charset=utf8'
engine = sqlalchemy.create_engine(url, echo=False)
#実行
query = "SELECT * FROM Table"
dataset = pd.read_sql(query,con = engine)

CSVの入出力

csv.py

dataset = pd.read_csv("pass of csv", encoding = "utf-8")
dataset.to_csv("pass of csv", encoding="shift-jis")

クリップボードに出力

clipboard.py

!pip install pyperclip
import pyperclip
pyperclip.copy(STR_XXX)

前処理的な

内容の確認

info.py

dataset.info()
dataset.describe() #max,min,mean,std,四分位数等 

整形

index.py

#データフレームにインデックスの設定
dataset2 = dataset.set_index('StoreCD')
#型変更
dataset['colum']=dataset['colum'].astype(int)

データフレームの分解と結合

• クロス集計されたデータを単純なROWデータに分解する

melt_concat.py

#データフレームの分解
meltDF1 = pd.melt(dataset,id_vars='index_column',var_name='horizon_axis_column_name',value_name='value_column_name')

#データフレームの結合
concatDF = pd.concat([meltDF1,meltDF2]) 

NULL値の処理

null.py

dataset.fillna(0,inplace=True) #0埋め
dataset.isnull() #データフレーム全体で確認
dataset.isnull().any() #列ごとに確認

ダミー変数

dummy.py

target_col = 'a'
str_colmns = ['b','c','d'] #数値でない列
dummie_cols = ['b'] #数値でない列の中でダミー化したい列
exclude_cols = [col for col in str_colmns if col not in dummie_cols] #
#ダミー変数化
df = pd.get_dummies(data=df, columns=dummie_cols)
#ダミー化した後の列から特徴量として利用する列を指定する
feature_cols = [col for col in df.columns if col not in exclude_cols]
　

可視化と探索

項目間の相関係数をとる

corr.py

corrDF = df[feature_cols].corr()

ヒートマップ

heatmap.py

import seaborn as sns
sns.heatmap(corrDF,annot=False) #annot=Trueで数値を表示する

重なる棒グラフ

distplot.py

import seaborn as sns
g=sns.FacetGrid(df,hue="target_column",height=3)
g.map(sns.distplot,"feature_column",kde=False)
g.add_legend()

seabornの色設定

• 連動した色設定にすることができる

color.py

flatui = ['#969696', '#DA5019']
sns.set_palette(flatui)

comment

• 過去のコードから探し出してコピペするのが面倒なので