PandasやSeabornを使ってデータ分析に取り組む際、どのようなことをするべきか・どの値をチェックするべきなのかを私なりにセオリー化してみましたので紹介します。「Python2年生 データ分析のしくみ」を参考に統計量とペアプロットを活用したデータラングリングになります。
ペンギンデータ
データ分析の用例として、Palmer Station Antarctica LTERによって取集されたパーマーペンギンの分類と各種説明変数を集めたデータを用いてます。データのCSVファイルはここから入手できます。
データの仕様をチェック
データ分析を始める際まず真っ先にやるべきなのが、先頭5行のデータを見るのとデータの仕様をチェックすることです。具体的にはデータがどのような内容か直感的に理解するのと、データ型とコラム名・コラム数、インデックス名・インデックス数、等々を明確にする必要があります。
# 以下のライブラリを使用
import numpy as np
import pandas as pd
import datetime
# 可視化ライブラリ
import matplotlib.pyplot as plt
import seaborn as sns
sns.set()
%matplotlib inline
# 小数第3位までを表示
%precision 3
df = pd.read_csv("penguins.csv", encoding = "UTF-8")
print("先頭5行のデータを見る")
df.head()
先頭5行のデータを見る
rowid species island bill_length_mm bill_depth_mm flipper_length_mm body_mass_g sex year
0 1 Adelie Torgersen 39.1 18.7 181.0 3750.0 male 2007
1 2 Adelie Torgersen 39.5 17.4 186.0 3800.0 female 2007
2 3 Adelie Torgersen 40.3 18.0 195.0 3250.0 female 2007
3 4 Adelie Torgersen NaN NaN NaN NaN NaN 2007
4 5 Adelie Torgersen 36.7 19.3 193.0 3450.0 female 2007
#データの仕様をチェック
#列名・インデックス名をリストにする
list_columns = [i for i in df.columns]
list_index = [i for i in df.index]
print("データのコラム名・コラム数、インデックス名・インデックス数を確認する")
print("\nコラム名")
print(list_columns)
print("\nコラム数")
print(len(list_columns))
print("\nインデックス名")
print(list_index)
print("\nインデックス数")
print(len(list_index))
print("データのデータ型を検証")
print(df.dtypes)
データのコラム名・コラム数、インデックス名・インデックス数を確認する
コラム名
['rowid', 'species', 'island', 'bill_length_mm', 'bill_depth_mm', 'flipper_length_mm', 'body_mass_g', 'sex', 'year']
コラム数
9
インデックス名
[0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53, 54, 55, 56, 57, 58, 59, 60, 61, 62, 63, 64, 65, 66, 67, 68, 69, 70, 71, 72, 73, 74, 75, 76, 77, 78, 79, 80, 81, 82, 83, 84, 85, 86, 87, 88, 89, 90, 91, 92, 93, 94, 95, 96, 97, 98, 99, 100, 101, 102, 103, 104, 105, 106, 107, 108, 109, 110, 111, 112, 113, 114, 115, 116, 117, 118, 119, 120, 121, 122, 123, 124, 125, 126, 127, 128, 129, 130, 131, 132, 133, 134, 135, 136, 137, 138, 139, 140, 141, 142, 143, 144, 145, 146, 147, 148, 149, 150, 151, 152, 153, 154, 155, 156, 157, 158, 159, 160, 161, 162, 163, 164, 165, 166, 167, 168, 169, 170, 171, 172, 173, 174, 175, 176, 177, 178, 179, 180, 181, 182, 183, 184, 185, 186, 187, 188, 189, 190, 191, 192, 193, 194, 195, 196, 197, 198, 199, 200, 201, 202, 203, 204, 205, 206, 207, 208, 209, 210, 211, 212, 213, 214, 215, 216, 217, 218, 219, 220, 221, 222, 223, 224, 225, 226, 227, 228, 229, 230, 231, 232, 233, 234, 235, 236, 237, 238, 239, 240, 241, 242, 243, 244, 245, 246, 247, 248, 249, 250, 251, 252, 253, 254, 255, 256, 257, 258, 259, 260, 261, 262, 263, 264, 265, 266, 267, 268, 269, 270, 271, 272, 273, 274, 275, 276, 277, 278, 279, 280, 281, 282, 283, 284, 285, 286, 287, 288, 289, 290, 291, 292, 293, 294, 295, 296, 297, 298, 299, 300, 301, 302, 303, 304, 305, 306, 307, 308, 309, 310, 311, 312, 313, 314, 315, 316, 317, 318, 319, 320, 321, 322, 323, 324, 325, 326, 327, 328, 329, 330, 331, 332, 333, 334, 335, 336, 337, 338, 339, 340, 341, 342, 343]
インデックス数
344
データのデータ型を検証
rowid int64
species object
island object
bill_length_mm float64
bill_depth_mm float64
flipper_length_mm float64
body_mass_g float64
sex object
year
データの要約統計量・欠損値の度数を算出
次にデータの要約統計量・欠損値の度数を算出します。量的変数がメインとなるデータの場合全体的にどのような値を示しているか、欠損値の度数は分析に影響を及ぼさないか等々が確認できます。
# 要約統計量を活用したデータラングリング
print("\nデータの要約統計量を算出")
print(df.describe())
print("\nデータの欠損値の度数")
print(df.isnull().sum())
データの要約統計量を算出
rowid bill_length_mm bill_depth_mm flipper_length_mm \
count 344.000000 342.000000 342.000000 342.000000
mean 172.500000 43.921930 17.151170 200.915205
std 99.448479 5.459584 1.974793 14.061714
min 1.000000 32.100000 13.100000 172.000000
25% 86.750000 39.225000 15.600000 190.000000
50% 172.500000 44.450000 17.300000 197.000000
75% 258.250000 48.500000 18.700000 213.000000
max 344.000000 59.600000 21.500000 231.000000
body_mass_g year
count 342.000000 344.000000
mean 4201.754386 2008.029070
std 801.954536 0.818356
min 2700.000000 2007.000000
25% 3550.000000 2007.000000
50% 4050.000000 2008.000000
75% 4750.000000 2009.000000
max 6300.000000 2009.000000
データの欠損値の度数
rowid 0
species 0
island 0
bill_length_mm 2
bill_depth_mm 2
flipper_length_mm 2
body_mass_g 2
sex 11
year 0
dtype: int64
データ可視化（ペアプロット）を活用したデータラングリング
量的変数の関係をpairplot`メソッドをつかったペアプロットとすると非常に便利です。データの関係が視覚的に分かりやすくなるだけでなく、質的変数による確率種の違いがあるか等々を検討することができます。
また散布図に対応する回帰直線やカーネル密度分布・等高線を描くことでデータの予測に有効なモデルの検討に役立てられます。
#データの分布を可視化
#必要ないデータを排除したデータフレームを作成する
df_new = df[["bill_length_mm","bill_depth_mm","flipper_length_mm", "body_mass_g","species","sex"]]
#ペアプロットで2データの散布図・データ自体の度数分布を可視化する
sns.pairplot(df_new)
引数にkind="reg"を指定すると各2データ間の回帰直線とその95%信頼区間を描写できます。今回の場合、95%信頼区間に一致するデータはほぼ存在しないことが分かるので、少なくともパルマーペンギンのデータの予測に回帰直線のモデルは適していないことが分かります。
#ペアプロットで2データの散布図・データ自体の度数分布を可視化する
sns.pairplot(df_new, kind="reg")
引数にhue="species"を指定するとパルマーペンギンの散布図をカテゴリーごと色で分けられる他、カーネル密度分布を使った確率密度分布を視覚化できます。これはカテゴリーごとに確率種が異なっているかを検定するのに役立ちます。
#ペアプロットで2データの散布図・データ自体の度数分布を可視化する
sns.pairplot(df_new, hue="species")
kind="kde"と指定すると2次元データ上のデータが属している割合を10%ごとに等高線で表示することができます。2データの確率密度分布を2次元データ上に投影したものとなっています。
#ペアプロットで2データの散布図・データ自体の度数分布を可視化する
sns.pairplot(df_new, kind="kde")
#ペアプロットで2データの散布図・データ自体の度数分布を可視化する
sns.pairplot(df_new, hue="species", kind="kde")
