（前書き）

前回、修行（訓練）に入ったところ。今回はその続き。さて、学習を続行してきた標記の文章分類学習モデル・・・。一週間経っても、計算が終わらない、どころか学習の進捗状況を表示しない・・・

１％も進んだように見えねぇなんて、精神と時の部屋もあったもんじゃねーべや。（ヤジロベー風）しかもよ、WindowsUpdateが入ってもうて、なんか再起動しろとかWindowsのメッセージが右下のほうからハチャメチャに押し寄せてくる・・・カリン塔で仙豆でもくうか・・・

いや、何かがおかしい。環境を再構築することにした。

（この部分は個人の備忘録）

前回はWSL2で jupyter notebook を実行して、WindowsのChromeからアクセスして使っていた。WSL2上でCudaが動かせてないのかもしれない。まず、WSL2を辞めてみる。　→　素のWindowsで cuda環境構築。ダウンロードに時間がかかる。
Anacondaインストールしてみた。conda install が気に入らない。Pip使いたい・・・　→　conda アンインストール。素の Python インストール
Python3.10 が気に入らない　→　Python3.9 を使う。
Torchをインストールするが、Simpletransformerがtorchがない、という。というか、エラーメッセージを読むと、python310/libs/site-pacckages に対してpipがインストールしてる。 → Python310をアンインストール、環境変数PATHからもpython310を削除。
torchをインストールするが、python39/libs/site-packages に対して書き込み権限がないとのこと　→　Windowsのフォルダ設定を見直す。
pyenvとかより、とにかく、このWindowsではpython3.9だけ動かしたかったのだ。ようやっと python3.9 を Windowsで動かせる環境になった。
WindowsのPythonバイナリ実行についての注意点（複数バージョンのインストールの注意、Pathの通し方）について勉強できた気がする。愚者は失敗から学び、賢者は歴史から学ぶ。こういう時は、Qiitaなどで先達の情報を参考に・・・

Windows環境で学習実行

pythonのコード部分は前回を参照してもらって、Windows環境のVS Codeで ipynb を開いて実行。データファイルのパスを修正する程度で動いた。今度は学習が進捗した。

4時間程度で終了。

さて、学習に使わなかった残りのデータでもって評価してみるか。

関連部分抜粋

# 学習前に実行しておいたデータの振り分け
# 学習データの件数を指定する
train_size = 1000
test_size = len(X) - train_size

 # データセットを学習データとテストデータに分割する
train_x = x[:train_size]
train_y = y[:train_size]
test_x = x[train_size:]
test_y = y[train_size:]

# 学習モデルの用意
from simpletransformers.classification import ClassificationModel, ClassificationArgs

# モデルのオプション設定
model_args = ClassificationArgs(num_train_epochs=100)

# 学習モデルの構築
model = ClassificationModel(
    'bert',
    'bert-base-cased',
    use_cuda=True,
    num_labels=max(train_y)+1,
    args=model_args
)

# 学習
model.train_model(train_df, args={'overwrite_output_dir' : True})

# 評価
result, model_outputs, wrong_predictions = model.eval_model(test_df, output_dir='outputs')

ふんが？mcc 0.71 ・・・だと？なにそれ？

・・・二値分類ではなく、今回は13カテゴリの分類だったんだが・・・とりあえず、精度を示していると解釈すると、この数字が大きい（１に近い）ほうがいいんだな。0.5で2値分類を五分五分で当てるってぐらいの数字だとすると、0.71って大したことはない、つまり使えないレベルってことだな。

eval_loss が 2.179... ってこたぁ・・・なんだ？

・・・分類ラベルが整数で区別されてて、損失が２以上あるってこたぁ・・・当たんねぇってことじゃね？せめて１を切ってもらわんと・・・

ずだぼろじゃないすか。このファインチューニングは失敗か。

間違いやすいところを見直そう

・・・とりあえず、失敗から学ぼうじゃないか。
なんだか、ひと昔前の学習塾みたいなことを言っているようだが、何がうまく分類できなかったか知ることで対策が見つかる（かもしれない）。 Simpletransformer の評価関数の出力には、 wrong_prediction があるのでその結果を見てみよう・・・。

print(wrong_predictions)

・・・おろろ？データにほぼ共通して現れるフレーズがあるぞ。どこに分類される文章にも表れているようだ。・・・そうか。このフレーズ、おおもとの文章データの特徴語となる固有名詞ではあるが、今回の分類作業のために集めたデータの中では特徴語が特徴にならない語になっているのだな。私の常識は世間の非常識、特徴ある画風の漫画家だが読んでみたらタッチもH2も区別がつかん。そんなところか？

次の修行の計画

作業対象データ全体に共通して現れる、この固有名詞のフレーズを除いてデータセットを作り直してみることにした。

import re

s_list = [];
# df['keywords_en']が説明変数となる特徴語のSeries
for df_s in df['keywords_en']:
    xw_list = ''
    # 特徴語Seriesは、特徴語のリストになっている
    for xw in df_s:
        # 特徴語のリストの中で＜共通フレーズ＞ を含んでいない場合
        if None == re.search('＜共通フレーズ＞',xw):
            # 特徴語として採用されるフレーズを'. 'で連結する
            xw_list += xw +'. '
    # 特徴語として採用されたフレーズ（連結済みString）をリストにする
    s_list.append(xw_list)

# 特徴語の連結されたStringリストを pandas Series にする
K = pd.Series(s_list)

あとは、同じデータフレームで説明変数の対応をこわさないように目的変数（ラベル）のSeriesをとりだし、組み合わせたデータフレームを用意して、また、Simpletransformer だ。

おっし、修行すっぞ（訓練の実施）

データセット側を整備して、また訓練だっす。

今度は、5時間半ぐらいかかるらしい。（画像は、2時間ほどたったところ）

（また、続く）

（今回のまとめ）学習環境を整え、学習を実行した。結果はmcc=0.71, eval_loss=2.179であった。wrong_predictionsデータを観察して、データセットの再整備を行ったうえでの学習を行うこととした。

今回の修行の結果は、次回の報告で。乞うご期待。