きっかけ
Transformerのモデル構造についてもう一度学習しようと思って、Xでポストしたんです。O'reillyの「機械学習エンジニアのためのTransformers」の写真を付けてね。
この本の本家githubはこちら。
日本サイトはこちら
そしたら、それを見ていたマナビDXクエスト アルムナイを立ち上げた某氏から、
「アルムナイイベントでHuggingFaceについて話して～！（ビールを注ぎながら）」
と頼まれたのがきっかけ（ちょっと意訳有り）。
とは言え、使い始めたのは頼まれた日の約一月前の初心者。さて、どうなることやら。
マナビDXクエストについて
アジェンダ作成
お世話になっている方からのお話だったので準備開始。
というわけで、最初は半分イヤイヤ・・・と思いきや、結構アゲアゲでノリノリになってきましたよ。
私自身も初心者なので、モデルをダウンロードして使えるってところまでと決めて、アジェンダをGPT-4に作ってもらう。笑
- 自己紹介
- 勉強会の目的
- Hugging Faceを使おうと思ったわけ • Hugging Faceとは
- Hugging Faceサイトの構成と見方
- デモンストレーション
- デモンストレーションの前に
- Google Colabで使ってみる
- UseCaseを考えてみよう
- まとめ
ということで準備期間は３週間。
使える時間は昼休みと仕事終わりの1時間/日（毎日ではない）です。
準備開始してから発覚
- あれ？自分が思っている以上にわかってないじゃん
- 他のモデルも使えるやろ・・・えっ
- tokenizerの使い方・・・汗
そう、「機械学習エンジニアのためのTransformers」を読み進めながら写経しているだけではなんもわかってなかったんっすよ。イヤイヤ、そもそも本の読み方から反省ですね。
なので、デモンストレーション用のソースコード作り、想定質問への対応も想定しながらなので、全作業の約7割はここに当てました。
そして思った。
もう一周、勉強し直さないとイケねぇ・・・
欲張る
そう、準備すればするほど欲が出るもの。
その欲張る「幅」を「HuggingFaceを使うと特に嬉しいこと」とした。
- 最近のモデルを触ってもらう
- 特に今回感じていた
datasetsライブラリの素晴らしさを体験してもらう
最近のモデルで、比較的多くの人のパソコンで動いてくれるモデルをローカルで動かすと嬉しくないですか？
僕は嬉しい。
ということで、軽量モデルとして出たPhi-1を選択。
が、いざ出力するとイマイチだったので、Phi-1.5を最終的に選択
また、datasetsについては、この三つについて紹介することにした。
- ファイルの抜き取り
- map関数
- ストリーミング
いや、モリモリ過ぎだろ。w
家庭内リハーサルと本番
zoomだけど数十名の前で話すわけだからちゃんとリハーサルはしました。
HuggingFaceを全く知らない家族に協力してもらいました。
が、本番はというと「テンパってしまった」です。
人前に出るとアゲアゲになる（意味違う）癖が出ちゃいましたね。
早口になっちゃいましたし、あわあわとしてしまった。
しかし、同じようにHuggingFaceを活用したいという仲間も多く、隔週で「モクモク会」をやることになりました。これは嬉しい誤算。
8/4（日）にすでに第一回モクモク会が無事に開催され、様々な人と話し合いができたのが嬉しかったです。今は「機械学習エンジニアのためのTransformers」の２週目に入っていて、次回モクモク会に向けてオリジナルのデータセットを作ってみたり、日本語モデルを使ってみたりとチャレンジしてます。
マナビDXクエストアルムナイに参加されている方はどなたでも参加できますので声かけてくださいね。
GitHub
並行してGitHubの使い方も勉強中
これ、ほんと便利っすね。
ということで、当日の資料やらこちらに保存してますのでお好きに閲覧してってください。
次回ネタも含んじゃってますけどね。w
振り返り
お世話になっている方からのお願い/お誘いを受け入れたことで世界が広がりました。
いいっすね。こういうの。
マナビDXクエストで知り合って仲間になれた。その人のお誘い・お願いがきっかけで偉大な最初に一歩を踏み出すことができました。
おかげで、人前で話す練習というか、経験を踏まなきゃと思ったり、やりたいこと、言いたいことが増えてきました。
ちなみに、こんなイベントのお手伝いもすることになりました。（詳細はもうちょい待って！）
実は前回は単なる一参加者でしたが、すごい人たちが名古屋にもいるなぁと思って思い切って運営に飛び込んでみました。
すごい人たちなんで、僕なんかがやれることは受付くらいのもんですが、ここで将来登壇できるように頑張ろう。うん。
ほんと、きっかけをくれたK.Mさん、ありがとん！
ほんじゃまた。