自分が見返す用で作りました
素人です。
本をみながらやってみてるので、後々知識が増えたら改変するかも？
公開された大規模言語モデル
- Llama
- Llama2
- OpenCALM
- Japanese StableLM Alpha
とかあるらしい...
気になる単語
ファインチューニング
訓練済みのモデルを自分の用途に合わせて調整すること...らしい
動くことができる車を自分のこだわりの部分だけパーツをアップグレードするイメージなのかな...（エンジンだけお高いやつにしたりとか）
般化と特化みたいな関係なのかな？
RAG
LLMによるテキスト生成に外部情報の検索機能を付けること
私たちがやってるインターネット検索みたいなことを自動でしてくれるイメージ
自分の中ではRAGのイメージは以下の通り
RAGなし・・・生成AIは与えられた資料から返事をする
RAGあり・・・生成AIは与えられた資料を参照し、ない場合は検索してくれる
RAGがあるほうがちょっと便利？
なぜ自分で生成AIを作るのか（素人のちょ～勝手なイメージ）
自分の場合は単純な興味だったが、一般的には以下のケースが考えられるのでは？
会社ネコA
「生成AI使ってみたいけど、web通じてだと機密情報を入れられないし、ちょっと怖いな...」
会社ネコB
「自分たちが欲しい分野の情報だけ正確で深い内容を返してくれるとより便利よねぇ」
社畜犬C
「ならローカルで作ればいいんじゃない？」
⇩
いざつくろう
限界社会人D
「LLMは公開されてますからそれ使えばおもちゃ程度のチャットボットは作れますね...」
「あとはファインチューニングして、我々の利用したい形にカスタマイズして...」
「必要であれば外部情報を検索してくれるRAGを入れちゃえばあらかた使えるものになるのでは？」
※ここら辺の会話は脳死で書いた適当なイメージです。
※あとさっき覚えた単語使ってみたかった
次→https://qiita.com/siruba_fall/private/20521f255ace17b692b7