できるかどうか分かりませんが、専門家の知識を持つChatBotを作っていきたいと思います。うつの治療のための臨床心理の知識を持ったChatBotを作りたいです。ゴールは「世界からうつをなくす」です。
知識も不十分なので、学びながらの実装・検証となる予定です。どこから手を付けてよいのか分からないので、とりあえずマイルストーンを考えてみました。もっと簡単な方法があったら誰か教えてください。
マイルストーンは以下の通り:
最新の対話モデルの論文を読んでみる
知識グラフを使って専門家知識を持つChatBotを作りたいので、まずは勉強。ここで力つきるのかも。
https://arxiv.org/pdf/2012.14827.pdf
Transformer等の言語モデルの実装
言語モデルの実装が分からないので、MOOCで学んでみる。DeepLearning.AIで無料のコースがあるので、これで勉強だ。DeepLearning.AIはeラーニングで有名なCourseraを立ち上げたAndrew Ng博士が作った会社だ。私は、このCouseraのMachine Learningコースを三回も繰り返して勉強した。本当にNg先生にはお世話になった。Ngは英語で[ɪŋ,イン]と読むそうだが、私はふざけてウングと読んでいます。広東語(あるいは福建語)の音節を為す鼻子音なので、むしろ日本語の[ン]に近いのではないかと思います。
-
Transformerなどの言語モデルの扱い方のコース
Open Source Models with Hugging Face
https://www.deeplearning.ai/short-courses/open-source-models-hugging-face/ -
知識グラフ(Knowledge Graph)の実装・使用法についてはこちらで学ぶこととする。
https://www.deeplearning.ai/short-courses/knowledge-graphs-rag/ -
RDFやSparQLも使ってみたいが、RDFは、Webとの連携があり、ちょっと大枠なので、知識グラフ間の橋渡しに使うべきなのかなと思ったりもする。
データベース、知識グラフの定義などしてみる
Webとの連携
これがよく分かんないんだよなあ。