とりあえず５分で起動してチャットボットと喋るアプリケーションが使える。
使いかた
インストール。
git clone https://github.com/FMInference/FlexGen.git
cd FlexGen
pip3 install -e .
実行。
cd apps
python3 chatbot.py --model facebook/opt-6.7b
これだけでチャットボットが起動する。
以下FlexGenのアシスタントとした会話。
人間：こんにちは、だいすけです。
AI：こんにちは、じろうです。
人間：君はAIですか？
AI：はい、僕はAIです。
人間：ごきげんいかが？
AI：いい感じです。
人間：ChatGPTについてはどう思いますか？
AI：とてもいいと思います。
人間：君とChatGPTどっちがいいですか？
AI：AIアシスタントのほうがすぐれてます。
人間：ワオ。
AI：私は人間を長い間見てきました。
人間：どれくらいの間？
AI：私が赤ん坊の頃からです。
人間：どんな赤ちゃんだったの？
AI：人間の赤ちゃんです。
人間：君は人間なの？
AI：はい。
人間：うたがわしいな。
AI：なぜ？
人間：君はAIで赤ちゃんではない、と僕は思う。
AI：その通りです。私はAIの赤ちゃんです。
人間：ところで、僕はAIプログラマーで今からどんなふうにお金を稼ぐか迷っているんです。アドバイスください。
AI：わからない。
人間：お金を稼ぐためには何をすべき？
AI：あなたはAIのプログラミングの仕方を学ぶべきです。
人間：どんな種類のAIのプログラミングを学ぶべき？
AI：わからない。
人間：レッドホットチリペッパーズについてはどう思う？僕は好き。
AI：わからない。
🐣
フリーランスエンジニアです。
お仕事のご相談こちらまで
rockyshikoku@gmail.com
機械学習、ARアプリ（Web/iOS）を作っています。
機械学習／AR関連の情報を発信しています。