NVIDIA
youtube見ていたら、
NVIDIAが無料でLLM APIを公開してるらしい、みたいな話を見かけました。
正直、最初は
NVIDIA = GPU屋さん
のイメージだったんで、
「え、LLMやってるの？」
って感じでした。
しかも、
無料でAPI公開してるらしい。
かなり太っ腹ですよね。
今回は、
そのNVIDIAのAPIを使って、
半分遊びで、
簡単なチャットボットを作ってみました。
NVIDIAってLLM作ってたの？
作ってました。
Nemotronっていうモデルを出してるらしいです。
例えば、
nvidia/llama-3.3-nemotron-super-49b-v1.5
とかそうなんですが、名前見てわかる通り、
MetaのLlama系モデルをベースに、作ってるぽいですね。
しかも、
それだけじゃなくて、
- Llama
- DeepSeek
- Qwen
- Kimi
- GLM
- Mistral
みたいな、
他社系のモデルも今回の無料APIで使えるみたいです。
正直、
ここら辺は自分もまだ完全には把握しきれてません。
なんで無料なの？
ここは推測も入りますが、
多分、
NVIDIAって結局GPU屋さんなんですよね。
なので、
無料API公開
↓
みんな試作する
↓
AIサービス作る
↓
最終的にGPU必要になる
↓
NVIDIA勝つ
みたいな構造なんだと思ってます。
なので、
API利用料で直接儲けるというより、
AI開発者をNVIDIA側へ囲い込む
みたいな意図を感じました。
ですから、おそらくこの無料APIもあくまで、試作向けになってると思います。
でも遊びで使うには十分です。
APIキー取得
ここから取得できます。
ログインして、
電話番号登録すると、
APIキー発行できます。
クレジットカード登録とかは特にありませんでした。
なので、
かなり気軽に触れます。
ただ、
本当にどこまで無料なのかは、
まだちょっと分かってません。
多分、
レート制限とか、
無料クレジット制限みたいなのはあると思います。
作ったもの
今回は、
かなりシンプルです。
やってることとしては、
会話履歴を
NVIDIA APIへ送る
↓
返答を表示
だけです。
本当にシンプルなチャットです。
ただ、
モデル切替できるようにしていて、
- Nemotron
- Llama
- DeepSeek
- Qwen
- Kimi
- GLM
- Mistral
などを、
同じUIから切り替えられるようにしました。
難しい実装ではないので、
これは、claude codeで30分で完成です。
GitHubにも公開してるので、
APIキー入れれば、
すぐ動くと思います。
使ってみた感想
正直、
普通です。
もちろん、
チャットするだけなら、
普通に使えます。
ただ、
今回やったのが本当にシンプルなチャットだけなので、
「うおおおすげえ！！！」
みたいな感じでは、
まだないです。
ただ、
「無料でここまで触れる」
っていうのは、
かなり面白いと思いました。
ローカルLLMはまだ結構きつい
最近、
ローカルLLMかなり流行ってますよね。
でも、
自分みたいな、
メモリ16GB程度の普通PC勢からすると、
まだ結構厳しいです。
もちろん、
軽量モデルなら動きます。
ただ、
「快適か？」
って言われると、
まだかなり微妙です。
なので、
こういうクラウドAPI系が、
無料で触れるのはありがたいです。
日本語はそこまで強くない
日本語使えないわけではないです。
ただ、
やっぱりモデルによっては、
微妙に不安定です。
特に中国系モデルは、
たまに中国語返ってきたりします。
まあ、
そんなもんですよね。
早く日本発の強いLLM欲しいですね。
まとめ
最近のAI開発って、
とりあえず触る
↓
後から理解する
みたいな空気感あると思ってます。
なので、
今回もそんな感じで触ってみました。
別に難しくないので、
興味ある人は、
遊びで触ってみると面白いと思います。