こんにちは、苔コッコーです。
今回は、ノーコストでAIを使用するサービスを開発する方法をまとめます。
きっかけ
自分でもAIを使用したサービスを作成してみたかったのですが、中学生でお金がないし調達する宛もないので、生成AIのAPI代やクラウドでGPUを動かす費用、はたまた自分のPCをサーバー化する際の電気代などを負担したくなかったからです。
Transformer.js
さっそく本題です。Transformer.jsとは、小規模なAIモデルをJavascriptだけで、ローカルで実行できるというものです。WebGPUやCPUを用いて実行されます。もちろんChatGPTやGemini、Claudeのような大規模なLLMは使用できないのですが、特定のタスクに絞ったモデルなら実行することができます。
これを使用して作ってみたのが以下の英文法チェッカーです。
これは
というモデルを使用しています。
正確なパラメーター数はわかりませんでした。
試しに間違えやすいミスを使ってテストしてみました。時制、冠詞のつけ忘れ、前置詞の誤用、三単現のsなどは正しく修正してくれたのですが、代名詞の格、最上級の誤用などは修正できませんでした。やはりパラメーター数が少ないモデルなので、簡易的な用途にしか使用できないようです。
それでも、ないよりは便利なので、コストをできるだけ減らしたい場合には検討してみてはいかがでしょうか。