0
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

ブラウザ内で動くAI 5機能を試した記事:本番に使えるのか

0
Posted at

海外の記事から

📰 海外事例

元記事:Your Browser Can Do WHAT?! 5 AI Features That Actually Work(dev.to)


ざっくり概要

フロントエンド開発者のSylwia Laskさんが、ブラウザの中だけで動くAIモデルを使って実用寄りのデモを5つ作り、「今のブラウザ内AIは本番のアプリに使えるのか」を確かめた記事です。結論は「重要な機能を任せるのはまだ早いが、あると便利な追加機能としてなら今すぐ使える」でした。


記事の要点

なぜ今ブラウザ内AIなのか

ブラウザの中でAIを動かすと、AIのサーバーを呼ぶ必要がありません。API料金がかからず、利用者のデータも端末の外に出ないので、プライバシーの面でも有利です。一度ダウンロードすればオフラインでも動きます。

著者は1年前にも試していて、そのときは「面白いおもちゃ」止まりでした。ところが、ブラウザでAIを動かすライブラリTransformers.jsの最新版と新しい小型モデルで試し直すと、結果が見違えるほど良くなっていたそうです。デモはGPUをブラウザから使える仕組み(WebGPU)で動き、使えない端末ではCPUで代わりに動きます。

5つのデモ

デモ 何ができるか モデルのダウンロード 著者の評価
背景の切り抜き 写真から物だけを切り抜いて透過PNGにする 約170MB よく動く。フリマや通販の出品画面に付けたい
代替テキストの生成 画像の説明文を自動で書く 約350〜450MB 下書きとして有望。人の確認は必須
問い合わせチケットの作成 雑に書いた不満を、項目のそろった問い合わせ票にする 約790MB 一番簡単だと思ったら一番苦労した
意味で探す検索 キーワードが一致しなくても、意味の近い過去の問い合わせを探す 約23〜90MB 最も実用的。速くて結果も役に立つ
カメラ映像への質問 カメラの映像を説明し、止めた画面について質問に答える 約350〜400MB 実験としては面白いが、まだ頼れない

問い合わせチケットで苦労したのは、内容の理解よりも、決まった形式で毎回きちんと出力させることでした。項目を作り話で埋めたり、形式が崩れたりするので、指示文の工夫と出力の検査を重ねてようやく動いたそうです。

いちばん手応えがあったのは検索です。文章を生成する大きなモデルは要らず、意味の近さを数値で比べるだけの小さな専用モデルで十分でした。「小さく専門的なモデルのほうが、汎用のLLMより向いている場面がある」というのが、著者にとって一番の学びです。

弱点

端末によって動かない
GPUを使えるかどうかは、ブラウザ・OS・GPUの組み合わせで変わります。著者のスマホ(Galaxy S24 FE)では、5つのうち2つが時間切れで動きませんでした。

最初のダウンロードが重い
小さいもので23MB、大きいものは800MB近くあります。2回目からはブラウザが保存してくれますが、スマホの回線で初めて開くと負担が大きく、保存もいつまで残るか保証はありません。

できなかったこともある
画像の文字を読み取る機能は、どのモデルでも実用に足りず入れませんでした。代替テキストに「この犬は里親募集中です」のような文脈を反映させることもできず、文脈は説明文の後ろに付け足すだけになっています。

音声認識は小さなモデルでも得意だと聞くものの、今回は試していません。

結論

ブラウザ内AIは確実に良くなっていて、本番のアプリで使い方を探る価値はある、というのが著者の判断です。ただし、AIのサーバーを全部置き換えるものではなく、代わりの手段なしに頼り切るものでもありません。利用者の体験を良くする「任意の追加機能」として使うのがちょうどいい、と締めくくっています。


編集者のひとこと

ブラウザの中にAIを組み込むという発想は、とても面白いと思います。それ自体がローカルLLMとして動くわけなので、今後こういう使い方も出てくるのかなと。

ただ、起動するたびに170MBとか700MBとかのデータを通信するのは、今のところ正直現実的じゃないかなと思います。ゆくゆくはブラウザにAIが組み込まれているのが当たり前になって、その組み込まれたAIをどう調整するかプラグイン的なデータだけをダウンロードする、みたいな方式になっていきそうな気がします。

これも結局は、軽量のローカルLLMを動かしていく方向の試行錯誤、技術の実験的な話だと思いますね。いかにしてクラウドを挟まず、機微情報などをその場で処理できるか。AI開発方向性、トレンドの一つですね

出典

0
1
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?