AIでライブ配信のコメントをモデレーションするChrome拡張機能を作った
はじめに
私はゲーム配信などのライブ配信を見るのが好きです。ただ、チャット欄が荒れていることがあり、見ていて気持ちのよいものではないため、そういうときは配信を見るのをやめてしまうことがあります。
そこで、YouTubeのチャットコメントをAIに送り、スコアリングしたうえで、悪質なコメントを非表示にするChrome拡張機能を作ろうと思いました。
開発を再開したきっかけ
この拡張機能を作ろうと考えたのは、今から1年半ほど前です。当時はLLMを使ってコメントを判定する想定でしたが、応答時間やコストに加え、返ってくるスコアリングの形式が保証されないことがネックとなり、開発を途中で断念しました。
しかし、Jevが登場したことで、この3つの課題がすべて解消されたため、拡張機能の開発を再開しました。
拡張機能の仕組み
この拡張機能を使うには、JevとYouTube側のAPIキーをそれぞれ用意していただく必要があります。チャットをスコアリングし、悪質と判定されたコメントを表示しないようにできます。
スコアリングは7項目で行います。そのうち最も高いスコアを、そのコメントのスコアとして扱います。スコアが高いほど悪質であることを示し、設定した閾値を超えたコメントは表示されません。閾値は設定から変更できます。
実装を変更した経緯
当初はYouTube側のチャット欄で、悪質なコメントに display: none を指定して非表示にする実装でした。しかし、YouTubeにレビューを依頼したところ、YouTubeのUIに変更を加えたり、オーバーレイを重ねたりすることは規約違反にあたるとの回答を受けました。そのため、拡張機能側のチャット欄でコメントを非表示にする方式に変更しました。
当初の想定とは少し異なる実装になりましたが、これはこれでメリットがあると感じています。YouTube以外の配信サービスでも、同じ仕組みでコメントをスコアリングできる可能性があるからです。
たとえば、ゲーム配信をYouTubeとTwitchで同時配信している場合、それぞれのコメント欄を一つにまとめ、配信を見ながらコメントを確認しつつ、悪質なコメントを除外できるようになるかもしれません。TwitchのチャットをJevに送って判定させてもよいか、現在Twitch側に問い合わせています。この対応はIssueにも追加しています。
おわりに
現状、AIの使い方は大きく分けて「イメージから何かを創造する使い方」と「何かを判断させる使い方」の2種類があると思います。
前者にはメールやドラフトの生成などがあり、後者にはメールの内容から重要度を判定したり、タグを付けたりする使い方があります。プログラムにAIを組み込む場合は、後者のように判定をさせる使い方が多いのではないでしょうか。
そのため、Jevを使ったプログラムは今後増えていくと思います。今回使ってみて、LLMよりも扱いやすいと感じました。
※画像は英語表記ですが、UIは日本語に対応しています。
- Chrome Web Store：Agent Moderator
- ソースコード：GitHub