はじめまして
みなさん、こんにちは。
いきなりですが、みなさんはSNSや配信アプリの利用（視聴/配信）経験はありますか？
私はInstagramやTikTokをよく利用しており、日々きれいな女性に癒されて1日を終えます。そのような平和的な利用者がいる一方で、世の中にはSNS、配信アプリを利用して悪い事を行うユーザーさまがいることも事実です。
総務省のデータによれば日本におけるSNS利用者数は、2022年時点で約1億200万人、世界だと2023年時点で47億人以上の方がSNSを利用しているそうです。
※令和5年通信利用動向調査
※Digital 2023: Revisions to social media user figures
このたび自社サービスの安心安全な環境提供/健全性維持に関わることになったのですが、どのようなリスクがあり、どのように守るのかまったく知識がなくちんぷんかんぷんでした。
そこで今回の記事はこれからライブ配信、SNSのリスク防止を考える人に対して自分の経験をもとに、SNS、配信アプリのサービスを提供する企業としてユーザーさまに安心安全な環境を届けるために何をやるべきか触れたいと思います。
市場において最もリスクが高い被害
現在のライブ配信市場で顕著なリスクには、以下のようなものがあります：
-
未成年者を狙った違法行為：未成年がプラットフォーム上で不適切な行為に巻き込まれるリスク。例として、13歳未満のユーザーさまの不正利用や未成年への接触が挙げられます
※利用可能年齢の考え方は企業によって異なる＝必ずしも13歳ではない - 誹謗中傷 / ヘイトスピーチ：配信者や視聴者に対する暴言、嫌がらせ、差別的な発言。これにより、精神的な負担が増大します
- 違法コンテンツ：暴力的、性的、または著作権を侵害するコンテンツの配信。違法コンテンツによるトラブル多発はプラットフォームの信用を大きく損ねる可能性があります
業界としてもっとも重要視される一つが未成年被害防止です。
各社利用可能年齢を設けているのにも関わらず年齢をごまかして利用して、事件に巻き込まれる。サービス提供側もユーザーさま側も自身の安全を守るための行動が重要なのです。
海外は国または地域によって法令やリスクが異なるので、現地のトレンド、文化の情報を取得することも未然にリスクを防ぐ効果的な手段です。
このようなリスクを未然に防止する取り組みを、業界内では総じて「Trust＆Safety」と呼称することが多いです。
Trust＆Safetyとは
Trust＆Safety（以下T&S）は、デジタルプラットフォームにおいてユーザーさまの安心・安全を守るための取り組みやポリシーを指します。T&Sの目標は、有害なコンテンツ、ハラスメント、詐欺行為などのリスクからユーザーさまを保護し、健全なオンラインコミュニティを育むことです。特に、ライブ配信アプリでは、リアルタイムでのユーザーさま同士のやり取りが行われるため、T&Sの重要性がさらに増しています。
T&Sとはサービス提供企業が〇〇なことを守りますよ！だから安全ですよ！という世の中に対しての宣言なのです。
弊社では以下のページでユーザーさまに提供しています。
ライブ配信アプリにおけるTrust＆Safetyの取り組み
- 機械的アプローチ：多くのプラットフォームで、システムやAI技術を活用した事前検知が重要視されています
- 明確なポリシー：ユーザーさまが遵守すべきルールをコミュニティガイドラインとして明示し、違反行為に対する罰則を透明にしています。あわせてサービス提供側からの啓発活動。
- 人間と技術の融合：AIによる効率的な違反検知と、最終判断を行う人間のモデレーションを組み合わせています。24時間365日体制。
機械的に違反を取り除くシステムと複雑な判断を行うための人の目の、2つの組み合わせによる24時間365日体制で見守りを行っています。また、ユーザーさまにも自ら危険を回避してもらうためのガイドライン遵守とサービス提供側からの啓発活動。
企業とユーザーさまが協力してはじめて治安維持につながるのです。
AIの技術が進歩し事前検知の精度は向上してはいるものの、現地のスラングやネット用語などはまだまだ人の目が必要です。
あとは、そもそもAIを導入するにあたって導入する初期費用、運用時の保守費用、AIに学習させるデータなど時間、費用もかかるので、サービス規模に対する費用対効果を見極める必要があります。
Trust＆Safetyとして何を守るべきか
T&Sにおいて守ったほうがよいことは以下の3点です：
- ユーザーさまの安全：特に未成年者を保護するため、年齢に応じた配信機能の利用制限やプライバシー保護機能を強化します
- コミュニティの健全性：ハラスメントや有害な行為を防ぐため、ルールを明確化し、適切なモデレーションを行います
- プラットフォームの信用性：違法コンテンツを排除し、ユーザーさまが安心して利用できる環境を提供することで、信頼を築きます
T&Sの取り組みは、単なる規制ではなく、ユーザーの快適な体験を実現するための基盤です。これからT&Sに取り組む方には、技術とポリシー、そしてユーザー視点の融合が成功の鍵となることをお伝えします。
最後に
T&Sは会社としての方針になります。
市場の状況により企業にもとめられることが変化するので、取り組みは短期で決められるものではなく、継続的な議論が必要になります。
また、T&Sは会社方針を決定する経営層、事業を運用するプロダクト、監視をおこなうパトロール、渉外対応の部署、お客さまの応対のCSなど、多くの方と連携して進めなければなりません。
共通する課題や問題への対応、安心安全に関するナレッジの共有などを通じ、連携体制の強化をすることで、健全なコミュニティサービスを目指しましょう。