Go to Qiita Advent Calendar 2024 Top
LoginSignup
9
3

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 1 year has passed since last update.

スタンバイAdvent Calendar 2021

Day 12
@mado-m(naoto higuchi)

Amazon Rekognitionを使って静止画・動画の節度判定を省力化する

Last updated at Posted at 2021-12-12

この記事は スタンバイ Advent Calendar 2021 の12日目の記事です。
昨日の記事は @hanishi さんの イ〇ゲーム「そのURLに〇〇はあるか？」 でした。

はじめに

  • ユーザーが静止画・動画をアップロードできるサービスは多いですが、わいせつ画像や暴力画像のようにサービスに不適切な画像がアップロードされてしまうと見た人が気分を害してしまいサービスの品質低下に繋がる恐れがあります。
  • しかし、大量の画像を人力でチェックするとコストがかかり、スケールも難しいです。
  • そこで、Amazon Rekognitionを使うことで節度判定を大きく省力化することができます。
    • ※投稿時点において自社プロダクトで使用はしていません。

Amazon Rekognitionとは

  • https://aws.amazon.com/jp/rekognition
  • 機械学習モデル・インフラの構築不要で使えるフルマネージドAI機能を利用して、静止画・動画の強力な分析をスケール可能に行えるAWSのサービス。

Amazon Rekognitionの処理能力

  • 何百万もの静止画・動画を数分で分析可能。

Amazon Rekognitionによる節度判定の注意

  • 不適切・不快なコンテンツを完全に除去できるものではないので、Amazon Rekognitionをどうサービスに組み込むかは設計次第になりそうです。
  • ただし、AWSカスタマーサポートにフィードバックを送ることで不適切なコンテンツの種類は今後も拡大されるとのこと。

Amazon Rekognitionで検出できる不適切パターン

  • https://docs.aws.amazon.com/rekognition/latest/dg/moderation.html
  • 下記の検出が可能で、それぞれの項目の対してさらに細かい区分も検出可能なので詳細は上記ドキュメントに書かれています。
    • Explicit Nudity
    • Suggestive
    • Violence
    • Visually Disturbing
    • Rude Gestures
    • Drugs
    • Tobacco
    • Alcohol
    • Gambling
    • Hate Symbols

この記事で使用する静止画・動画

  • 全てPixtabayの静止画・動画を使用していて、Pixabay Licenseに従って商用・非商用問わず使用でき改変可能でクレジット表記不要の画像のみ使用しています。

静止画の判定

  • まずはより多くのサービスで使用され扱いやすい静止画から試してみます。

静止画の判定料金

  • https://aws.amazon.com/jp/rekognition/pricing/
  • 処理量が増えるほど安くなりますが、1ヶ月100万枚までは画像1,000枚あたり1.30USDと余程大量の画像を扱うサービスでなければ料金で心配する程ではなさそうです。

静止画の判定をする

節度判定OKのパターン

$ aws rekognition detect-moderation-labels --image '{"S3Object":{"Bucket":"rekognition_test","Name":"dog.jpg"}}'
{
    "ModerationLabels": [],
    "ModerationModelVersion": "5.0"
}
  • 判定NGになるとModerationLabels内にNG内容が含まれるので、この画像は空であるため問題ないことがわかります。
  • Amazon Rekognitionはモデルの定期的な改良を行っていて、使用されたモデルのバージョンがModerationModelVersionで確認できます。

節度判定NGの対象になるパターン

$ aws rekognition detect-moderation-labels --image '{"S3Object":{"Bucket":"rekognition_test","Name":"beer.jpg"}}'
{
    "ModerationLabels": [
        {
            "Confidence": 99.43159484863281,
            "Name": "Alcoholic Beverages",
            "ParentName": "Alcohol"
        },
        {
            "Confidence": 99.43159484863281,
            "Name": "Alcohol",
            "ParentName": ""
        }
    ],
    "ModerationModelVersion": "5.0"
}
  • 不適切パターン10種類のうち大カテゴリとしてはAlcohol判定で引っかかっていて、さらにその中の小カテゴリとしてはAlcoholic Beverages判定で引っかかっていて、判定精度が99以上であることがわかります。
  • この場合、アルコール画像がNGなサイトではこの画像を表示するべきではないですが、アルコール画像が問題ないサイトであれば無視するのが良いと思います。

判定精度をカスタマイズする

  • Confidenceはデフォルトでは55%以上の場合に返ってくるようになっていて、閾値は--min-confidenceから増減可能です。
  • Confidenceはコンテンツの検出数（再現率）と検出精度（適合率）のトレードオフとなっていて、減らすと不適切コンテンツのほとんどが検出されるようになりますが不適切でないコンテンツも検出されるようになり、増やすとその逆になるためサービスレベルに応じた設定が必要です。

動画の判定

動画の料金

動画の節度判定をする

節度判定OKのパターン

$ aws rekognition start-content-moderation --video "S3Object={Bucket=rekognition_test,Name=dog.mp4}"
{
    "JobId": "5ce7b114031387527d65c2f1ea4a1f235cf08460e1a0b5302236e64c176113cc"
}

$ aws rekognition get-content-moderation --job-id 5ce7b114031387527d65c2f1ea4a1f235cf08460e1a0b5302236e64c176113cc
{
    "JobStatus": "IN_PROGRESS",
    "ModerationLabels": [],
    "ModerationModelVersion": "4.0"
}
  • JobStatusがIN_PROGRESSの場合はまだ判定中なのでしばらく経ってからまた実行してみます。
$ aws rekognition get-content-moderation --job-id 5ce7b114031387527d65c2f1ea4a1f235cf08460e1a0b5302236e64c176113cc
{
    "JobStatus": "SUCCEEDED",
    "VideoMetadata": {
        "Codec": "h264",
        "DurationMillis": 19120,
        "Format": "QuickTime / MOV",
        "FrameRate": 25.0,
        "FrameHeight": 540,
        "FrameWidth": 960,
        "ColorRange": "LIMITED"
    },
    "ModerationLabels": [],
    "ModerationModelVersion": "4.0"
}
  • 処理が完了しているとJobStatusがSUCCEEDEDで返ってきます。
  • VideoMetadataで動画のメタデータもわかります。
  • ModerationLabelsが空なので判定OKの動画であることがわかりました。

節度判定NGのパターン

$ aws rekognition start-content-moderation --video "S3Object={Bucket=rekognition_test,Name=wine.mp4}"
{
    "JobId": "e38a98add23f10d03dda1abc21c220a1fef2506487015ec99b6a0e6f39605d43"
}

$ aws rekognition get-content-moderation --job-id e38a98add23f10d03dda1abc21c220a1fef2506487015ec99b6a0e6f39605d43
{
    "JobStatus": "SUCCEEDED",
    "VideoMetadata": {
        "Codec": "h264",
        "DurationMillis": 14000,
        "Format": "QuickTime / MOV",
        "FrameRate": 25.0,
        "FrameHeight": 720,
        "FrameWidth": 1280,
        "ColorRange": "LIMITED"
    },
    "ModerationLabels": [
        {
            "Timestamp": 0,
            "ModerationLabel": {
                "Confidence": 86.58413696289062,
                "Name": "Alcohol",
                "ParentName": ""
            }
        },
        {
            "Timestamp": 0,
            "ModerationLabel": {
                "Confidence": 86.58413696289062,
                "Name": "Alcoholic Beverages",
                "ParentName": "Alcohol"
            }
        },

        ... 長いので省略 ...

        {
            "Timestamp": 13480,
            "ModerationLabel": {
                "Confidence": 99.56449890136719,
                "Name": "Alcohol",
                "ParentName": ""
            }
        },
        {
            "Timestamp": 13480,
            "ModerationLabel": {
                "Confidence": 99.56449890136719,
                "Name": "Alcoholic Beverages",
                "ParentName": "Alcohol"
            }
        }
    ],
    "ModerationModelVersion": "4.0"
}
  • 動画の場合は静止画として分割されてフレームごとに判定されているようです。
  • ModerationLabelsでAlcoholを検知していることがわかります。
  • 面白いのは、動画の最初にボトルと空ワイングラスだけだと精度約86%と判定していますが、最後にワインが注がれた後だと精度99%以上の判定となっています。

まとめ

  • 実際にAmazon Rekognitionを触ってみましたが、インフラ構築不要・機械学習モデル作成不要のAPIとして提供されていて思った以上に簡単に使えました。
  • 静止画・動画を扱うサービスではサービスの節度を守るために積極的に使っていこうと思いました。
9
3
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
Sign upLogin
9
3

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?