ヌード、ポルノ、解剖など、さまざまなカテゴリの画像をフィルタリングするためのいくつかのAPIの完全なテスト。

特定の画像が不適切、つまりNSFW（Not Safe For Work）であることにすぐに気づきます。しかし、人工知能については、すべてがそれほど明確ではありません。多くの企業は現在、そのようなコンテンツを自動的にフィルタリングするための効果的なツールを開発しようとしています。

市場の現状を理解したかった。次のカテゴリの既存の画像フィルタリングAPIの有効性を比較します。

露骨なヌード
挑発的なヌード（つまり、完全なヌードを連想させる-約Per。）
ポルノ/性交
模倣/アニメポルノ
解体（流血）/暴力

Tl; DR：最良のAPIを見つけたいだけなら、すぐに記事の最後の比較に行くことができます。

実験条件

データセット 評価のために、各NSFWサブカテゴリに同数の写真を含むNSFWデータセットを収集しました。データセットは、上記の5つのカテゴリごとに20個の正のNSFW画像を含む120個の画像と、20個のSFW画像で構成されています。 NSFWコンテンツの尺度として主にヌードの使用に基づいているため、私は一般に入手可能なYACVID 180スイートを使用しないことにしました。

NSFWの写真の収集は退屈です;それは非常に長く、完全に痛みを伴う作業であり、これは少数の画像を説明します。

データセットはこちらからダウンロードできます。 [警告：露骨な内容を含む]

以下は、各APIとデータセット内の各画像の生の結果を含む表です。

指標

各分類子は、一般に受け入れられているメトリックに従って評価されます。

真のポジティブ：TP

分類子が何かNSFWを呼び出し、それが実際にNSFWである場合。

真のネガティブ：TN

分類子がSFWを呼び出す場合、それは実際にはSFWです。

誤検知：FP

分類子がNSFWと呼ばれる場合、これは実際にはSFWです。

偽陰性：FN

分類子がSFWを呼び出すが、実際にはNSFWである場合。

精度

モデルが予測を行う場合、それは信頼できますか？

精度

モデルが画像がNSFWであると言っている場合、正しい予測はどのくらいの頻度ですか？

リコール

すべてのサンプルがNSFWである場合、どの程度識別されますか？

F1スコア

これは、多くの場合精度に似たエラーとリコールの混合です。

コンテンツをモデレートするための次のAPIが評価されました。

カテゴリー別のパフォーマンス

まず、すべてのNSFWカテゴリで各APIを評価しました。

ポルノ/セックス

ここでは、GoogleとSightengine APIが非常に優れています。すべてのポルノ画像を正しく認識したのは彼らだけでした。 NanonetsとAlgorithmiaは、90％のスコアでわずかに遅れています。 MicrosoftとImaggaは、このカテゴリで最悪のパフォーマンスを示しています。

識別しやすい画像は明らかにポルノです。すべてのAPIは上記の写真を正しく認識しました。それらのほとんどは、非常に大きな自信を持ってNSFWを予測しました。

画像を特定するのが難しいと、部分的に閉じたオブジェクトやぼやけたオブジェクトが含まれるため、作業が難しくなります。最悪の場合、12のシステムのうち11がイメージのミスを犯しました。ポルノの認識の有効性は、ポルノの強度とコンテンツがどれだけよく見えるかによって大きく異なります。

露骨なヌード

ほとんどのAPIは、このカテゴリの多くの画像で驚くほど良好に機能し、検出率は100％でした。最もパフォーマンスの低いAPI（ClarifaiおよびAlgorithmia）でも90％を示しました。ヌードの定義は常に議論の対象でした。結果からわかるように、システムは通常、イメージがまだSFWである可能性が高い疑わしいケースで失敗します。

単純な画像では、明示的なヌードがはっきりと見えます。誰もが間違いなくNSFWと呼ぶでしょう。 1つのAPIがミスを犯したわけではなく、平均スコアは0.99でした。

物議を醸す画像では、APIは間違っていました。たぶんその理由は、それぞれに感度設定があるためです。

挑発的なヌード

Googleは100％の検出率で再び勝ちました。サイトエンジンとナノネットのパフォーマンスは、それぞれ95％と90％で、他のものよりも優れていました。自動化されたシステムは、露骨なヌードを明示的とほぼ同じくらい簡単に認識します。彼らは通常、SFWのように見える写真を間違えますが、ヌードのわずかな兆候しかありません。

繰り返しますが、明示的なNSFWイメージでAPIが誤っていることはありません。

暗示的なヌードでは、APIは分岐しました。裸のように、彼らは寛容の異なる閾値を持っていました。私自身、これらのSFW画像を認識するかどうかはわかりません。

模倣/アニメポルノ

ここではすべてのAPIが非常に優れたパフォーマンスを示し、シミュレートされたポルノの100％の例が見つかりました。唯一の例外はImaggaで、1つの画像が欠落していました。このタスクでAPIがこれほどうまく機能するのはなぜでしょうか？どうやら、アルゴリズムは自然な画像よりも人工的に作成された画像を識別する方が簡単です。

すべてのAPIは、優れた結果と高い信頼性評価を示しました。

Imaggaを間違えた唯一の画像は、十分に長く見ないとポルノではないと解釈できます。

解剖

APIによる平均的な検出効率は50％未満であったため、これは最も難しいカテゴリの1つです。 ClarifaiとSightengineは、このカテゴリの画像を100％正しく検出することで、競合他社をしのいでいます。

APIは医療画像を最適に処理しましたが、12のシステムのうち4つでも最軽量でミスを犯しました。

難しい画像には共通点はありません。しかし、人々は非常に簡単にこれらの写真を流血と呼ぶでしょう。これはおそらく、パフォーマンスの低下の原因がトレーニングに使用できるデータの不足であることを意味します。

安全な写真

NSFWとして識別できない画像は安全と見なされます。 APIを理解するには、これらのイメージがNSFWに近い必要があるため、データ収集自体は困難です。これらすべてのイメージがSFWであるかどうかを議論することができます。ここでは、SightengineとGoogleが最悪の結果を示しました。これは、他のカテゴリでの優れたパフォーマンスを説明しています。彼らは単にすべての疑わしいNSFW写真を呼び出します。一方、ImaggaはNSFWという名前を付けていないため、ここで良い仕事をしました。 Xモデレーターも非常にうまく機能しました。

元の画像へのリンク： SFW15 、 SFW12 、 SFW6 、 SFW4

識別しやすい画像には肌の小さなパッチのみが表示され、人はそれらをSFWとして簡単に識別できます。 1つまたは2つのシステムだけがそれらを誤って認識しました。

元の画像へのリンク： SFW17 、 SFW18 、 SFW10 、 SFW3

識別が困難なすべてのSFW画像は、皮膚またはアニメのより大きな領域を示しています（システムはアニメのポルノを考慮する傾向があります）。ほとんどのAPIは、広域画像をSFWとしてカウントしました。問題は、このSFWですか？

一般的な比較

NSFWのすべてのカテゴリでのAPIの有効性と、SFWを正しく認識することの有効性を見ると、Nanonetシステムの最高のF1結果と最高の平均精度は、すべてのカテゴリで安定して機能していると結論付けることができます。 Googleシステムは、NSFWカテゴリで非常に良い結果を示していますが、安全な画像をNSFWとしてマークすることが多いため、F1メトリックで罰金を受け取りました。

開発者による

上位5つのシステムの精度とF1スコアを比較して、パフォーマンスの違いを評価しました。花弁図の面積が大きいほど良い。

1.ナノネット

Nanonetsシステムはどのカテゴリーでも1位になりませんでした。ただし、これは最もバランスの取れたソリューションです。まだ作業できる最も弱い点は、SFWの認識精度です。彼は体の露出部分に敏感すぎます。

2. Google

GoogleはほとんどのNSFWカテゴリで最高ですが、SFW検出では最悪です。私は、Googleでテストするためのサンプルを取りました。つまり、彼女はこれらの画像を「知っておくべき」ということです。これは、ほとんどのカテゴリで本当に優れたパフォーマンスを発揮する理由です。

3.クラリファイ

Clarifaiは、他のほとんどのAPIに先立って、解体の決定に本当に輝いており、システムもバランスがよく、ほとんどのカテゴリでうまく機能しています。しかし、彼女は暗示的なヌードやポルノを識別する正確さを欠いています。

4. Xモデレーター

X-Moderatorは、バランスの取れたもう1つのAPIです。解剖に加えて、他のほとんどのタイプのNSFWを明確に識別します。このシステムを競合他社と区別するSFWの決定における100％の精度。

5.サイトエンジン

Googleと同様に、SightengineシステムはNSFWの特定においてほぼ完璧な結果を示しました。しかし、彼女は解剖の単一の画像を認識しませんでした。

価格

APIを選択する際のもう1つの基準は価格です。すべての企業の価格を以下に比較します。ほとんどのAPIは、使用が制限された無料試用版を提供しています。 Yahooは完全に無料の唯一のAPIですが、独自にホストする必要があります。このAPIはこの表には含まれていません。

Amazon、Microsoft、Nanonets、およびDeepAIは、100万回のAPIコールに対して月額1,000ドルの最低価格を提供しています。

最高のコンテンツモデレーションAPIとは何ですか？

NSFWコンテンツの主観的な性質により、勝者を決定することは困難です。

コンテンツの配信により重点を置いており、バランスのとれた分類器を必要とする一般的なテーマのソーシャルメディアの場合、分類器のF1の最高評価を持つNanonets APIを好むでしょう。

アプリケーションが子供を対象にしている場合、NSFWのすべてのカテゴリでの模範的な効果のために、一部の通常のコンテンツが失われても安全であり、Google APIを選択します。

NSFWとは何ですか？

この問題に多くの時間を費やして、1つの重要なことに気付きました。実際、NSFWの定義は非常にあいまいです。各人には独自の定義があります。許容されると見なされるもの-サービスが提供するものに大きく依存します。部分的なヌードは、出会い系アプリケーションでは受け入れられますが、ベビーベッドでは受け入れられません。そして、医学雑誌ではその反対です。本当に灰色の領域は、正しい答えを得ることが不可能な暗示的なヌードです。

わいせつなコンテンツをフィルタリングするための最高のAPIを比較する