ruby-on-rails - 悪質な画像を分析・フィルタリングする手法の存在

Question

私は現在、画像のアップロードに基づくアプリを Rails で開発しています。バックエンド環境で画像を分析し、これらの各画像に性的コンテンツなどの虐待的なコンテンツが含まれているかどうかを判断する手法があるかどうか疑問に思っていました。

すべての「大規模サイト」が人間だけで何千もの画像をフィルタリングしているとは想像できないため、この疑問を抱くのはしばらく前のことです。

Answer 1

セマンティックコンテンツの理解においては、人間はコンピュータよりも優れています。

「乱用」は見る人の目にあり、これが機械で計算可能な問題になるかどうかは疑わしい.

一般に、問題がパターンの認識に関係している場合は、人を使用し、「機械的なターク」をグーグルで検索してください。

例外はありますが少数ですが、AI のハイウェイには血が流れています。