iphone - 特定の単語や画像を検閲する

Question

私の質問は、アプリケーションで不適切な言葉やヌードの画像を検閲するにはどうすればよいかということです。ユーザーによって導入されたコンテンツをフィルタリングできるフレームワークのようなものはありますか? IOS の専門家であるあなたは、この問題を解決するために現時点で何を使用していますか?

Answer 1

質問には 2 つの部分があります。1) テキストの検閲、2) 画像の検閲。

テキストの場合、辞書を保存し、ユーザー入力を検閲する単語に一致させることができます。しかし、悪い言葉をどのように定義しますか? 単語はその文脈に応じて意味を持ち、ソフトウェアは文脈を判断できません。つまり、誰かがスイカを食べるのが好きだと言っているのは、検閲されるべきものですか? 特定のグループの人々に適用されると、人種差別主義者と見なされる可能性があります。そして、それはあなたの辞書が伝えることができないものです.

画像の場合、アルゴリズムを介してヌードを識別する信頼できる方法はありません。実際、画像検閲を行っているすべての Web サイトは、人間を使用してユーザーが提供した画像を分類および検閲しています。そして、人間でさえ間違いを犯します。最近、FB は入浴中の女性の画像を拒否しました。彼女の肘を裸の胸と間違えたからです。