Googleがオンラインで児童性的虐待画像を見つけるための新しい機械学習APIを公開

テクノロジーの巨人グーグルは、インターネットでの虐待、特にインターネットでの児童の性的虐待の画像の普及に対抗するための取り組みを再度確認し、新しい機械学習ツールを立ち上げました。 高度な人工知能に基づくこの新しいAPIは、手動レビューアの非常に困難なタスクを容易にし、戦いに関与するサービスプロバイダー、NGO、テクノロジー企業、およびその他の機関が無料で利用できます 。

児童の性的虐待に対する機械学習

数日前に公開され、GoogleのエンジニアリングディレクターであるNikola TodorovicとGoogleのプロダクトマネージャーであるAbhi Chaudhuriによって署名された投稿で、同社は画像の普及と戦うという約20年の取り組みを確認しました。児童の性的虐待 、「考えられる最悪の虐待の1つ」。

この目的のために、Googleは新しい機械学習APIをリリースしました 。このAPIは、この戦いに関与している組織への明示的な要求に応じて完全に無料で利用できます 。 高度な人工知能の新たな進歩に支えられて、このツールはインターネット上の未成年者の性的虐待の画像の検出を大幅に改善します。これは、既知のコンテンツの検出を高速化するだけでなく、「知られていないコンテンツの検出も可能にするからです。以前にCSAMとして確認されています 。

この新しいAPIの最大の成果のもう1つは、「 レビューのために最も可能性の高いCSAMコンテンツを優先して、 レビュー担当者が多くの画像を分類するのに役立つ 」 ことです。 このタイプの画像を視覚化して確認することで、人々が毎日働くことにどのような影響を与えるか想像できますか？ しかし、この多大な努力にもかかわらず、会社自身はその発表の終わりに、「 テクノロジーだけではこの社会的課題の万能薬ではない 」ことを認めているので、残念ながら、人間の介入は引き続き削減する必要があります。この種の虐待。

以下に、Googleが公開したメモを完全に翻訳しました。

GoogleのContent Safety APIサービスの使用に関心があり、ネットワークでの未成年者の性的虐待の画像の伝播との闘いに役立つ組織は、このフォームに記入することにより 、会社への無料参加をリクエストできます。