【IT】Google、Gmailをスキャンしマンガ画像を児童ポルノとして捜査当局に提出か

しかし、シリコンバレーの大企業がサーバーから見つけて消去しようとしているのは、未成年の子供の露骨な写真やビデオだけではない。最近の捜査令状で、こうしたアニメーションを所有していたとされる容疑者の情報を提供するようグーグルに要請したことで明らかになったように、彼らは子どもが関わる生々しい行為を描いた漫画も探しているのです。

この種のコンテンツは、米国の法律では所有することが違法となる可能性があり、グーグルの児童性資料対策（CSAM）システムで検出できることが、これまで公に語られていなかった事実として令状で明らかになった。Googleは以前から、同社のコードが2つの技術を使って児童虐待に目を光らせていることを認めている。1つ目は、YouTubeが設計したソフトウェアを使用して、過去に知られていた違法コンテンツの「ハッシュ」を探し出すものです。ハッシュとは、ファイルを表す英数字のことで、例えばGmailのメール内にあるファイルをコンピューターがスキャンし、不正な写真や動画と同じハッシュを持つファイルがあれば、フラグを立てることができる。Googleはまた、機械学習ツールを使ってファイルを調べ、虐待された子供のものである兆候がないか分析する。

2020年末のカンザス州で、グーグルがドライブアカウント内の「性行為に従事する、あるいは性交に従事する子どもを描いたデジタルアートや漫画」を検出した際、これら2つの技術のうちどれが使われたのかは明らかになっていない（令状によれば、グーグルは「性行為に従事する子どもを描いたデジタルアートや漫画」「性交に従事する子ども」を検出した）。続けて、未成年の少年を描いた性描写の漫画と思われる生々しい画像について詳しく説明されています。Googleは、法的要求に従って、発見した情報と画像へのアクセスに使用されたIPアドレスをNational Center for Missing and Exploited Children (NCMEC) に渡し、同センターは発見内容をDHS Homeland Security Investigations unitに伝えました。捜査官は、Googleから提供されたIPアドレスから、漫画の所有者とされる容疑者を特定し、彼のGoogleアカウントを検索し、被告とのメールの情報を返送しました。

同容疑者は、実際には既知のアーティストである可能性があるようです。告発されていないため、フォーブスはその名前を公表していませんが、令状で特定された男性は、中西部の小さなアートコンテストで何度か受賞しており、1990年代のある作品は西海岸の大手新聞に掲載されたことがあるそうです。
https://www.forbes.com/sites/thomasbrewster/2021/12/20/google-scans-gmail-and-drive-for-cartoons-of-child-sexual-abuse/