Googleは自社サービスにアップロードされた写真の中に、児童ポルノ(児童性的虐待的な画像)が含まれていないか検閲しています。しかし、その検閲は必ずしも正確とは限りません。
2021年には、遠隔診療のために息子のペニスをAndroidスマートフォンで撮影した男性が、Googleにアカウントを強制的に削除され、性的虐待の加害者として通報されました。
その後、警察は男性が無実であると判断しましたが、Googleは検閲のミスを認めず、アカウントを復活させることもありませんでした。
同様の事例は日本でもあります。
- 医者の診察のため幼児の性器を撮影した親が児童性虐待の疑いでGoogleアカウントを無効化される(GIGAZINE)
- 遠隔診療のため幼児の股間を撮影した父親、Googleアカウントを永久消去される(テクノエッジ)
- 遠隔診断のため息子の裸の写真を送信→変態パパ扱いでGoogleアカBANに(Gizmodo)
- A Dad Took Photos of His Naked Toddler for the Doctor. Google Flagged Him as a Criminal.(The New York Times ※一次情報)
結構衝撃だったこと。
小さい頃のお風呂に入ってる写真やプールに入ってる写真をGoogleフォトにあげると、警告なしで一発BANされます。(家族だろうが児童ポルノ判定)
YouTube, Gmail, Googleドライブ全て利用停止。今写真持ってる方はまだAIに気づかれてないだけなので今のうちに削除しておきましょう— マメ (@jetdaizu) March 14, 2023