捜査でAI少女画像使用！ニューメキシコ州がSnapchatを提訴

• AI少女画像使用の捜査で州がSNS提訴
• 捜査画像が推奨コンテンツに配信される
• AI技術利用の倫理的課題が浮上

※ AIによる要約

ニューメキシコ州が、人気SNSアプリSnapchatを運営するSnap Inc.に対する訴訟を起こしました。問題の発端は、同州警察が行ったおとり捜査です。捜査官らは、AIで生成した14歳の少女の画像を使用し、Snapchat上においてアカウントを作成。この手法により、未成年者を性的に搾取しようとする犯罪者の摘発を試みました。

そうすると、AIで作られた少女の画像が、Snapchatのアルゴリズムによって自動的に推奨コンテンツとして配信されてしまったのです。その結果、未成年者が性的搾取を受ける危険性があるだけでなく、そのような危険に関わる犯罪者と簡単につながる仕組みとなっていることが分かりました。

ニューメキシコ州は、この事態をSnapchatの重大な過失だと主張。プラットフォーム上で児童の性的搾取コンテンツが蔓延していると指摘し、同社の対応の不備を厳しく批判しています。一方、Snapchat側は、児童の安全を最優先事項と位置づけ、問題解決に向けて取り組む姿勢を示しています。また、同社は、AIを活用した年齢推定技術の導入や、不適切なコンテンツの検出システムの強化など、様々な対策を講じてることを主張しました。

この訴訟は、デジタル時代における法執行機関の捜査手法と、テクノロジー企業の責任の在り方に一石を投じています。AI技術の進化に伴い、その使用に関する倫理的問題や法的課題が浮上しており、社会全体で議論を深める必要性が高まっています。