/cdn.vox-cdn.com/uploads/chorus_asset/file/25330613/STK419_DEEPFAKE_CVIRGINIA_E.jpg)
샌프란시스코 시 법무부가 여성과 소녀의 동의 없이 누드 딥페이크를 생성하는 데 자주 사용되는 16개의 AI 기반 '탈의' 웹사이트를 상대로 소송을 제기함.
이 landmark 소송은 시 법무부 데이비드 추가 기자회견에서 발표했으며, 타겟 웹사이트들은 2024년 첫 6개월 동안 총 2억 회 이상 방문되었다고 함.
문제가 되는 웹사이트들은 사용자가 실제로 옷을 입고 있는 사람의 이미지를 업로드하면 AI 도구를 사용해 디지털로 '탈의' 시키는 기능을 제공함. 이 중 한 웹사이트는 고소장에 명시되지 않았지만, "데이트에 시간을 낭비하는 대신 [삭제된 웹사이트]를 사용해 그녀의 누드를 얻는 게 어떻겠냐"고 광고함.
웹사이트 운영자들은 복수의 주 및 연방법을 위반한 혐의를 받고 있으며, 여기에는 복수의 포르노그래피 및 캘리포니아의 불공정 경쟁법이 포함됨. 고소장에 따르면 "그들이 소비자에게 미치는 해악은 이러한 관행과 관련된 이점보다 훨씬 크다"고 함. 소송은 민사적 처벌을 요구하며, 웹사이트를 오프라인으로 전환하고 향후 딥페이크 포르노그래피를 생성하는 것을 영구적으로 금지하는 것을 목표로 함.
이 고소는 비동의 누드의 생성 및 확산에 대한 관심이 높아지는 가운데 제기되었으며, 이는 생성 AI의 발전에 의해 주도되고 있음. 유명인사인 테일러 스위프트와 같은 이들이 성적으로 노골적인 딥페이크의 피해자가 되었으며, 전국의 학교에서 학생들이 동급생의 AI 생성 누드 사진을 유포하다 퇴학당하거나 체포되는 사례가 증가하고 있음.
추는 X에서 "이 조사는 인터넷의 가장 어두운 구석으로 우리를 이끌었으며, 이러한 착취를 견뎌야 했던 여성과 소녀들에게 정말 끔찍하다"고 말함. "이것은 우리가 사회로서 가능한 한 빨리 해결해야 할 크고 다면적인 문제다"고 덧붙임.
