구글과 X, 비동의 성적 이미지 문제 해결에 소홀하다는 법안 제안

구글, X, 디스코드는 비동의 성적 이미지의 증가하는 위협에 대응하기 위해 더 많은 노력을 기울일 수 있는 기술 대기업 그룹에 속함. 이는 금요일에 상원 의원들이 이들 기업에 보낸 서한에 따른 것임.

서한은 비동의 성적 이미지와 비디오의 삭제 요청을 더 쉽게 할 수 있도록 하는 두 프로그램에 대한 참여 부족을 비판함.

이 프로그램은 자발적이지만, 메타, 스냅, 틱톡, 포르노허브와 같은 다른 인터넷 대기업들이 이미 참여하고 있음. 이 서한은 법안 제정자와 기술 리더들이 비동의 성적 이미지, 즉 복수 포르노에 맞서기 위해 더 많은 노력을 기울이라는 압박을 받고 있는 가운데 발송됨. 특히 인공지능이 이러한 콘텐츠를 생성하고 퍼뜨리는 것을 더 쉽게 만들고 있음.

올해만 해도 전 세계 여성들이 AI로 생성된 포르노 이미지의 표적이 되었음. 테일러 스위프트와 고등학생 소녀들까지 포함됨. 현재 미국의 9개 주에서는 비동의 딥페이크 이미지의 생성이나 공유를 금지하는 법이 있지만, 연방 차원에서는 존재하지 않음. 이는 피해자들이 도움이나 책임을 추구할 수 있는 옵션을 제한함.

금요일에 CNN과 독점적으로 공유된 이 서한은 X, 구글 모회사 알파벳, 아마존, 매치, 줌, 핀터레스트, 디스코드, 오픈AI, 트위치, 마이크로소프트, 패트리온의 CEO에게 보내졌음.

서한은 이들이 아동의 누드 또는 성적 이미지나 비디오를 온라인 플랫폼에서 제거하는 데 도움을 주는 ‘Take it Down’ 프로그램과 성인들이 동의 없이 공유된 성적 이미지를 제거하는 데 도움을 주는 ‘StopNCII’ 이니셔티브에 참여할 것을 촉구함. 두 프로그램 모두 사용자가 제거하고자 하는 이미지에 대한 고유한 숫자 코드를 생성할 수 있게 하여, 참여 플랫폼이 이를 사용해 사이트를 검색하고 이미지를 제거할 수 있도록 함.

“이 프로그램에 대한 참여를 늘림으로써 기업들은 비동의 친밀한 이미지가 영향을 받는 사람들의 삶, 경력, 가족에 미치는 삶을 바꾸는 영향을 멈추기 위한 실질적인 조치를 취할 수 있음”이라고 서한은 명시함. 이 서한은 민주당 상원 의원 진 샤힌과 공화당 상원 의원 릭 스콧이 주도하였고, 다른 10명의 상원 의원이 공동 서명함.

서한에 언급된 대부분의 기업들은 비동의 성적 이미지의 생성이나 공유에 대한 정책을 가지고 있으며, 일부는 사용자가 이러한 콘텐츠를 신고하거나 제거 요청을 할 수 있는 방법을 제공함. 구글은 최근 이러한 콘텐츠가 검색 결과 상단에 나타나지 않도록 하겠다고 발표함.

하지만 그룹에 참여함으로써 사용자는 모든 참여 플랫폼에 대해 단 하나의 제거 요청만 제출하면 되므로, 각 개별 회사에 일일이 연락할 필요가 없음.

비동의 성적 이미지와 딥페이크 문제를 해결하기 위한 노력은 드문 초당적 지지를 받고 있음. AI로 생성된 포르노의 영향을 받은 청소년과 부모 그룹이 의회 청문회에서 증언하였고, 공화당 상원 의원 테드 크루즈가 이러한 이미지를 게시하는 것을 범죄로 만들고, 소셜 미디어 플랫폼이 피해자로부터 통지를 받으면 이를 제거하도록 요구하는 법안을 소개함. 민주당 상원 의원 에이미 클로부차와 다른 의원들이 이를 지지함.