캘리포니아 주지사 개빈 뉴섬이 아동의 AI 생성 딥페이크 누드를 소유하거나 배포하는 것을 불법으로 만드는 두 개의 법안을 서명함.
일요일, 뉴섬은 아동이 피해를 입는 유해한 성적 이미지를 생성하는 AI 기술로부터 미성년자를 보호하기 위한 제안 두 개를 서명함.
이 법안은 검찰이 그러한 AI 생성 아동 성적 학대 이미지를 소유하거나 공유하는 개인을 처벌할 수 있도록 함.
캘리포니아 주지사의 새로운 법안은 압도적인 초당적 지지를 받았으며, 아동 성적 학대의 AI 생성 이미지에 대한 법적 허점을 메우고 AI로 생성된 이미지라도 아동 포르노가 불법임을 명확히 함.
ABC 뉴스에 따르면, 현재 법에 따르면 지방 검사들은 해당 자료가 실제 인물을 묘사하고 있다는 것을 증명할 수 없는 한 AI 생성 아동 성적 학대 이미지를 소유하거나 배포하는 개인을 기소할 수 없음. 하지만 이러한 새로운 법안은 그러한 범죄를 중범죄로 간주함.
“아동 성적 학대 자료는 AI로 생성되었든 실제 아동의 이미지이든 캘리포니아에서 생성, 소유 및 배포하는 것이 불법이어야 함”이라고 법안 중 하나의 저자인 민주당원 마크 버먼이 성명에서 말함. “이 끔찍한 이미지를 생성하는 AI는 수천 개의 실제 아동이 학대당하는 이미지로 훈련되며, 그 아동들을 다시 피해자로 만드는 것임.”
이제 성인이 동의 없이 AI 생성 성적 딥페이크를 생성하거나 공유하는 것은 불법임. 소셜 미디어 플랫폼은 사용자들이 이러한 자료를 신고하여 삭제할 수 있도록 해야 함.
최근 몇 주 동안, 뉴섬은 미국에서 AI 생성 콘텐츠에 대한 가장 강력한 법률 중 일부를 서명함. 여기에는 2024년 선거와 관련된 딥페이크를 생성하는 것을 불법으로 만드는 법안도 포함됨.
캘리포니아 주지사는 또한 배우와 공연자를 무단 AI 클론으로부터 보호하는 두 개의 법안도 서명함. 그는 대규모 AI 시스템이나 모델의 공개 전 안전 테스트를 요구하는 최초의 법안(S.B. 1047)을 거부함.
캘리포니아의 법안은 미국 전역의 규제 기관들이 AI 기반 조작 콘텐츠의 확산을 억제하기 위한 지침이 될 수 있음. 그러나 이 주의 새로운 법안은 이미 법적 도전에 직면함. 최근 한 콘텐츠 제작자가 엘론 머스크가 공유한 카말라 해리스 부통령의 패러디 비디오를 포함한 AI 생성 비디오를 제작하는 것과 관련하여 캘리포니아의 새로운 법안에 대한 소송을 제기함.
