연방통신위원회(FCC)는 목요일, 뉴햄프셔 유권자들에게 민주당 예비선거에서 투표하지 말라고 유도하는 바이든 대통령의 목소리를 모방한 가짜 로보콜에 대해 정치 컨설턴트에게 600만 달러의 벌금을 부과하기로 최종 결정함.
루이지애나의 민주당 정치 컨설턴트 스티븐 크레이머는 5월에 뉴햄프셔에서 바이든이 주민들에게 11월까지 투표하지 말라고 요청하는 전화를 한 혐의로 기소됨. 크레이머는 바이든의 예비선거 도전자인 딘 필립스 하원의원을 위해 일한 바 있으며, 필립스는 이 전화를 비난함.
크레이머는 1월에 언론에 500달러를 지불하고 유권자들에게 전화를 걸어 인공지능이 캠페인에서 위험하다는 점을 알리기 위해 이 전화를 보냈다고 말함.
FCC는 이 전화가 바이든의 목소리처럼 들리도록 만들어진 AI 생성 딥페이크 오디오 녹음을 사용하여 생성되었다고 밝힘.
FCC 규칙은 부정확한 발신자 ID 정보의 전송을 금지하고 있으며, 위원회는 크레이머가 30일 이내에 벌금을 지불하지 않으면 이 문제를 법무부에 회부할 것이라고 경고함.
크레이머나 그의 대변인은 즉시 연락이 닿지 않음.
FCC 의장 제시카 로젠워셀은 "이제 인공지능을 사용하여 목소리를 복제하고 가짜 소리와 이미지를 쏟아내는 것이 저렴하고 쉬워졌다"고 말함. "우리가 아는 사람의 모습을 불법적으로 도용함으로써 이 기술은 선거에 불법적으로 간섭할 수 있다. 우리는 이를 목격할 때마다 지적하고 이 사기를 막기 위해 사용할 수 있는 모든 도구를 사용해야 한다"고 강조함.
8월에는 링고 텔레콤이 FCC가 뉴햄프셔 가짜 로보콜을 전송했다고 밝힌 후 100만 달러의 벌금을 지불하기로 합의함.
FCC는 링고가 합의에 따라 FCC 발신자 ID 인증 규칙을 엄격히 준수하는 계획을 시행할 것이라고 전함.
위원회는 7월에 방송 라디오 및 텔레비전 정치 광고가 AI에 의해 생성된 콘텐츠인지 여부를 공개하도록 요구하는 제안을 하기로 투표했으며, 이 제안은 아직 진행 중임.