FCC 의장 제시카 로젠워셀은 선거에 개입하기 위해 AI 기술을 사용하는 것에 대해 경고하며 "우리는 당신을 찾을 것이고 당신은 대가를 치를 것"이라고 말했다.
미국 연방통신위원회(FCC)는 정치 컨설턴트 스티브 크레이머에게 600만 달러의 벌금을 부과했다. 그는 조 바이든 미국 대통령의 가짜 음성 녹음을 제작한 주범이다.
올해 1월에 있었던 오해의 소지가 있는 로보콜은 AI로 생성된 바이든의 목소리를 사용해 뉴햄프셔에서 2024년 1월 23일의 예비선거에 투표하지 말라고 사람들에게 촉구했다.
후속 조사에서 텍사스에 본사를 둔 라이프 코퍼레이션과 월터 몽크라는 개인이 이 전화를 책임지고 있다는 것이 신속히 밝혀졌다.
그러나 추가 세부사항이 드러나면서 뉴올리언스의 마술사 폴 카펜터가 크레이머에 의해 고용되어 모방 음성을 제작했다는 사실이 드러났다. 크레이머는 선거 캠페인에서 AI의 위험성을 알리기 위해 이 작업을 했다고 주장했다.
FCC는 어제(9월 26일) 성명에서 Truth in Caller ID Act가 사기를 목적으로 하거나 해를 끼치거나 부당하게 가치를 얻기 위해 만들어진 스푸핑 전화를 불법으로 만든다고 밝혔다.
"또한, FCC는 최근에 '인공 또는 사전 녹음된 목소리'를 사용하는 전화에 대한 전화 소비자 보호법의 제한이 AI로 생성된 목소리를 사용하는 전화에도 적용된다고 확인했다."
로얀 A 에갈, 집행국장 및 개인정보 보호 및 데이터 보호 태스크포스 의장은 선거에 개입하기 위한 생성 AI 기술의 오용이 "우리 민주주의의 기초를 약화시킨다"고 말했다.
"오늘의 중대한 처벌은 나쁜 행위자들에게 이 기술의 남용이 용납되지 않을 것이라는 분명한 메시지를 전달한다"고 그는 덧붙였다.
FCC 의장 제시카 로젠워셀은 이제 AI를 사용해 목소리를 복제하는 것이 저렴하고 쉬워졌으며, 이는 불법적으로 선거에 개입할 수 있다고 말했다. "명확히 말하겠다. 만약 당신이 이런 쓰레기로 우리의 전화를 범람시키면, 우리는 당신을 찾을 것이고 당신은 대가를 치를 것이다."
미국 선거가 다가오면서 딥페이크에 대한 우려가 커지고 있다. 올해 여름, X의 소유자 일론 머스크는 AI로 생성된 목소리를 특징으로 하는 가짜 캠페인 비디오를 공유했다.
그리고 8월, 도널드 트럼프는 진실 소셜에서 테일러 스위프트가 "테일러가 당신에게 도널드 트럼프에게 투표하라고 원한다"는 캡션과 함께 있는 가짜 이미지를 여러 개 공유했다.
이로 인해 이 가수는 사실을 바로잡으며 잘못된 정보를 퇴치하는 가장 간단한 방법은 진실이라고 말했다.
