뉴햄프셔에서 가짜 바이든 로보콜을 보낸 회사, 100만 달러 벌금에 합의

인공지능을 사용해 조 바이든의 목소리를 모방한 기만적인 전화를 뉴햄프셔 유권자들에게 보낸 회사가 수요일에 100만 달러 벌금에 합의하고 발신자 식별 및 인증 기능을 강화하기로 했다고 미국 규제 당국이 밝혔다.

로보콜을 전송한 음성 서비스 제공업체인 링고 텔레콤은 연방통신위원회(FCC)가 처음에 200만 달러 벌금을 부과하려 했던 집행 조치를 해결하기 위해 합의에 이르렀다.

한편, 이 전화를 주도한 정치 컨설턴트 스티브 크레이머는 여전히 600만 달러의 FCC 벌금과 주 형사 고소에 직면해 있다. 이 사건은 많은 이들에게 AI가 유권자 집단과 민주주의 전체에 영향을 미치는 방식의 불안한 초기 사례로 여겨진다.

전화 메시지는 1월 21일에 수천 명의 뉴햄프셔 유권자에게 발송되었으며, 바이든의 목소리와 유사한 음성이 주 주의 대통령 예비선거에서 투표하는 것이 11월 일반 선거에서 투표할 수 없게 만든다는 잘못된 주장을 했다.

FCC는 링고 텔레콤이 민사 벌금에 동의하는 것 외에도 엄격한 발신자 ID 인증 규칙과 요구 사항에 동의하고 고객 및 상위 제공자가 제공하는 정보의 정확성을 더 철저히 검증하기로 했다고 밝혔다.

“우리 모두는 전화선 너머의 목소리가 주장하는 사람과 정확히 일치한다는 것을 알 권리가 있다”고 FCC 의장 제시카 로젠워셀은 성명에서 말했다. “AI가 사용되고 있다면, 그것은 소비자, 시민 및 유권자가 이를 접할 때 분명히 밝혀져야 한다. 우리의 통신 네트워크에 대한 신뢰가 위태로워질 때 FCC는 행동할 것이다.”

링고 텔레콤은 즉각적인 논평 요청에 응답하지 않았다. 이 회사는 이전에 FCC의 조치에 강하게 반대하며 이를 소급적으로 새로운 규칙을 부과하려는 시도로 간주한다고 밝혔다.

크레이머는 마술사이자 자칭 “디지털 유목민”에게 녹음을 만들도록 돈을 지불했으며, 올해 초 그는 예비선거의 결과에 영향을 미치려는 것이 아니라 AI의 잠재적 위험을 강조하고 입법자들을 행동으로 이끌고 싶었다고 말했다.

유죄 판결을 받을 경우, 크레이머는 유권자 억압 혐의로 최대 7년의 징역형과 후보자 사칭 혐의로 최대 1년의 징역형에 처해질 수 있다.

비영리 소비자 옹호 단체인 퍼블릭 시티즌은 FCC의 조치를 칭찬했다. 로버트 와이즈먼, 이 단체의 공동 회장은 로젠워셀이 소비자들이 진정한 콘텐츠를 받을 때와 AI 생성 딥페이크를 받을 때를 알 권리가 있다고 말한 것이 “정확히 맞았다”고 말했다. 와이즈먼은 이 사건이 그러한 딥페이크가 “우리 민주주의에 대한 존재론적 위협”을 어떻게 제기하는지를 보여준다고 말했다.

로얀 에갈 FCC 집행국장은 발신자 ID 스푸핑과 생성적 AI 음성 클로닝 기술의 조합이 “정치적 이점을 추구하는 국내 작전자나 악의적인 영향 또는 선거 간섭 활동을 수행하는 정교한 외국 적대자”의 손에 있을 때 상당한 위협이 된다고 말했다.