뉴햄프셔 유권자에게 조 바이든 대통령의 목소리를 흉내낸 기만적인 전화를 보낸 회사가 수요일에 100만 달러 벌금에 합의했다고 연방 규제 당국이 밝혔다.
로보콜을 전송한 음성 서비스 제공업체인 링고 텔레콤은 연방통신위원회(FCC)가 처음에 200만 달러 벌금을 요구한 집행 조치를 해결하기 위해 합의에 동의했다.
이 사건은 많은 이들에게 AI가 유권자 집단과 민주주의 전체에 영향을 미치는 방식으로 사용될 수 있는 불안한 초기 사례로 여겨진다.
한편, 전화를 주관한 정치 컨설턴트 스티브 크레이머는 여전히 600만 달러의 FCC 벌금과 주 형사 고소에 직면해 있다.
전화 메시지는 1월 21일에 수천 명의 뉴햄프셔 유권자에게 전송되었으며, 바이든의 목소리와 유사한 음성이 주의 대통령 예비선거에서 투표하는 것이 11월 일반 선거에서 투표할 수 없게 만든다고 잘못 제안했다.
크레이머는 마술사이자 자칭 '디지털 유목민'에게 녹음을 만들도록 돈을 지불했으며, 올해 초 AP통신에 그는 예비선거 결과에 영향을 미치려는 것이 아니라 AI의 잠재적 위험을 강조하고 입법자들이 행동하도록 촉구하고 싶었다고 말했다.
그가 유죄로 판명될 경우, 크레이머는 유권자 억압 혐의로 최대 7년의 징역형과 후보자 사칭 혐의로 최대 1년의 징역형에 처해질 수 있다.
FCC는 민사 벌금에 동의하는 것 외에도 링고 텔레콤이 엄격한 발신자 ID 인증 규칙과 요구 사항에 동의하고 고객 및 상류 제공업체가 제공하는 정보의 정확성을 더 철저히 검증하기로 합의했다고 밝혔다.
“우리 모두는 전화선에서 들리는 목소리가 주장하는 사람과 정확히 일치한다는 것을 알 권리가 있다”고 FCC 의장 제시카 로젠워셀은 성명에서 말했다. “AI가 사용되고 있다면, 그것은 소비자, 시민, 유권자가 접하는 모든 사람에게 명확히 밝혀져야 한다. FCC는 우리의 통신 네트워크에 대한 신뢰가 위태로워질 때 행동할 것이다.”
링고 텔레콤은 즉각적인 논평 요청에 응답하지 않았다. 이 회사는 이전에 FCC의 조치에 강력히 반대하며, 이를 소급적으로 새로운 규칙을 부과하려는 시도로 간주한다고 밝혔다.
비영리 소비자 옹호 단체인 퍼블릭 시티즌은 FCC의 조치를 칭찬했다. 공동 회장 로버트 와이스만은 로젠워셀이 소비자들이 진정한 콘텐츠를 받을 때와 AI 생성 딥페이크를 받을 때를 알 권리가 있다고 말한 것이 “정확히 맞았다”고 말했다. 와이스만은 이 사건이 그러한 딥페이크가 “우리 민주주의에 대한 존재론적 위협”을 어떻게 제기하는지를 보여준다고 말했다.
FCC 집행국장 로얀 에갈은 발신자 ID 스푸핑과 생성적 AI 음성 복제 기술의 조합이 “정치적 이점을 추구하는 국내 작전자나 악의적인 영향력 또는 선거 간섭 활동을 수행하는 정교한 외국 적대자”의 손에 있을 때 상당한 위협이 된다고 말했다.
