호주 ACT 상원의원 데이비드 포콕이 총리와 야당 지도자의 AI 생성 비디오를 제작하고 공유함. 이는 인공지능에 대한 긴급 법안을 통과시키기 위한 경고로 사용됨.
포콕 상원의원은 두 지도자가 도박 광고 금지를 약속하는 모습을 담은 비디오가 AI가 선거 캠페인에서 얼마나 쉽게 악용될 수 있는지를 강조한다고 말함.
다음 단계는?
딥페이크와 생성 AI 문제는 많은 논의가 있었지만 정부는 연방 선거 전에 규제가 통과될 것인지 확인하지 않음.
온라인에 공유된 비디오는 앤서니 알바니즈 총리의 목소리와 얼굴로 도박 광고의 전면 금지를 발표한 것으로 보임. 하지만 이 비디오는 완전한 조작으로, 독립 상원의원 데이비드 포콕이 만든 '딥페이크'임.
포콕 상원의원은 이 비디오와 함께 야당 지도자 피터 더튼을 사용한 비디오도 제작함. 이는 정치인들에게 그들의 모습이 얼마나 쉽게 조작될 수 있는지를 경고하기 위함임.
토요일 소셜 미디어에 비디오를 게시하며, 그는 의회가 AI를 선거 자료에서 사용하는 것을 금지하는 법안을 통과시킬 수 있는 시간이 단 5주밖에 남지 않았다고 강조함. 그렇지 않으면 자신들이 만든 딥페이크의 피해자가 될 위험이 있다고 경고함.
포콕 상원의원은 "이제 정부가 민주주의를 보호하고 선거가 아이디어의 경쟁으로 치러지도록 보장할 때"라고 말함. "호주인들이 투표소로 돌아오기 전에 규제할 시간이 빠르게 지나가고 있음."
이 비디오는 알바니즈 총리를 겨냥해 분노를 일으킬 가능성이 높음. 이는 노동당 내에서 혼란을 일으킨 주제임.
정부는 도박 광고의 영향을 줄이기 위한 법안 도입을 반복적으로 지연시켜 왔으며, 이는 도박 광고 전면 금지 권고안을 약화시키려는 뒷줄 반란 때문임.
선거에서의 딥페이크 문제는 더 많은 생성 AI 도구가 자유롭게 사용 가능해짐에 따라 더욱 두드러지게 나타남.
해외에서는 슬로바키아의 최근 총선 이틀 전에 딥페이크 녹음이 논란을 일으켰으며, 이는 해당 국가의 진보당 지도자가 슬로바키아 선거의 무결성을 어떻게 타협했는지를 논의하는 내용이었음.
특별 주무부 장관 돈 패럴의 대변인은 정부가 선거에서 AI 사용 규제에 대한 호주 선거 위원회의 조언을 고려하고 있다고 말함. "이 기술은 우리가 멈출 수 있는 것이 아니며, 사라지지 않을 것임. 우리는 호주인들이 고의적으로 잘못된 정보와 콘텐츠로부터 보호받을 수 있는 방법을 찾아야 함."
