워싱턴 (AP) — 2024년 선거가 다가오면서, 생성적 인공지능의 대중화 이후 첫 선거에 대해 전문가들은 최악의 상황을 우려했음. 소셜 미디어에 AI가 생성한 딥페이크가 넘쳐나서 유권자들이 무엇을 믿어야 할지 혼란스러워할 것이라는 것이었음.
지금까지는 그런 일이 발생하지 않았음. 대신 유권자들이 보고 있는 것은 훨씬 더 터무니없는 것임: 전 대통령 도널드 트럼프가 고양이를 타고 공격 소총을 휘두르는 비디오. 공산당 복장을 한 수염 난 카말라 해리스 부통령. 트럼프와 해리스가 열정적으로 포옹하는 모습.
AI는 대선 캠페인에서 중요한 역할을 하고 있지만, 그것이 미국 대선에 위협이 될 것이라는 가장 큰 우려는 아직 실현되지 않았음. 가짜 AI 생성 이미지는 웹에서 자주 퍼지고 있지만, 그 중 많은 것들이 너무 만화 같고 터무니없어서 가장 순진한 관객조차도 진지하게 받아들이지 못함.
그럼에도 불구하고 이러한 밈은 문제가 될 수 있음. 눈길을 끄는 AI 생성 사진과 비디오는 때때로 재미를 추구하지만, 명확한 정치적 성향을 가진 잘못된 정보, 때로는 인종차별적인 메시지를 퍼뜨리는 유용한 도구가 되었음 — 후보자와 그 지지자들 또한 소셜 미디어에서 이를 공유하고 있음.
예를 들어, 트럼프와 그의 많은 동맹들은 아이티 이민자들이 오하이오 스프링필드에서 고양이와 개를 훔쳐 먹고 있다는 근거 없는 음모론을 반복적으로 홍보했으며, 관련된 AI 생성 밈도 퍼뜨렸음. 트럼프의 진실 소셜 계정에서 공유된 것 중 하나는 그가 고급 비행기에서 고양이와 흰색 오리들로 둘러싸인 모습이었음. 또 다른 것은 “우리를 먹지 않게 하세요, 트럼프에게 투표하세요!”라는 표지를 들고 있는 새끼 고양이들의 모습이었음.
온라인 선전 전문가인 프란체스카 트리포디는 이러한 AI 생성 이미지는 오래된 반이민 내러티브를 전파하는 새로운 바이럴 수단이라고 말했음.
“이 주장을 증폭시키는 밈은 결코 유머러스하지 않음. 선출된 공직자들이 이러한 이미지를 이용해 인종차별과 외국인 혐오를 지속시키는 것은 큰 문제임”이라고 트리포디는 말했음.
공화당원들은 이러한 이미지를 가벼운 농담으로 방어하며, 트럼프의 성격에서 비롯된 부산물이라고 주장했음.
“도널드 트럼프를 둘러싼 인격 문화가 그러한 과장된 소통 방식을 장려하고, 이를 코믹한 밈으로 바꾸는 경향이 있음”이라고 공화당 전략가 케일럽 스미스는 말했음. “목적은 오락이지 속이는 것이 아님. 그렇게 되어야 함.”
트럼프 지지자들만이 AI 밈을 만드는 것은 아니지만, 그들은 민주당원들보다 AI 이미지 생성기를 더 많이 사용하는 것으로 보임. 일부 좌파 사용자들은 트럼프의 캠페인을 공개적으로 지지하는 엘론 머스크를 조롱하는 AI 이미지를 게시했음. 민주당원들도 지난해 맨해튼 법원에서 재판을 받을 때 수갑을 찬 트럼프의 AI 생성 이미지를 게시했음.
하지만 카말라 해리스의 캠페인은 AI 생성 콘텐츠를 증폭시키는 데 주력하지 않고, 대신 TikTok 트렌드와 AI 모델을 필요로 하지 않는 다른 밈에 집중하고 있음.
“현재 생성적 AI의 유일한 공식 캠페인 사용은 데이터 분석 및 산업 표준 코딩 지원과 같은 생산성 도구에 국한됨”이라고 해리스 캠페인 대변인 미아 에렌버그는 말했음.
트럼프 캠페인 대변인 스티븐 청은 AP의 구체적인 질문에 응답하지 않았지만, 5월에 보낸 이메일 성명에서 캠페인이 어떤 AI 회사가 제공하는 도구를 “사용하거나 활용하지 않는다”고 말했음.
가짜, 오락적이며 종종 터무니없는 이미지를 사용해 정치적 포인트를 얻는 것은 결코 새로운 일이 아님. 하지만 조합된 포토샵 이미지나 정치 만화와 달리 AI 생성 이미지는 하이퍼리얼리즘으로 더 강력한 임팩트를 주며 정치적 메시지에 새로운 주목을 끌 수 있음.
스프링필드의 애완동물과 관련된 일부 이미지는 만화 같고 어리석었지만, 많은 사람들은 그것이 지역 사회에 대한 해로운 음모론을 지속시키고 있다고 느꼈음. 이 지역 사회는 이후 폭탄 위협을 받아 학교와 정부 건물의 대피를 초래했음.
“명백히 패러디인 밈은 한 가지임. 속이려는 의도가 명백한 것은 또 다른 것임”이라고 캘리포니아 민주당원 아담 시프 의원은 말했음. “그리고 우리는 이미 트럼프 캠페인이 그 경계를 흐리게 하고 있다는 것을 보고 있음.”
AI는 쉽게 만들어줌
생성적 AI 도구의 속도와 접근성 덕분에 클릭과 좋아요를 유도할 수 있는 터무니없는 정치 콘텐츠를 쉽게 만들 수 있음. 인터넷 연결이 있는 누구나 AI 이미지 생성기에 접근할 수 있어 캠페인들이 온라인 트렌드에 대응하고 메시지를 강화하는 저렴하고 편리한 방법이 되었음.
“캠페인들은 오랫동안 잘못된 정보와 허위 정보에 대처해야 했음. … 이는 새로운 문제가 아님. 하지만 AI가 허위 정보를 더 빠르고, 아마도 더 설득력 있게, 그리고 더 타겟팅된 환경에서 처리할 수 있게 해줌”이라고 버락 오바마의 2012년 재선 캠페인 디지털 디렉터 테디 고프는 말했음.
뉴욕에 기반을 둔 정치 평론가이자 변호사인 폴 인그라시아는 그로크를 통해 트럼프가 사자 굴에서 나오는 바이럴 이미지를 몇 초 만에 만들었고, 이를 자신의 뉴스레터에 넣어 트럼프 캠페인 직원들에게 보냈음. 트럼프의 진실 소셜 계정은 그날 그의 뉴스레터와 이미지를 게시했음.
“대통령과의 연락 담당자로부터 메시지를 받았고, 그들은 ‘대통령이 이미지를 좋아했어요, 어떻게 만들었나요? 누가 만들었나요?’라고 물었음. 나는 ‘아, 내가 만들었어요. 기사를 위해 만든 거예요’라고 대답했음. 그리고 그는 ‘좋은 일 계속하세요, 그가 좋아해요’라고 말했음.
AI를 정치 풍자와 선전에 사용하는 것은 미국에 국한되지 않으며, 인도네시아에서 네덜란드까지 선거에서 관찰되었음.
더 악의적인 딥페이크는 전 세계의 선거에 영향을 미치려 했음. 지난해 슬로바키아에서는 AI 오디오 클립이 리버럴당 당수를 사칭해 투표 조작에 대해 이야기했으며, 뉴햄프셔의 프라이머리에서는 조 바이든 대통령의 오디오 딥페이크가 민주당원들에게 로보콜로 발송되어 투표하지 말라고 촉구했음. 이 사건은 신속히 보도되었고 범죄 혐의로 이어졌음.
트럼프의 AI 생성 이미지 수용은 그가 과거에 했던 일부 발언과 상반됨. 올해 폭스 비즈니스와의 인터뷰에서 트럼프는 인공지능을 “매우 위험하다”고 말하며 “진화하는 기술로 인해 발생하는 문제에 대한 실제 해결책이 없다”고 언급했음.
일부 공화당원들은 트럼프와 공화당이 AI를 사용해 정치적 밈을 만드는 것에 대해 우려를 표명했음.
“나는 밈에 참여하지 않음. 나는 결코 그랬던 적이 없음. 앞으로도 그럴 생각이 없음”이라고 펜실베이니아 공화당원 브라이언 피츠패트릭은 말했음. “나는 그걸 믿지 않음.”
