도널드 트럼프가 이번 주에 자신의 대통령 선거 캠페인을 지지하는 테일러 스위프트와 그녀의 팬들을 잘못 묘사한 AI 생성 이미지를 공유했을 때, 전 미국 대통령은 우파 미디어 인플루언서를 지원하고 허위 정보를 퍼뜨린 이력이 있는 불투명한 비영리 단체의 작업을 확대하고 있던 것임.
트럼프가 자신의 진실 소셜 플랫폼에 게시한 여러 이미지들은 "스위프티스 포 트럼프" 티셔츠를 입은 디지털 렌더링된 젊은 여성들을 보여주었으며, 이는 존 밀턴 자유 재단의 작품임. 지난해 설립된 이 텍사스 기반 비영리 단체는 "독립 저널리스트를 지원하고 민주주의의 기초를 강화하는" 것을 목표로 하는 언론 자유 단체로 자신을 포장하고 있음.
이 단체의 일상적인 운영은 X에서 참여 유도 콘텐츠를 공유하고, 고등학교 2학년이 의장을 맡고 있는 "펠로우십 프로그램"을 위해 수백만 달러를 기부자에게 요청하는 것으로 보임. 이 프로그램은 글렌 그린왈드, 앤디 노, 라라 로건과 같은 트위터 인물들에게 10만 달러를 수여할 예정임. 존 밀턴 자유 재단은 운영 및 펠로우십 프로그램에 대한 질문에 대한 요청에 응답하지 않음.
수개월 동안 보수 미디어 인플루언서를 리트윗하고, 엘론 머스크의 주장인 자유로운 발언이 좌파 세력에 의해 공격받고 있다는 주장을 반복해온 이 단체의 메시지 중 하나가 트럼프에게 전달되었고, 이후 그의 수백만 지지자들에게 퍼짐.
허위 정보 연구자들은 생성 AI가 잘못된 콘텐츠를 만드는 장벽을 낮추고 선거와 관련된 정보에 위협이 될 수 있다고 경고해왔음. 머스크의 xAI 회사가 거의 규제되지 않은 Grok 이미지 생성기를 출시한 이후, 트럼프, 카말라 해리스 및 기타 정치 인물들의 묘사를 포함한 AI 콘텐츠가 급증함. 밀턴 자유 재단은 소셜 미디어에 이른바 AI 슬롭을 쏟아내는 많은 소규모 그룹 중 하나임.
니치 비영리 단체의 AI 슬롭이 트럼프에게 전달됨
AI 이미지가 X에서 급증하는 동안, 보수적인 @amuse 계정은 AI 생성된 스위프트 팬 이미지를 30만 명 이상의 팔로워에게 게시함. 이 게시물의 텍스트는 "풍자"로 라벨이 붙어 있었고, "존 밀턴 자유 재단이 후원함"이라는 워터마크가 있었음. 트럼프는 @amuse의 트윗 스크린샷을 진실 소셜에 게시함.
@amuse 계정은 자체적으로도 상당한 도달 범위를 가지고 있으며, X에서 약 39만 명의 팔로워와 매일 수십 개의 게시물을 올림. @amuse를 운영하는 사람은 밀턴 재단의 투자자 제안서에 컨설턴트로 기재된 알렉산더 뮤즈로, 선거 음모론을 탐구하는 우파 논평 서브스택을 운영하고 있음. @amuse 계정은 뮤즈와 많은 연결고리를 가지고 있으며, X 계정은 뮤즈가 자신의 링크드인 페이지에 게시하는 동일한 기사를 서브스택에 게시하고 있음. 뮤즈의 스타트업 자금 확보 방법에 대한 책은 그가 ChatGPT에게 머스크인 척 하게 하고 비즈니스 조언을 요청하는 예시를 포함하고 있으며, 그 서브스택 계정을 출판사로 나열하고 있음.
머스크를 포함한 저명한 계정들이 @amuse의 게시물을 공유하고 답글을 달았으며, 최근에는 트럼프가 다스 베이더와 싸우는 AI 묘사와 해리스의 성적 이미지가 포함된 게시물이 있음. 이 계정은 해리스가 "국경 차르"로서 수십만 명의 아동을 인신매매자에게 넘겼다고 주장하는 잘못된, 친트럼프 헤드라인을 게시함. 이 헤드라인은 AI 생성된 스위프티스 포 트럼프 이미지와 마찬가지로 "존 밀턴 자유 재단이 후원함"이라는 워터마크가 붙어 있음.
17세기 영국 시인 및 수필가의 이름을 딴 존 밀턴 자유 재단은 온라인에서 작은 존재감을 가지고 있음: 웹사이트, 투자자 제안서 및 500명 이하의 팔로워를 가진 X 계정. 이 단체의 팀은 문서에 따르면 달라스-포트워스 지역에 기반을 둔 5명으로 구성되어 있으며, 공화당 정치에서 다양한 경험을 가지고 있음. 뮤즈의 딸은 비영리 단체의 사이트에서 10학년 우등생으로 묘사되며 밀턴 재단의 "펠로우십 의장"으로 활동하고 있음.
이 재단의 명시된 목표는 주요 기부자로부터 200만 달러를 모금하여 우파 미디어 인플루언서로 구성된 "펠로우" 목록에 10만 달러의 보조금을 수여하는 것임. 여기에는 QAnon에 영감을 받은 발언으로 최근 뉴스맥에서 해고된 전 CBS 기자이자 극우 스타인 라라 로건과 반트랜스 아동 도서의 저자가 포함됨. 이 조직은 이 돈이 이미 확립된 인플루언서들이 "1년 이내에 10배 이상 도달 범위를 늘릴 수 있게 할 것"이라고 믿고 있음.
재단 사이트에 나열된 펠로우 중 단 한 명만이 자신의 X 프로필에서 이 조직을 언급하고 있으며, 아무도 그 계정을 팔로우하지 않음. 그러나 @amuse 계정은 그룹의 커뮤니티 페이지에 대한 두드러진 링크를 가지고 있으며, 재단은 종종 그 게시물과 상호작용함.
재단이 실제로 기부할 돈이 있는지, 그리고 2024년 펠로우십 클래스에 나열된 모든 미디어 인플루언서들이 이 조직에 대해 알고 있는지는 불확실함. 텍사스 기반의 한 계정이 반백신 콘텐츠를 게시하며 자신의 바이오에 "JMFF" 펠로우라고 기재하고 있지만, 다른 계정들은 어떤 연결도 광고하지 않음. 자유 재단의 최신 세금 기록은 총 수입이 0에서 5만 달러 사이인 비영리 단체로 분류되며, 이는 그들이 찾고 있는 수백만 달러와는 거리가 멀음.
이 조직의 이사회에는 3억 달러를 다양한 비영리 단체를 위해 모금했다고 주장하는 경험이 풍부한 공화당 조직가인 브래드 메리트 의장, 1985년과 1986년 텍사스 공화당의 부국장으로 활동했던 시레 산체스 이사, 그리고 은퇴한 의료 산업 임원인 마크 카라파가 포함되어 있음.
