소셜 미디어 플랫폼 X가 다섯 개 주의 국무장관들이 선거 허위 정보를 유포하고 있다고 경고한 후 AI 챗봇을 수정함.
미시간, 미네소타, 뉴멕시코, 펜실베이니아, 워싱턴의 주요 선거 관계자들이 이달 초 일론 머스크에게 편지를 보내, 플랫폼의 AI 챗봇인 그록이 조 바이든 대통령이 2024년 대선에서 사퇴한 직후 주 투표 마감일에 대한 잘못된 정보를 생성했다고 불만을 제기함.
국무장관들은 챗봇이 선거 관련 질문을 하는 사용자에게 국가 국무장관 협회가 운영하는 투표 정보 웹사이트인 CanIVote.org로 안내할 것을 요청함.
이제 챗봇은 선거 관련 질문에 대한 응답을 나열하기 전에 "2024년 미국 선거에 대한 정확하고 최신 정보를 원하시면 Vote.gov를 방문해 주세요"라고 말함. 두 웹사이트는 "유권자들이 지역 선거 관계자와 연결될 수 있는 신뢰할 수 있는 자원"이라고 다섯 명의 국무장관들이 공동 성명에서 언급함.
"X가 플랫폼을 개선하기 위한 조치를 취한 것에 감사하며, 이 중요한 선거 해에 사용자들이 신뢰할 수 있는 출처에서 정확한 정보에 접근할 수 있도록 계속해서 개선하기를 희망함"이라고 그들은 말함.
그록은 X의 프리미엄 버전 구독자에게만 제공됨. 그러나 편지에 서명한 다섯 명의 국무장관들은 그록의 선거 허위 정보가 여러 소셜 미디어 플랫폼에서 공유되어 수백만 명에게 도달했다고 언급함. 국무장관들은 그록이 수정되기 전 10일 동안 잘못된 정보를 반복했다고 말함. 플랫폼은 댓글 요청에 응답하지 않음.
공식 투표 웹사이트로의 링크를 홍보하는 변경 사항은 그록이 선거와 관련된 오해의 소지가 있는 AI 생성 이미지를 만드는 능력에는 대응하지 않는 것으로 보임. 사람들은 이 도구를 사용하여 카말라 해리스 부통령과 도널드 트럼프 전 대통령을 포함한 후보자들의 가짜 이미지를 플랫폼에 쏟아내고 있음.
그록은 지난해 X 프리미엄 및 프리미엄 플러스 구독자를 위해 출시되었으며, 머스크는 이를 "대부분의 다른 AI 시스템에서 거부된 매운 질문에 답할" 수 있는 "반항적인" AI 챗봇으로 홍보함. 소셜 미디어 플랫폼은 선거에 대한 허위 정보를 퍼뜨리는 역할에 대한 감시가 증가하고 있음. 편지에서는 특히 그록과 같은 대규모 언어 모델에 기반한 챗봇의 경우 AI 제품에서 부정확성이 예상된다고 경고함.
머스크가 2022년 트위터를 인수하고 X로 이름을 바꾼 이후, 감시 단체들은 플랫폼에서 증오 발언과 허위 정보가 증가하고 있으며, 콘텐츠를 조정하던 직원들이 줄어들었다고 우려하고 있음.
전문가들은 이러한 조치가 2016년 미국 대선 이후 소셜 미디어 플랫폼이 정치적 허위 정보를 더 잘 다루기 위해 이룬 진전을 후퇴시키는 것을 나타내며, 올해 11월 선거를 앞두고 허위 정보 환경이 악화될 수 있다고 경고함.
