러시아가 온라인 속임수 캠페인에 생성적 인공지능을 활용하고 있지만, 그 노력은 실패하고 있다는 메타의 보안 보고서에 따르면 그렇다.
페이스북과 인스타그램의 모회사인 메타는 지금까지 AI 기반 전술이 "단지 점진적인 생산성 및 콘텐츠 생성 향상"만을 제공하고 있으며, 메타는 속임수 영향 작전을 방해할 수 있었다고 밝혔다.
메타의 "조정된 비진정한 행동"에 대한 대응 노력은 생성적 AI가 미국 및 다른 국가의 선거에서 사람들을 속이거나 혼란스럽게 사용할 것이라는 우려가 커지는 가운데 이루어지고 있다.
러시아는 여전히 가짜 페이스북 및 인스타그램 계정을 사용하는 "조정된 비진정한 행동"의 주요 출처로 남아 있으며, 메타의 보안 정책 이사인 데이비드 아그라노비치는 기자들에게 이렇게 말했다.
2022년 러시아의 우크라이나 침공 이후, 이러한 노력은 우크라이나와 그 동맹국을 약화시키는 데 집중되어 있다고 보고서는 전했다.
미국 선거가 다가오면서 메타는 러시아 지원 온라인 속임수 캠페인이 우크라이나를 지지하는 정치 후보를 공격할 것으로 예상하고 있다.
페이스북은 수년간 선거 허위 정보의 강력한 플랫폼으로 사용되었다는 비난을 받아왔다. 러시아 작전자들은 페이스북과 다른 미국 기반 소셜 미디어를 사용하여 2016년 도널드 트럼프가 승리한 여러 미국 선거에서 정치적 긴장을 조장했다.
전문가들은 생성적 AI 도구인 ChatGPT나 Dall-E 이미지 생성기를 사용하여 즉석에서 콘텐츠를 만드는 것이 용이해짐에 따라 악의적인 행위자들로부터 전례 없는 허위 정보의 범람이 우려된다고 말했다.
AI는 이미지와 비디오를 생성하고, 텍스트를 번역하거나 생성하며, 가짜 뉴스 이야기나 요약을 작성하는 데 사용되었다고 보고서는 전했다.
메타는 속임수를 탐지할 때 계정의 행동을 살펴보며, 게시하는 콘텐츠보다는 행동 패턴에 주목한다.
영향 캠페인은 다양한 온라인 플랫폼에 걸쳐 있으며, 메타는 X(구 트위터)에서 게시물이 조작된 콘텐츠를 더 신뢰할 수 있게 보이도록 사용되는 것을 발견했다. 메타는 X 및 다른 인터넷 기업과 발견 사항을 공유하며, 허위 정보를 저지하기 위해 협력된 방어가 필요하다고 말했다.
"X에 관해서는, 그들은 여전히 전환 과정을 겪고 있다"고 아그라노비치는 속임수 팁에 대해 X가 행동하는지에 대한 질문에 답했다. "우리가 과거에 다뤘던 많은 사람들이 그곳에서 떠났다."
X는 신뢰 및 안전 팀을 축소하고, 허위 정보를 억제하기 위해 사용되었던 콘텐츠 조정 노력을 줄여 연구자들이 허위 정보의 온상이라고 부르는 환경을 만들었다.
