악의적인 ChatGPT 계정 집단이 악명 높은 사이버 범죄 집단과 연관되어 있으며, 유권자에게 영향을 미치려는 콘텐츠를 퍼뜨리려 하다가 OpenAI에 의해 비활성화됨.
게시된 콘텐츠는 여러 주제를 다루었으며, 특히 미국 선거, 올림픽에서의 이스라엘의 존재, 가자 지구의 갈등에 초점을 맞춤. OpenAI의 보고서에 따르면, 이 콘텐츠는 의미 있는 참여를 얻지 못했으며, 대부분의 게시물은 매우 적은(혹은 전혀) 좋아요를 받음.
ChatGPT가 생성한 콘텐츠는 진보적 및 보수적 뉴스 사이트로 가장한 장문의 기사도 포함되어 있었으며, 'Westland Sun', 'EvenPolitics', 'Nio Thinker'와 같은 핸들을 사용함.
OpenAI는 "AI 생성 콘텐츠의 남용을 방지하고 투명성을 개선하는 데 전념하고 있다"고 언급. "이는 공공 여론을 조작하거나 정치적 결과에 영향을 미치려는 은밀한 영향 작전을 탐지하고 중단하는 작업을 포함한다. 이는 2024년에 열리는 많은 선거와 관련하여 특히 중요하다. 우리는 올해 이 분야에서의 작업을 확장했으며, 우리의 AI 모델을 활용하여 남용을 더 잘 탐지하고 이해하고 있다"고 덧붙임.
이 캠페인 뒤에 있는 그룹인 Storm-2035는 최근 Microsoft에 의해 미국 선거에서의 온라인 이란 영향력을 조사한 보고서에서 위협 활동 집단으로 확인됨.
Microsoft는 이 캠페인을 "미국 유권자 그룹과 정치적 스펙트럼의 반대편에서 극단적인 메시지를 통해 적극적으로 소통하고 있다"고 설명함.
Microsoft의 위협 분석 센터(MTAC)는 올해 초 이란, 러시아, 중국이 미국 선거가 다가오면서 사이버 영향력 캠페인을 강화할 것이라고 예측함.
2024년 미국 대통령 선거가 다가오면서 외국 위협 행위자들의 악의적인 사이버 활동 증가가 이미 보고됨. 다양한 전술이 사용되었으며, 허위 정보 캠페인, 피싱 공격, 해킹 작전 등이 포함됨.
이 공격의 목표는 정치적 과정을 방해하는 것으로 보임. 정보 출처, 공적 인물, 정치 구조에 대한 공공의 신뢰를 약화시킴으로써 외국 위협 행위자들은 미국 정치 시스템의 기초를 목표로 함. 유권자들의 마음속에 불신, 혼란, 두려움을 퍼뜨리는 것은 이미 분열된 미국 사회를 더욱 심화시키는 데 기여함.
인공지능의 발전은 허위 정보를 쉽게 개발하고 퍼뜨릴 수 있게 하였으며, 맞춤형 콘텐츠가 그 어느 때보다 많이 생성되고 있음. 우리의 조언은 비판적으로 생각하고 가능한 한 출처를 검토하는 것임.
/cdn.vox-cdn.com/uploads/chorus_asset/file/25565607/DSCF0031.jpg)
