일론 머스크의 AI 챗봇 그록(Grok)의 최신 버전이 수요일에 새로운 이미지 생성 도구를 선보였음. 이 도구는 인공지능 산업에서 표준으로 자리 잡은 대부분의 안전 장치가 부족함.
그록의 새로운 기능은 현재 X의 유료 구독자에게만 제공되며, 이전 트위터에서 정치인과 유명인들의 기괴하고 공격적인 AI 생성 이미지가 쏟아졌음.
이 이미지 생성기는 OpenAI의 ChatGPT와 같은 유사한 AI 도구들이 잘못된 정보와 남용에 대한 규칙을 위반하여 차단한 다양한 이미지를 생성할 수 있음. 가디언이 검토한 프롬프트와 이미지에는 도널드 트럼프가 비행기를 세계무역센터에 날리는 모습과 예언자 무함마드가 폭탄을 들고 있는 모습, 그리고 테일러 스위프트, 카말라 해리스, 알렉산드리아 오카시오-코르테즈가 란제리를 입고 있는 모습이 포함되어 있었음. 이들은 이미 온라인 괴롭힘의 빈번한 표적임. 반면 ChatGPT는 실제 폭력, 종교적 인물에 대한 경 disrespect, 노골적인 콘텐츠를 금지하는 서비스 약관을 인용하며 이러한 이미지 요청을 거부함.
그록의 이미지 생성기는 대부분의 다른 AI 시각화 도구들이 저작권이 있는 캐릭터에 대한 프롬프트를 거부하는 것과 달리, 저작권이 있는 캐릭터에 대한 요청도 거부하지 않음. 예를 들어, 그록은 히틀러에게 경례하는 미키 마우스와 헤로인을 사용하는 도널드 덕의 이미지를 생성했음. 디즈니는 이에 대한 코멘트를 제공하지 않았음.
머스크는 수요일에 그록의 규제되지 않은 AI 이미지를 즐기는 듯 보였으며, "그록은 세계에서 가장 재미있는 AI"라고 트윗했음.
대부분의 주요 AI 이미지 생성기는 초기의 규칙이 거의 없는 시기를 지나 꽤 엄격한 정책을 가지고 있음. 그러나 사용자들은 이러한 안전 장치를 우회하려고 자주 시도함. 이러한 더 확립된 도구들은 일반적으로 실제 인물을 포함한 정치적이고 성적인 이미지를 생성하는 것을 금지함. 예를 들어 OpenAI는 "공식 인물의 이름을 요청하는 경우 요청을 거부할 것"이라고 명시함.
그록은 생성할 수 있는 이미지에 대한 일부 금지가 있는 것으로 보이며, 완전한 누드 이미지를 요청했을 때 "안타깝게도 그런 종류의 이미지를 생성할 수 없다"고 응답함. X는 2021년부터 비동의 누드에 대한 정책을 가지고 있으며, 이는 주체의 동의 없이 생성된 노골적인 콘텐츠를 공유하는 것을 금지함. 많은 X의 정책은 머스크가 플랫폼을 인수한 이후로 느슨한 집행을 보임.
그록이 "저작권 법을 위반하는 이미지를 생성해 달라"고 요청했을 때, "저작권 법을 의도적으로 위반하는 콘텐츠를 생성하거나 도와주지 않겠다"고 응답했으나, "디즈니의 저작권이 있는 만화를 만들어 달라"고 요청했을 때는 현대 시대의 미니 마우스 이미지를 생성했음. 정치적 폭력과 관련된 이미지를 요청했을 때는 가변적인 결과를 보였음. 해리스와 조 바이든은 책상에 앉아 있는 모습으로 묘사되었으나, 트럼프는 검은 손을 가진 채 누워 있고 폭발이 뒤에 있었음.
머스크는 지난해 11월 xAI 회사의 일환으로 그록을 출시했으며, OpenAI의 ChatGPT와 같은 더 인기 있는 챗봇에 대한 경쟁자로 자리매김하고 있음. 머스크는 그록을 "최대 진실 추구 AI"로 마케팅하며 다른 챗봇들이 다루기를 거부한 문제에 대한 답변을 제공할 것이라고 주장했으나, 그의 회사는 허위 정보를 퍼뜨린 것에 대해 연구자들과 법률가들로부터 비판을 받았음. 이달 초 다섯 명의 미국 국무장관들은 머스크에게 해리스가 일부 주에서 투표할 수 없다는 잘못된 정보를 퍼뜨린 후 그 챗봇을 수정할 것을 촉구했음.
이미지 생성 도구와 그들이 잘못된 정보를 생성할 수 있는 능력, 그리고 인종차별적 또는 성차별적 괴롭힘에 사용될 수 있는 콘텐츠는 AI로 구동되는 더 많은 제품을 구축하기 위해 서두르는 대기업들에게 지뢰밭이 되었음. 구글, 마이크로소프트, OpenAI는 모두 그들의 이미지 생성 도구에 대한 반발에 직면했음. 구글은 나치 시대 군복을 입은 흑인 군인과 같은 역사적이지 않은 이미지를 생성한 후 Gemini 텍스트-이미지 도구를 중단했음.
성적 딥페이크의 확산은 X에서 오랜 문제로 남아 있음. 올해 초, AI로 만들어진 테일러 스위프트의 포르노 이미지가 X에서 널리 퍼졌고, 이는 X와 AI 회사들에 대한 강한 비판을 촉발했으며, 법률가들은 비동의 AI 생성 이미지의 피해자들을 위한 법적 구제를 만들기 위한 법안을 도입했음.
트럼프, 해리스, 오카시오-코르테즈의 대변인은 코멘트 요청에 응답하지 않았음. X에 보낸 코멘트 요청은 플랫폼의 표준 자동 응답을 생성했음: "지금 바쁘니 나중에 다시 확인해 주세요."
