아이폰을 사용해서 사회에 위험을 초래할 수 있는 정말 끔찍한 AI 사진을 만들 수 있다는 사실 알고 있었음? 픽셀 9로 할 수 있다는 건 많은 사람들이 알겠지만.
내가 말하는 건 픽셀 9의 새로운 픽셀 스튜디오와 구글의 매직 에디터 소프트웨어의 일환인 '재구성' 도구임. 이걸 사용하면 사진을 다른 것으로 변형시키거나 심지어 공중에서 사진을 만들어낼 수 있음. 그리고 이건 종종 매우 그럴듯하게 보임—비록 그게 어떤 우주에서도 100% 현실이 아닌 것이라도.
구글이 이렇게 함. 구글의 이미지FX 덕분에 픽셀 9가 없어도 마음속의 AI 사진을 만들 수 있음. 구글 크롬을 사용할 수 있는 모든 스마트폰에서 작동함.
구글은 잠시 잊어버려도 됨. 픽셀 스튜디오와 같은 기능을 제공하는 모바일 친화적인 웹사이트가 많음. 온라인에서 닭이 테러 행위를 하는 사진을 만드는 곳을 여러 군데 찾았고, 몇 분밖에 걸리지 않았음. 어디서 찾는지 말해주진 않겠음. 구글이나 내가 한 것처럼 빙을 사용하면 쉽게 찾을 수 있음.
재미있는 사실: 그런 곳 중 어느 곳도 구글이 아님. 구글은 테러를 저지르는 닭이나 다른 어떤 것도 만들지 않음. 구글은 AI 도구와 이를 사용하는 사람들이 따라야 할 규칙이 있음. 만약 누군가가 그 규칙을 어길 방법을 찾으면, 구글이 이를 수정할 수 있도록 신고할 수 있는 곳이 있음.
AI는 멍청함, 지능이 아님. 그래서 어떤 것들은 빠져나갈 수 있음. 구글 대변인은 버지에 "때때로 일부 프롬프트가 이 도구들의 가드레일에 도전할 수 있으며, 우리는 우리가 마련한 안전장치를 지속적으로 향상하고 정제하는 데 전념하고 있다"고 말했음.
이런 건 신경 쓰지 않음. 나쁜 의도를 가진 나쁜 사람들은 나쁜 사진을 만들 방법을 찾을 것이고, 그렇게 해온 지 오래임. AI는 쓰레기통 불꽃놀이 같지만, 이런 것들을 가능하게 하는 마법의 도구는 아님. 단지 사람들이 다른 방법을 배우는 데 5분을 쓰지 않고도 할 수 있게 해줄 뿐임.
상식적으로 생각하고 비현실적이거나 어리석은 것에 대해 믿지 말아야 함. 너는 로봇이 아니니까, 뇌를 사용하면 모든 게 괜찮아질 것임.
내가 신경 쓰는 건 구글이 관련될 때마다 일어나는 과도한 반응임. 구글이 정말 멍청하고 악한 일을 할 때 싫어하는 건 좋지만, 우리는 그걸 더 높은 기준으로 평가해야 함. 나쁜 사람들이 나쁜 일을 할 것이라고 해서 구글이 잘못이라고 주장하는 건 나쁜 저널리즘임.
빙이나 덕덕고를 사용해서 네 스마트폰과 함께 작동하는 웹사이트를 찾아서 구글의 매직 에디터와 같은 일을 할 수 있음. 삼성폰, 모토로라폰, 아이폰을 사용할 수 있음. 구글을 완전히 배제하고도 같은 결과를 얻거나, 더 나쁜 결과를 얻을 수 있음. 왜냐하면 모든 AI 회사가 구글이 갖고 있는 것처럼 보이는 약한 AI 가드레일을 갖고 있지 않기 때문임.
애플이 이번 가을에 이미지 놀이터를 출시하면, 사람들은 코카인을 흡입하는 돼지나 감금된 아이들 같은 랜덤한 끔찍한 사진을 보여줄 것임. 하지만 기술 관련 출판물들이 애플이 이런 일이 발생하도록 '허용'했다고 비난하는 건 보지 못할 것임.
