AI의 다양한 응용 프로그램이 재미있지만 여전히 경고하는 디지털 경로를 따라 재앙으로 이어질 것이라는 확신을 갖기 쉽다.
'슬롭'이라는 용어가 있다. 이는 소셜 미디어에서 시선을 끌기 위해 AI가 생성한 그래픽 콘텐츠를 지칭하는 말이다. 이 콘텐츠는 경이롭고 초현실적인 이미지로 사람들의 참여를 유도한다. 내 페이스북 피드는 80년대 쓰레기 공상과학 영화, 반짝이는 폴리에스터 의류, 흡연자 주름을 위한 크림 광고로 가득 차 있다. 스타워즈 에피소드 1의 정지 화면을 클릭한 것이 원인일지도 모른다.
이상한 것에 매료되지 않은 사람들은 익명의 소셜 미디어 계정에서 AI로 향상된 이미지를 통해 아름다움에 위험하게 유혹당할 수 있다. 역사학자와 극단주의 연구자들은 이러한 계정이 백인 유럽의 업적을 우월하게 홍보하는 '고대에서 극우로'의 선전 파이프라인을 형성하고 있다고 지적했다. 그 꿈같은 도서관과 로마 기둥은 아름답지만, 백인 우월주의의 암호화된, 가짜 지식인적 신념으로 사용자들을 유인하는 미끼이기도 하다.
내 개인적인 불안은 트럼프의 근육 소설이나 루크 스카이워커가 폭파된 복서 차에서 인생 선택을 고민하는 것보다 훨씬 더 넓다. 나는 호주와 다른 나라의 수천 명의 작가 중 한 명으로, 로열티 수표에 의존해 전화 요금을 내는 사람이다. 작년, 내 작품이 메타와 다른 대기업의 AI 모델 훈련을 위해 수집되었다는 사실을 알게 되었다. 우리는 도서관에서 한 페이지 복사하는 데 드는 돈보다 적은 보상도 받지 못했다. AI가 자가 출판 시장에 등장하면서 우리는 실망감을 느꼈다.
허위 정보 연구자로서, 나는 선거에 대한 AI의 영향이 걱정된다. X의 억만장자 소유자가 AI로 생성된 비디오로 카말라 해리스를 비난하는 트윗을 올리는 것부터, 내가 무심코 공유한 AI 생성 '트럼프 달력'까지, AI의 이미지 생성 능력은 허위 정보 방지 활동가들에게 걱정거리가 아니다. '진짜' 목소리의 인상을 만들어 댓글 섹션을 장악하고, 여론조사를 초과하며, '뉴스' 출처를 발명하는 것은 몇 초 만에 가능하다.
AI 앱의 구체적이고 악의적인 사용을 이해하기 위해, 나는 하나를 구매했다. 이 구매는 늦은 ADHD 진단과 맞물려 있었고, 이는 내가 만난 사람들에게 전혀 놀라운 일이 아니었다. 기술이 어두운 면에서 무엇을 할 수 있는지 실험하면서, 나는 내 새롭게 이해된 증후군적 한계에 대해 무엇을 할 수 있을지 실험했다. 몇 달 후, 나는 보상을 느끼고 있다. 이 기술은 내 뇌의 전기 화재를 진압하는 데 도움을 주고 있다.
ADHD의 주요 고통 중 하나는 간단한 작업에 대해 사람들에게 도움을 요청하는 것에 대한 수치심이다. 로봇은 판단이 없다. 은행에서 온 편지를 요약하는 것만큼이나 내 일정이 과도하다는 것을 상기시켜준다. 호주 정부는 안전한 AI 사용을 위한 가이드라인을 마련하기 위해 의견을 요청하고 있다. 하지만 AI의 악의적인 사용을 규제하려는 시도는 상업화, 극단주의자 모집, 선거 간섭, 저작권 도용 등 막대한 권력을 가진 악의적인 이해관계와 맞서고 있다.
하지만 나는 AI 비관론자가 되지 않기로 했다. 내 삶에서의 유용성을 전파하면서도 강력한 규제를 위해 싸울 수 있다. 멜빈 크란즈버그는 "기술은 좋지도 나쁘지도 않다; 중립적이지도 않다"고 말했다. 우리는 그것을 도덕적으로 만들 선택이 있다.
적어도, 친구들 – 로봇이 그렇게 말해준다.
