데이비드 실버버그는 토론토의 기자이자 편집자로, 지난 17년 동안 디지털 문화와 실리콘 밸리에 대해 보도해왔음.
내가 처음으로 가짜 AI 생성 비디오에 속아 넘어갔던 기억이 남음. 트위터, 지금은 X라고 불리는 곳에서 친구가 링크한 톰 크루즈가 기타를 치며 데이브 매튜스 밴드의 히트곡 'Crash Into Me'를 부르는 틱톡 비디오를 발견했음.
DMB 팬으로서 그 클립을 끝까지 듣지 않을 수 없었고, 그 후에 “이건 톰 크루즈의 스타일이 아닌데. 잠깐, 그가 기타를 칠 줄 아는 거야?”라는 생각이 들었음. 조사해보니, 이건 비주얼 및 AI 효과 아티스트인 크리스 유메가 만든 딥페이크 비디오였고, 톰 크루즈의 대역인 배우 마일스 피셔의 도움을 받았음.
나는 7년 넘게 프리랜서 기자로서 인공지능과 허위정보를 다뤄왔기 때문에 가짜 이미지, 비디오, 심지어 오디오를 식별할 수 있는 지식과 도구를 갖추고 있음. 하지만 일반적으로 캐나다 학생들은 그렇게 잘 준비되어 있지 않음.
너무 오랫동안 교육자들은 AI 생성 이미지에 대해 청소년들에게 어떻게 가르쳐야 할지에 대한 혼란에 빠져 있었음. AI 생성 콘텐츠의 위험성을 논의하는 데 수업 시간을 할애하는 것은 개별 교사에게 달려 있음. 이 콘텐츠는 우크라이나 대통령 볼로디미르 젤렌스키가 전쟁이 끝났다고 발표하는 것부터, 저스틴 트뤼도 총리가 금융 '로봇 트레이더'를 홍보하는 것, 도널드 트럼프 전 미국 대통령이 테일러 스위프트의 지지를 받는 것까지 다양함. 이 세 가지 AI 딥페이크 예시는 지난 2년 동안 온라인에서 퍼졌음.
우리는 딥페이크를 얼마나 쉽게 감지할 수 있는지에 대해 너무 자신감이 넘침. 2021년 연구에 따르면 “사람들은 딥페이크를 진짜 비디오로 착각하는 경향이 있으며, 자신의 감지 능력을 과대평가함”이라고 함. 이러한 위험한 가정은 재앙적인 결과를 초래할 수 있음: 정치당은 단 하나의 이미지나 비디오를 조작하여 우리의 믿음을 조작할 수 있고, 악의적인 행위자는 “위기에 처한 사랑하는 사람”의 이메일을 보내 돈을 요구할 수 있음. 심지어 더 비극적으로는 즉시 만나자고 요청할 수도 있음.
6월에 나는 토론토에서 열린 연례 충돌 회의에 참석했으며, AI의 '신'으로 알려진 제프리 힌튼의 기조 연설을 들었음. 그가 AI가 통제 불능 상태로 달려가는 위험성에 대해 언급한 많은 포인트 중 하나는 AI 시스템이 만든 딥페이크 비디오가 온라인에서 빠르게 퍼지고 있으며, 그 위험성에 대해 경고하는 것이 거의 없다는 것이었음.
“우리는 사람들에게 딥페이크를 보여주고 그것이 가짜인 이유를 정확히 설명함으로써 대중을 예방해야 함. 트럼프나 바이든이 그들이 하지 않은 일을 하는 비디오를 보여주는 것이 그 예임”이라고 말했음. 그는 다가오는 미국 선거가 이러한 딥페이크 비디오의 폭발을 초래할 것이라고 강조했음.
그의 말이 맞지만, 나는 한 걸음 더 나아가고 싶음. 성인이 가짜 콘텐츠와 진짜 콘텐츠의 차이를 이해하는 것이 중요하지만, AI 리터러시는 청소년부터 시작해야 함. 젊은 세대가 딥페이크를 감지하는 방법을 배울수록, 그들은 성인이 되었을 때 피드를 스팸으로 가득 채우는 쓰레기를 구별할 수 있는 능력이 더 강해질 것임. 하지만 그들은 혼자서는 할 수 없음.
학교 이사회와 교육 옹호자들은 캐나다 전역의 교실에서 AI 리터러시 과정을 의무화하도록 커리큘럼을 보장해야 함. 나는 이 교육이 수학과 영어만큼이나 필수적이라고 주장함. 오늘날의 청소년들이 기술에 능숙하고 가짜 게시물을 식별하는 데 능숙하다고 주장하더라도 말임. 딥페이크를 만드는 사람들은 항상 대중과 그들의 감지 시스템보다 한 발 앞서 있을 것이고, Grok-2와 같은 AI 시스템은 이제 실제 사람들을 딥페이크할 수 있게 해주고 있음. 이는 최근까지는 전례가 없는 현상임. 더욱 우려스러운 것은 구글이 최근에 사용자들이 곧 제미니 AI 도구를 통해 사람들의 이미지를 생성할 수 있도록 허용하겠다고 발표한 것임. 이는 이미지 생성 기능을 제거한 지 8개월 만의 일임.
AI에 대해 더 많이 배우는 것은 학생들에게 미래의 노동력에서 성공하는 데 도움이 되는 수요가 많은 기술을 제공할 것임. 우리가 아이들에게 코딩을 가르치는 것에 열정적이라면, 구글이나 마이크로소프트 또는 그들 자신의 스타트업에서 일할 준비를 시키기 위해, 딥페이크 이미지와 비디오를 식별하는 것의 중요성도 똑같이 진지하게 받아들여야 함.
최소한 캐나다 교육자들은 다른 기관들이 제안하는 것에서 영감을 받을 수 있음. 스탠포드 대학교는 캘리포니아의 교육자들이 AI의 이점과 위험에 대한 수업 계획을 추가하는 것을 도와주는 실험을 했음. “내 학교에는 AI에 대해 흥미를 느끼는 다른 교사들이 몇 명 있지만, 나머지는 하늘이 무너질까 걱정하고 있음”이라고 로스앤젤레스의 한 교사가 보도자료에서 말했음. “아이들이 속이는 것을 막는 것이 문제가 아님. 우리는 이 기술을 두려워할 필요가 없음. 편견을 unpack하고, 그것을 드러내고, 가르치고, 우리가 그것을 완화할 수 있음을 보여주자.”
캐나다에는 미래 지향적이고 걱정하는 교사들이 많겠지만, 많은 교육자들은 AI가 허위정보를 퍼뜨리는 역할에 대해 의구심을 가질 수도 있고, 현재의 수업 부담에 압도당해 있을 수도 있음. 이해할 수 있지만, 그들은 학교에서 AI 리터러시를 시행할 수 없음. 하지만 학교 이사회가 이 걱정스러운 추세를 인식한다면, 그들은 이 분야에서 변화를 주도할 수 있음.
