자신의 목소리가 한 번도 말해본 적 없는 단어를 말하는 것을 듣는 것은 불안한 경험이지만, 우리가 지금 살고 있는 2024년의 AI 미래에서는 거의 놀랍지 않음. 물론 AI는 이제 당신의 목소리를 복제하고 당신처럼 들리게 만들 수 있음! 거의 예상되는 일임.
내가 놀란 것은, 그걸 하는 게 얼마나 쉬운지임. 온라인에서 무료로 AI 음성 복제기를 이용할 수 있고, 몇 분 만에 내 목소리를 복제하고 원하는 말을 하게 할 수 있음. 훈련은 단 30초면 끝나고, 그 후에는 사용할 준비가 됨. 훈련이 끝난 후에는 그 목소리로 무엇을 하든지에 대한 실제 보안 점검이나 제한이 없음. 그래서 욕을 하게 하거나 누군가를 위협할 수도 있음. 거의 아무런 안전장치가 없음.
‘AI 음성 복제기’를 구글 검색창에 입력하면 선택지가 넘침. 많은 음성 복제기들은 목소리를 복제하기 전에 월정액에 가입해야 하지만, 꽤 많은 무료 옵션도 있음. 나는 몇 가지 무료 옵션을 시도해봤고, 몇몇은 비할 데 없는 정확성을 약속했지만, 내 목소리의 로봇 버전을 만들어서 아무도 속이지 못할 것 같음. 나는 내 아내를 속일 수 있는 목소리를 만들고 싶었음.
결국 Speechify를 선택했음. 사용이 간편하고 음성 복제기에 완전 접근할 수 있으며 30초 훈련 시간이 있었음. Speechify에 무료 계정을 만들고 마이크에 30초 이상 말하면 AI 목소리를 훈련할 수 있음. 훈련이 끝나면 텍스트를 입력하고 생성 버튼을 누르면 내 목소리로 말하는 것을 들을 수 있음.
보안이 걱정된다면, Speechify는 꽤 상세한 개인정보 보호 정책을 가지고 있으며, 정보 판매를 하지 않겠다고 약속하고 데이터 보호에 전념하고 있음. 그래서 업로드한 목소리는 오직 나만 사용할 수 있어야 함.
내가 만든 것이 꽤 설득력 있다고 생각했지만, 아내의 반응이 궁금했음. 아내 뒤에서 몰래 다가가 ‘내’ 목소리의 샘플 클립을 재생했음. 아내는 내 맥북 스피커에서 나오는 소리를 듣고 웃었지만, 인상 깊어했음. “사실, 너처럼 들리긴 하는데 더 좋게 들려”라고 말했음.
이게 바로 목소리 복제의 장점임. 말할 때 실수를 하지 않음. ‘음’이나 ‘아’ 같은 소리가 없고 모든 것을 처음부터 정확하게 말함. 팟캐스트의 인트로를 여러 번 녹음하고 다시 녹음해야 했던 경험을 생각하면, AI 음성 복제기의 명백한 활용 가능성을 볼 수 있음. 하지만 AI 음성 복제의 위험성도 존재함. 가짜 목소리로 무엇이든지 말하게 할 수 있음.
목소리 도용과 관련된 사기는 한 가지 우려 사항이지만, 보안 문제는 죽음 너머로도 영향을 미침. 최근 전설적인 영국 토크쇼 진행자 마이클 파킨슨이 새로운 팟캐스트 ‘Virtually Parkinson’을 시작한다고 발표했음. AI 덕분에 그의 목소리가 다시 실시간으로 사람들과 인터뷰할 수 있게 됨. 파킨슨의 경우 그의 유산이 팟캐스트를 전적으로 지지하고 있지만, 만약 허가가 없었다면?
BBC 자연사 프로그램의 할아버지인 데이비드 아텐버러는 자신의 목소리 AI 버전에 대해 “불안하다”고 표현했음. 우리는 AI가 인간의 개입 없이 팟캐스트를 만들 수 있는 시대에 살고 있으며, AI 스포츠 진행자도 등장하고 있음. 그래서 AI가 우리의 목소리를 복제하는 것이 이렇게 쉬운 것은 놀라운 일이 아니지만, 그 의미는 심각할 수 있음.
AI가 유명인사(혹은 그들의 유산)에게 사망 후에도 계속 일할 수 있는 옵션을 제공함에 따라, 유명인사와 개인 모두의 미래가 갑자기 매우 불확실해 보임.
