인공지능(AI)의 빠른 발전은 이점과 위험을 모두 가져옴.
우려되는 트렌드 중 하나는 음성 클로닝의 오용임. 사기꾼들은 몇 초 만에 음성을 복제해 사람들을 속여 친구나 가족이 급히 돈이 필요하다고 믿게 만듦.
CNN을 포함한 뉴스 매체들은 이러한 유형의 사기가 수백만 명에게 영향을 미칠 가능성이 있다고 경고함.
기술이 범죄자들이 우리의 개인 공간을 침해하는 것을 더 쉽게 만들면서, 그 사용에 대해 조심하는 것이 그 어느 때보다 중요해짐.
음성 클로닝이란 무엇인가?
AI의 발전은 이미지, 텍스트, 음성 생성 및 기계 학습의 가능성을 창출함.
AI는 많은 이점을 제공하지만, 사기꾼들에게 개인을 돈으로 착취할 수 있는 새로운 방법을 제공함.
'딥페이크'라는 용어를 들어본 적이 있을 것임. AI를 사용해 유명인이나 정치인과 관련된 가짜 이미지, 비디오, 심지어 오디오를 생성하는 것임.
음성 클로닝은 딥페이크 기술의 일종으로, 짧은 오디오 샘플에서 사람의 음성 패턴, 억양 및 호흡을 캡처하여 디지털 복제본을 생성함.
음성 패턴이 캡처되면 AI 음성 생성기가 텍스트 입력을 해당 사람의 음성과 유사한 매우 사실적인 음성으로 변환할 수 있음.
기술이 발전함에 따라, 음성 클로닝은 단 3초의 오디오 샘플로도 가능해짐.
'안녕하세요, 누구 있나요?'와 같은 간단한 문구도 음성 클로닝 사기로 이어질 수 있으며, 더 긴 대화는 사기꾼이 더 많은 음성 세부 정보를 캡처하는 데 도움이 됨. 따라서 발신자의 신원을 확신할 때까지 통화를 짧게 유지하는 것이 가장 좋음.
음성 클로닝은 엔터테인먼트와 의료 분야에서 가치 있는 응용 프로그램이 있음. 예를 들어, 아티스트의 원격 음성 작업을 가능하게 하거나 언어 장애가 있는 사람들을 돕는 것임.
하지만 이는 심각한 개인 정보 보호 및 보안 문제를 제기하며, 안전 장치의 필요성을 강조함.
범죄자들이 어떻게 악용하는가
사이버 범죄자들은 음성 클로닝 기술을 이용해 유명인, 당국 또는 일반인을 사칭하여 사기를 저지름.
그들은 긴급성을 조성하고 피해자의 신뢰를 얻어 기프트 카드, 송금 또는 암호화폐를 통해 돈을 요청함.
이 과정은 YouTube와 TikTok과 같은 출처에서 오디오 샘플을 수집하는 것에서 시작됨.
그 다음, 기술이 오디오를 분석해 새로운 녹음을 생성함.
음성이 복제되면, 이는 기만적인 통신에 사용될 수 있으며, 종종 신뢰할 수 있는 것처럼 보이기 위해 발신자 ID를 스푸핑함.
많은 음성 클로닝 사기 사례가 뉴스에 보도됨.
예를 들어, 범죄자들은 아랍에미리트의 한 회사 이사의 목소리를 복제해 5,100만 호주 달러의 강도를 계획함.
뭄바이의 한 사업가는 두바이 인도 대사관의 가짜 전화로 음성 클로닝 사기의 피해자가 됨.
최근 호주에서는 사기꾼들이 퀸즐랜드 주지사 스티븐 마일스의 음성을 복제해 사람들을 비트코인에 투자하도록 속이려 함.
10대와 어린이들도 표적이 됨. 미국의 한 유괴 사기에서 10대 소녀의 목소리가 복제되어 부모가 요구에 따르도록 조작됨.
얼마나 널리 퍼져 있는가?
최근 연구에 따르면, 영국의 성인 28%가 지난해 음성 클로닝 사기를 경험했으며, 46%는 이러한 유형의 사기가 존재하는지조차 알지 못함.
이는 상당한 지식 격차를 강조하며, 수백만 명이 사기의 위험에 처해 있음을 나타냄.
2022년에는 거의 24만 호주인이 음성 클로닝 사기의 피해를 보고했으며, 재정적 손실은 5억 6,800만 호주 달러에 달함.
사람들과 조직이 어떻게 보호할 수 있는가
음성 클로닝이 초래하는 위험은 다학제적 대응이 필요함.
사람들과 조직은 음성 클로닝 기술의 오용으로부터 보호하기 위해 여러 가지 조치를 시행할 수 있음.
첫째, 대중 인식 캠페인과 교육이 사람들과 조직을 보호하고 이러한 유형의 사기를 완화하는 데 도움이 될 수 있음.
공공-민간 협력이 음성 클로닝에 대한 명확한 정보와 동의 옵션을 제공할 수 있음.
둘째, 사람들과 조직은 생체 보안과 생체 인식 기술을 사용하여 가짜 음성이 아닌 실제 음성을 인식하고 검증할 수 있는 새로운 기술을 활용해야 함. 음성 인식을 사용하는 조직은 다중 인증을 채택하는 것을 고려해야 함.
셋째, 음성 클로닝에 대한 수사 능력을 강화하는 것도 법 집행을 위한 중요한 조치임.
마지막으로, 관련 위험을 관리하기 위한 정확하고 최신의 규제가 각국에 필요함.
호주 법 집행 기관은 AI의 잠재적 이점을 인식하고 있음.
하지만 이 기술의 '어두운 면'에 대한 우려는 범죄자들이 '피해자를 겨냥한 인공지능'을 사용하는 것에 대한 연구를 촉구함.
또한, 이 문제를 해결하기 위해 법 집행이 사용할 수 있는 가능한 개입 전략에 대한 요구도 있음.
이러한 노력은 사이버 범죄와의 전반적인 국가 계획과 연결되어야 하며, 이는 예방적, 반응적 및 복원적 전략에 중점을 둠.
그 국가 계획은 서비스 제공자에게 주의 의무를 규정하며, 이는 대중과 소기업을 보호하기 위한 호주 정부의 새로운 법률에 반영됨.
이 법률은 사기를 예방, 탐지, 보고 및 방해하기 위한 새로운 의무를 목표로 함.
이는 통신사, 은행 및 디지털 플랫폼 제공업체와 같은 규제된 조직에 적용됨. 고객을 보호하기 위해 사이버 사기를 예방, 탐지, 보고 및 방해하는 것이 목표임.
위험 줄이기
사이버 범죄가 호주 경제에 약 420억 호주 달러의 비용을 초래함에 따라, 대중 인식과 강력한 보호 장치가 필수적임.
호주와 같은 국가들은 증가하는 위험을 인식하고 있음. 음성 클로닝 및 기타 사기에 대한 조치의 효과는 적응성, 비용, 실행 가능성 및 규제 준수에 따라 달라짐.
모든 이해관계자 — 정부, 시민 및 법 집행 — 는 경계를 유지하고 대중 인식을 높여 피해 위험을 줄여야 함.
