인공지능(AI)은 디지털 세계에 많은 변화를 가져왔으며, 이로 인해 이점과 새로운 위험이 생겼음.
가장 걱정스러운 위험 중 하나는 딥페이크 기술의 증가임.
딥페이크는 AI를 사용하여 실제 사람의 외모와 목소리를 복사한 가짜 이미지, 비디오 또는 오디오임.
이러한 가짜 미디어는 매우 탐지하기 어려움.
최근 몇 년 동안 딥페이크는 온라인 사기의 도구로 사용되며, 사기꾼들이 무고한 피해자들로부터 막대한 금액을 훔치고 있음.
딥페이크 기술: 작동 방식
딥페이크 기술은 새로운 것이 아니지만 최근 몇 년 동안 많이 발전했음.
AI 도구는 이제 사람이 실제로 하지 않은 말을 하거나 행동하는 것처럼 보이는 가짜 비디오를 만들 수 있음.
사기꾼들은 인터뷰나 공개 연설과 같은 사람의 실제 비디오를 사용하고, AI를 사용하여 입술 움직임과 목소리를 새로운 스크립트에 맞게 변경함.
이로 인해 그 사람이 실제로 하지 않은 말을 하는 것처럼 보이게 됨.
예를 들어, 테슬라 CEO인 일론 머스크의 비디오는 종종 사기에 사용됨.
가짜 비디오는 매우 설득력이 있어 조심스러운 시청자도 속일 수 있음.
딥페이크 사기의 매력
사기꾼들은 머스크와 같은 유명하고 많은 사람들에게 신뢰받는 인물을 선택함.
머스크는 암호화폐와 새로운 기술에 관심이 있는 사람들을 포함한 많은 팬층을 보유하고 있음.
이로 인해 그는 딥페이크 사기의 이상적인 표적이 됨.
특히 사기꾼들이 가짜 투자 계획을 추진할 때 더욱 그러함.
비디오는 종종 빠르고 높은 수익을 약속하며, 이는 사람들이 제안이 진짜인지 확인하지 않고 투자하도록 유도함.
이러한 AI 기반 비디오는 저렴하고 빠르게 제작되며, 종종 Facebook과 YouTube와 같은 소셜 미디어 플랫폼에 나타나 넓은 청중에게 도달함.
사기꾼들은 고급 입술 동기화 기술과 목소리 복제 도구를 사용하여 설득력 있는 비디오를 만듦.
머스크의 실제 영상을 시작으로 하는 경우가 많음.
딥페이크는 특히 암호화폐 사기에서 널리 퍼져 있으며, 머스크는 분석된 딥페이크 사기의 거의 25%에서 가장 많이 모방된 인물임.
특히 암호화폐와 관련된 경우에는 거의 90%의 사례에서 등장함.
전문가들은 조직 범죄 그룹이 재정적 이익의 잠재력을 인식함에 따라 딥페이크 사기가 계속 증가할 것이라고 예측함.
현재의 딥페이크 기술은 완벽하지 않지만, 목소리나 입술 동기화에서 가끔 결함이 발생하더라도 개선되고 있어 이러한 사기를 탐지하고 예방하기가 점점 더 어려워지고 있음.
실제 사례: 스티브 보샴프의 경우
딥페이크 사기가 어떻게 삶을 망칠 수 있는지를 보여주는 한 예는 82세의 은퇴자 스티브 보샴프의 이야기임.
보샴프는 수입을 늘리고 싶어했으며, 머스크가 새로운 투자 계획을 추천하는 비디오를 보았을 때 관심을 가졌음.
비디오는 실제 같고 설득력이 있었기에 보샴프는 처음에 소액을 투자했음.
하지만 그는 점점 더 많은 투자를 하게 되었고, 결국 은퇴 계좌에서 690,000달러 이상을 잃게 됨.
그 돈은 딥페이크 기술을 사용하여 보샴프를 속인 사기꾼 그룹에게 갔음.
그가 사기라는 것을 깨달았을 때는 이미 늦었음.
딥페이크 사기의 광범위한 사용
보샴프의 이야기는 많은 사례 중 하나일 뿐임.
최근 몇 달 동안 인터넷에서는 사기를 위한 딥페이크 비디오가 급증하고 있음.
이 비디오는 만들기 쉽고 저렴하며, 비용이 10달러에 불과하고 몇 분 만에 생성될 수 있음.
사기꾼들은 종종 인터뷰나 공개 연설과 같은 실제 비디오로 시작하여 AI를 사용하여 가짜 버전을 만듦.
이 비디오는 소셜 미디어에서 퍼지며, Facebook과 YouTube와 같은 플랫폼에서 유료 광고로도 나타나 사기꾼들이 빠르게 넓은 청중에게 도달하도록 도움을 줌.
딥페이크 사기의 글로벌 영향
딥페이크 사기의 증가는 미국만의 문제가 아님.
이 비디오 뒤에 있는 사기꾼들은 종종 인도, 러시아 및 동유럽과 같은 국가에 기반을 두고 있음.
그들은 딥페이크 기술을 사용하여 전 세계의 사람들을 표적으로 삼고 있으며, 그 영향은 상당함.
딜로이트에 따르면, 딥페이크 사기는 매년 수십억 달러의 손실을 초래할 수 있음.
이 비디오의 광범위한 사용은 이 문제가 증가하고 있음을 분명히 보여줌.
플랫폼의 압박: Facebook과 YouTube
Facebook과 YouTube와 같은 소셜 미디어 플랫폼은 딥페이크 사기가 퍼지는 주요 장소임.
이 플랫폼들은 가짜 콘텐츠의 확산을 막기 위해 충분한 조치를 취하지 않았다는 비판을 받고 있음.
이에 대응하여 그들은 사기 비디오와 계정을 제거하기 위한 조치를 취했지만, 문제는 여전히 지속됨.
예를 들어, 올해 1월부터 3월 사이에 YouTube는 정책 위반으로 820만 개 이상의 비디오를 제거했지만, 많은 딥페이크 비디오는 여전히 온라인에 남아 있음.
Facebook도 많은 콘텐츠를 제거했지만, 매일 새로운 딥페이크 사기가 나타나고 있음.
법적 조치 및 경고
딥페이크 사기의 증가는 다양한 당국의 법적 조치와 경고를 초래했음.
한 사례로 호주 억만장자 앤드류 포레스트는 메타, Facebook의 모회사에 대해 광고 사업에서의 태만을 이유로 소송을 제기했음.
포레스트의 비디오는 사용자를 잘못된 투자로 유도하는 딥페이크 광고에 사용되었음.
미국 연방 거래 위원회(FTC)와 FBI도 AI 기반 사이버 범죄의 증가에 대해 경고하며, 딥페이크 사기가 점점 더 일반화되고 탐지하기 어려워지고 있다고 언급함.
노인: 취약한 표적
딥페이크 사기의 주요 위험 그룹 중 하나는 노인임.
노인 인터넷 사용자는 암호화폐나 AI에 대해 조금 알 수 있지만, 안전한 투자 방법에 대해서는 잘 모를 수 있음.
사기꾼들은 이를 이용해 딥페이크를 사용하여 합법적으로 보이는 가짜 투자 기회를 홍보함.
사기꾼들은 높은 수익을 약속하며 피해자들을 유인한 후, 점차 더 많은 투자를 하도록 유도함.
피해자들이 사기라는 것을 깨달았을 때는 이미 많은 저축을 잃은 경우가 많음.
딥페이크 사기에 대한 지속적인 전투
딥페이크 기술이 계속 발전함에 따라 이러한 방법을 사용하는 사기가 더 많이 발생할 것으로 보임.
기술은 아직 완벽하지 않지만, 일부 비디오는 여전히 로봇 같은 목소리나 오디오와 일치하지 않는 입술 움직임과 같은 눈에 띄는 결함이 있음.
하지만 기술은 점점 더 좋아지고 있음.
이로 인해 사람들이 위험을 인식하고 이러한 사기로부터 자신을 보호하기 위한 조치를 취하는 것이 더욱 중요해짐.
결론
딥페이크 사기는 디지털 시대에 중요한 경고 신호임.
인공지능 기술이 점점 더 정교해짐에 따라 사기꾼들은 이를 개인 이익을 위해 활용하는 혁신적인 방법을 발견하고 있음.
스티브 보샴프와 같은 개인의 이야기는 이러한 사기가 얼마나 파괴적일 수 있는지를 보여줌.
개인들은 경계를 유지하고 플랫폼들은 탐지 및 예방 조치를 지속적으로 강화해야 함.
협력을 통해서만 우리는 증가하는 딥페이크 사기의 위협에 맞설 수 있을 것임.
