새로운 딥페이크 탐지 도구가 가짜 콘텐츠 단속에 도움을 줌
‘딥페이크 점수’가 사용자들이 AI로 생성된 비디오와 오디오를 식별하는 데 도움을 줌
이 도구는 가짜 콘텐츠의 영향을 줄이기 위해 무료로 제공됨
딥페이크 기술은 인공지능을 사용하여 사실적이지만 완전히 조작된 이미지, 비디오 및 오디오를 생성하며, 조작된 미디어는 종종 유명 인사나 일반인을 모방하여 금융 사기, 정치적 허위 정보 및 신원 도용과 같은 사기 목적으로 사용됨.
이러한 사기의 증가에 대응하기 위해 보안 회사 CloudSEK가 새로운 딥페이크 탐지 기술을 출시했으며, 이는 딥페이크의 위협에 대응하고 사용자가 조작된 콘텐츠를 식별할 수 있는 방법을 제공하기 위해 설계됨.
CloudSEK의 탐지 도구는 조직이 딥페이크 콘텐츠를 식별하고 운영 및 신뢰성에 대한 잠재적 피해를 방지하는 데 도움을 주며, 비디오 프레임의 진위를 평가하고 얼굴 특징 및 움직임 불일치에 초점을 맞추어 딥페이크 조작을 나타낼 수 있는 비정상적인 표정 전환 및 배경과 얼굴의 비정상적인 질감 등을 감지함.
딥페이크의 증가, 하지만 해결책이 있음
오디오 분석도 사용되며, 이 도구는 인공적으로 생성된 음성을 나타내는 합성 음성 패턴을 감지함. 시스템은 또한 오디오를 전사하고 주요 포인트를 요약하여 사용자가 검토하는 콘텐츠의 신뢰성을 신속하게 평가할 수 있도록 함. 최종 결과는 콘텐츠가 인위적으로 변경되었을 가능성을 나타내는 전체 ‘가짜 점수’임.
이 점수는 사용자가 잠재적 조작 수준을 이해하는 데 도움을 주며, 콘텐츠가 AI로 생성되었는지, 딥페이크 요소가 혼합되었는지, 아니면 인간이 생성했는지를 파악할 수 있도록 함.
70% 이상의 가짜 점수는 AI로 생성된 것이고, 40%에서 70%는 의심스러우며 원본과 딥페이크 요소가 혼합된 가능성이 있고, 40% 이하의 점수는 인간이 생성한 것으로 보임.
금융 부문에서는 딥페이크가 주가 조작이나 가짜 비디오 기반 KYC 프로세스로 고객을 속이는 등의 사기 활동에 사용되고 있음.
의료 부문도 영향을 받고 있으며, 딥페이크가 허위 의료 기록을 생성하거나 의사를 사칭하는 데 사용되고 있음. 정부 기관은 선거 관련 딥페이크나 위조 증거로부터 위협을 받고 있음.
미디어 및 IT 부문도 마찬가지로 취약하며, 딥페이크가 가짜 뉴스를 생성하거나 브랜드 평판을 손상시키는 데 사용되고 있음.
“사이버 위협을 예측하고 방지하는 우리의 사명은 기업을 넘어 확장됩니다. 그래서 우리는 커뮤니티에 딥페이크 분석기를 출시하기로 결정했습니다.”라고 CloudSEK의 공동 창립자 Bofin Babu가 말함.
