최근 하버드 대학의 두 학생이 메타 스마트 안경과 얼굴 이미지 검색 기술을 결합해 "누구의 개인 정보를 드러낼 수 있다"고 밝혔다. 이들은 이름, 주소, 전화번호 등을 "그냥 바라보는 것만으로" 알아낼 수 있다고 설명했다.
안 푸 응우옌과 케인 아르다이피오는 메타 레이밴 2를 침해적인 얼굴 검색 엔진인 피마이즈와 연결해 낯선 사람들을 식별하는 방법을 설명하는 구글 문서를 작성했다. 그들은 대규모 언어 모델(LLM)을 사용해 모든 데이터를 신속하게 결합해, 누군가를 한눈에 드러내거나 사기를 치는 등의 악용이 가능하다고 밝혔다. 응우옌은 "어떤 남자가 기차에서 어떤 여자의 집 주소를 찾아서 따라갈 수 있다"고 말했다.
이 모든 것은 최근 LLM의 발전 덕분에 가능하다고 학생들은 말했다.
"LLM과 역방향 얼굴 검색 간의 시너지는 전통적인 방법으로는 불가능했던 완전 자동화된 포괄적인 데이터 추출을 가능하게 한다"고 그들의 구글 문서에 적혀 있다.
이전에는 누군가가 자신의 이미지만으로 공공 데이터베이스를 검색하는 데 상당한 시간을 소비해야 했지만, 그들의 디스토피아 스마트 안경은 몇 초 만에 그 작업을 수행한다고 그들의 데모 비디오에서 밝혔다.
공동 제작자들은 메타 레이밴 2를 수정해 I-XRAY를 만들어 "기술이 빠르게 발전함에 따라 심각한 개인 정보 보호 문제"를 인식시키기 위해 이 프로젝트를 진행했다고 말했다.
그들은 메타 레이밴 2를 선택한 이유는 스마트 안경이 "일반 안경과 거의 구별이 불가능하기 때문"이라고 밝혔다. 응우옌은 메타 스마트 안경을 사용하는 것이 "나쁜 행위자가 얼굴을 감지하지 않고 스캔할 수 있는 가장 소름 끼치는 방법"이라고 말했다.
누군가가 도크스 당하지 않도록 공동 제작자들은 코드를 공개하지 않겠다고 응우옌이 소셜 미디어 사이트 X에서 말했다. 그러나 그들은 그들의 불안한 기술이 어떻게 작동하는지와 테스트 대상이 된 무작위 낯선 사람들이 얼마나 쉽게 식별될 수 있는지를 설명했다.
응우옌과 아르다이피오는 지하철역에서 "무심코 지나가는 사람들"을 대상으로 그들의 기술을 시험했다고 404 미디어가 보도했다. 그들은 기술이 사람들을 속이는 데 어떻게 악용될 수 있는지를 보여주기 위해, 테스트 대상 중 일부를 알고 있다고 주장하며 안경을 통해 얻은 정보를 사용해 공감가는 언급을 하며 아는 척을 했다.
학생들은 수십 명의 테스트 대상을 식별했다고 주장했지만, 일부 결과는 논란이 되었다고 404 미디어가 보도했다. 그들은 메타 레이밴 2가 녹화 중일 때 자동으로 켜지는 불빛을 가려서 얼굴 스캔을 은폐했다고 아르다이피오가 X에서 말했다.
응우옌과 아르다이피오에게 이 프로젝트의 목적은 사람들에게 개인 정보를 보호하기 위해 침해적인 검색 엔진에서 옵트 아웃하도록 설득하는 것이었다. 예를 들어, I-XRAY를 사용해 404 미디어 기자 조셉 콕스를 식별하려고 했지만, 그는 피마이즈에서 옵트 아웃했기 때문에 실패했다.
하지만 학생들에게 개인 정보 보호는 분명히 중요하며 그들의 데모 비디오는 식별 정보를 제거하려고 했지만, 적어도 한 테스트 대상은 "쉽게" 식별되었다고 404 미디어가 보도했다. 그 테스트 대상은 코멘트를 요청했지만 연락이 닿지 않았다고 404 미디어가 보도했다.
현재까지 페이스북이나 구글은 스마트 안경과 얼굴 검색 엔진을 연결하는 유사한 기술을 공개하지 않았다. 그러나 AI 세계의 다른 기업들은 이 기술을 실험하고 있다고 404 미디어가 보도했다. 예를 들어, 경찰을 위한 얼굴 검색 엔진을 개발한 클리어뷰 AI는 얼굴 인식 기술을 실행할 스마트 안경을 탐색하고 있다. 이는 여러 가지 이유로 우려스럽다. 클리어뷰의 목표는 거의 모든 인간을 얼굴 인식 데이터베이스에 포함시키는 것이며, 경찰은 이미 비윤리적으로 이 도구를 사용해 개인 검색을 수행한 바 있다. 클리어뷰는 개인 정보 보호 위반으로 3,300만 달러의 벌금을 부과받았다.
이러한 새로운 위협에 맞서는 것은 현재로서는 큰 노력을 필요로 하지 않는 것 같다. 그들의 구글 문서에서 응우옌과 아르다이피오는 사람들이 피마이즈와 페이스체크 ID와 같은 역방향 얼굴 검색 엔진에서 얼굴을 제거하는 방법과 패스트피플서치, 체크뎀, 인스턴트 체크메이트와 같은 사람 검색 엔진에서 옵트 아웃하는 방법을 제공했다. 그들은 질문이 있는 사람들을 위한 연락 양식도 제공했다.
이제 공개적으로 사용 가능한 기술이 스마트 안경이 빅테크 기업들이 의도한 것보다 훨씬 더 많은 것을 볼 수 있게 만들 수 있다는 것이 분명해졌다. 아르스는 그들의 불쾌한 수정된 스마트 안경을 복제하려는 사람들의 관심이 있는지 문의했지만 즉각적인 응답은 없었다.
404 미디어에 대한 성명에서 메타와 피마이즈는 개인 정보 보호 위험을 경시하는 듯 보였다. 메타는 개인의 사진에 대한 동일한 위험이 존재한다고 언급했고, 피마이즈는 "사람을 식별하지 않는다"고 주장했다. (단지 사용자가 종종 식별 정보를 찾을 수 있는 사진 링크를 가리킬 뿐이다.)
유럽연합에서는 얼굴 인식 데이터 수집이 일반적으로 개인의 직접적인 동의를 요구하기 때문에, I-XRAY와 같은 스마트 안경은 공공 장소에서 익명을 선호하는 사람들에게 큰 우려가 되지 않을 수 있다. 그러나 미국에서는 I-XRAY가 나쁜 행위자에게 다음 사기를 제공할 수 있다.
"이 아이디어를 가지고 사람들이 나아간다면, 정말 나쁜 일이라고 생각한다"고 아르다이피오가 404 미디어에 말했다. "우리가 데이터 보호 방법에 대한 인식을 확산시켰으면 좋겠고, 이로 인해 발생할 수 있는 부정적인 영향보다 더 큰 효과가 있기를 바란다."
