토론토 — 인공지능이 2030년까지 사이버 공격에서 인간을 능가할 것이라고 컴퓨터 과학의 거장 제프리 힌튼이 주최한 강연 시리즈의 기조 연설자가 예측함.
캘리포니아 UC 버클리의 전기공학 및 컴퓨터 과학과 통계학 조교수인 제이콥 스타인하르트는 화요일에 이 예측을 하며, AI 시스템이 결국 코딩과 취약점 발견에서 "초인적"이 될 것이라고 믿고 있다고 말함.
취약점은 사람들이 악용할 수 있는 소프트웨어와 하드웨어의 약점임. 사이버 범죄자들은 이러한 취약점을 통해 시스템에 무단으로 접근할 수 있음.
범죄자가 취약점을 통해 접근하면, 민감한 데이터를 암호화하거나 관리자가 소프트웨어에 접근하지 못하도록 차단하는 랜섬웨어 공격을 실행할 수 있으며, 피해자로부터 현금을 추출하려고 함.
스타인하르트는 취약점을 찾기 위해 인간은 시스템의 모든 코드를 읽어야 한다고 말함. 그래서 취약점을 찾아 공격을 수행할 수 있음.
"이건 정말 지루한 일임," 스타인하르트는 말함. "대부분의 사람들은 이걸 할 인내심이 없지만, AI 시스템은 지루해하지 않음."
AI는 취약점을 찾는 지루한 작업을 수행할 뿐만 아니라, 이 작업에 대해 세심하게 접근할 것이라고 스타인하르트는 덧붙임.
스타인하르트의 발언은 사이버 범죄가 증가하고 있는 가운데 나옴.
2023년 EY 캐나다의 60개 캐나다 조직을 대상으로 한 연구에 따르면, 80%가 지난 1년 동안 최소 25건의 사이버 보안 사건을 경험했으며, 전문가들은 일부 기업이 매일 수천 건의 시도를 받고 있다고 말함.
많은 사람들이 AI를 공격자를 신속하게 식별하고 정보를 수집하는 잠재적 해결책으로 환영하고 있지만, 스타인하르트는 악의적인 의도를 가진 사람들이 AI를 사용할 가능성도 있다고 경고함.
이미 그는 나쁜 행위자들이 기술을 이용해 딥페이크를 만들어낸 사례를 보았다고 말함. 딥페이크는 사람들이 말하지 않았거나 행동하지 않은 것을 보여주는 디지털 조작 이미지, 비디오 또는 오디오 클립임.
일부 경우, 딥페이크는 나쁜 행위자들이 사람들에게 전화를 걸어 사랑하는 사람이 돈이 필요하다고 제안하는 데 사용됨.
기업들도 피해자가 되었음.
올해 초, 미디어는 시드니 오페라 하우스를 포함한 저명한 건물 뒤에 있는 영국 엔지니어링 회사 아럽의 한 직원이 회사의 최고 재무 책임자처럼 가장한 사기꾼에게 2500만 달러를 넘겨주도록 속았다고 보도함.
"나는 사기와 피싱 이메일에 주의하라고 교육받았고, 2500만 달러를 보내기 전에 확인했을 것이라고 생각하지만, 확신할 수는 없음," 스타인하르트는 이 현상이 얼마나 새로운 것인지와 가짜가 얼마나 현실적으로 보이는지를 설명함.
"이건 우리가 익숙하지 않은 것이며, 디지털 사칭의 유일한 사용이 아님."
스타인하르트의 강연은 토론토의 존 W.H. 바셋 극장에서 열린 힌튼 강연 시리즈의 마지막을 장식함.
이벤트의 이름을 딴 제프리 힌튼은 AI의 대부로 널리 알려져 있으며, 저녁에 스타인하르트를 소개하며 그 교수가 강연 시리즈의 첫 번째 발표자로 가장 인기 있는 선택이라고 설명함.
스타인하르트는 전날 저녁 청중에게 자신을 "걱정하는 낙관론자"로 보며, AI가 인류 멸종으로 이어질 확률이 10%이고, 막대한 경제적 가치와 "급진적 번영"을 가져올 확률이 50%라고 말함.
이 보고서는 캐나다 프레스에 의해 2024년 10월 29일 처음 발표됨.
