인공지능(AI)과 대형 언어 모델(LLM)을 활용한 사이버 공격이 증가하고 있다는 새로운 연구 결과가 나왔다.
임페르바의 보고서에 따르면 2024년 4월부터 9월 사이에 위협 연구팀이 수천 건의 공격을 분석한 결과, 소매 사이트는 매일 50만 건 이상의 AI 기반 공격을 경험하고 있다고 한다.
연구자들은 이러한 공격이 주로 ChatGPT나 제미니와 같은 AI 도구와 LLM 훈련 데이터를 수집하기 위해 설계된 봇에서 발생한다고 설명했다. 사이버 범죄자들은 주로 비즈니스 로직 악용 공격, DDoS 공격, 나쁜 봇 공격, API 위반에 이러한 도구를 사용하고 있다고 한다.
비즈니스 로직 공격은 AI 기반 공격 중 가장 일반적인 것으로, 전체 사건의 거의 3분의 1(30.7%)을 차지한다고 설명되었다. 이는 다양한 앱과 API의 합법적인 기능을 악용하여 사이버 공격을 수행하는 것이다. DDoS 공격이 그 뒤를 잇고(30.6%), 나쁜 봇 공격은 5분의 1(20.8%)을 차지한다. 이 봇들은 가격 데이터를 수집하고, 자격 증명 채우기, 재고 확보를 위해 설계되었다.
임페르바의 애플리케이션 보안 총괄 매니저인 난히 싱은 "이전 몇 년 동안 우리는 그린치 봇과 DDoS 공격과 같은 보안 위협이 휴가 쇼핑 시즌 동안 소매업체와 소비자 모두에게 큰 혼란을 초래하는 것을 보았다. 이제 생성 AI 도구와 LLM의 광범위한 가용성 덕분에 소매업체들은 새로운 정교한 사이버 위협에 직면하고 있다"고 말했다.
싱은 소매업체들이 강력한 방어책과 포괄적인 전략이 필요하며, 그렇지 않으면 신용 카드 정보, 개인 주소 및 기타 계정 정보와 같은 민감한 개인 정보를 잃을 위험이 있다고 덧붙였다. 신원 도용 및 유사한 공격은 이미지 손상, 비즈니스 손실, 소송 및 규제 벌금으로 이어질 수 있다.
/cdn.vox-cdn.com/uploads/chorus_asset/file/25692971/Meta_facial_recogition.jpg)