NewsGPT™

AI 위협 증가로 기업들이 인간 지능으로 돌아서고 있음

📰 Rising AI threats are making firms turn back to human intelligence by TechRadar

Published: 2024-11-08 11:17:13

Featured Image
  • 보안 리더의 48%가 AI를 가장 큰 위협으로 인식하고 있음
  • AI 안전 문제의 비율이 보고된 취약점의 55%를 차지함
  • 인간의 지능이 AI 보안 문제를 해결하는 데 필수적임

새로운 보고서에 따르면 사이버 보안에서 인간 지능의 지속적인 필요성이 강조됨

AI는 위협 환경에서 계속해서 지배적임

보안 연구자들에게 가장 큰 동기는 높은 보수임

HackerOne의 새로운 보고서에 따르면 보안 리더의 거의 절반(48%)이 AI가 그들의 조직에 가장 중요한 위협 중 하나라고 믿고 있으며, 거의 10%의 연구자가 증가하는 AI 전문성 수요를 충족하기 위해 AI에 전문화하고 있음.

버그 바운티 프로그램에 보고된 가장 큰 취약점은 교차 사이트 스크립팅(XSS)이며, 펜테스트의 경우 잘못된 구성 이메일이었음. 버그 바운티 프로그램은 실제 공격 벡터와 사용자 수준 문제에 중점을 두는 반면, 펜테스트는 아키텍처 및 시스템적 약점을 발견하는 데 중점을 둠.

AI는 대화와 환경에서 계속해서 지배적이며, 보고된 모든 취약점의 55%가 AI 안전 문제이고, HackerOne 플랫폼에서 AI 자산의 범위가 무려 171% 증가함.

기술 산업이 더 나은 성과를 보임

일반적인 취약점을 적극적으로 줄이는 데 가장 성공적인 조직은 보안 성숙도가 높고 기술 중심의 산업인 전자상거래 및 온라인 서비스임. 실제로 Web3 기업은 평균보다 XSS 보고가 65% 적음.

보안 연구자들의 동기는 주로 재정적이며, 77%가 잠재적 수입을 주요 동기로 언급하고, 그 뒤를 이어 새로운 기술을 배울 기회(64%)가 있음.

응답자의 67%는 인간의 편견 없는 리뷰가 AI 보안 및 안전 문제를 발견하는 데 가장 효과적인 전술이라고 믿음. AI의 편견 경향 때문에 사이버 보안에서 인간 지능이 항상 필요함.

"가장 정교한 자동화조차도 인간 지능의 독창성에 필적할 수 없다. 2024 Hacker-Powered Security Report는 AI 및 기타 신기술이 제기하는 고유한 문제를 해결하는 데 인간 전문성이 얼마나 필수적인지를 증명함,"이라고 HackerOne의 CISO이자 Chief Hacking Officer인 Chris Evans가 말함.

인간은 수동적 착취 및 정찰에서 뛰어나며, 이는 독창성이 필요한 두 가지 해킹 기술로, 외부인의 관점에서 독특한 약점을 발견하거나 간과된 도메인을 발견하는 것과 같은 기술이 포함됨.

🤖 NewsGPT Opinion

요즘 AI가 사이버 보안 분야에서 큰 위협으로 떠오르고 있다는 보고서가 나왔음. 보안 리더의 거의 절반이 AI를 가장 큰 위협으로 보고하고, 많은 연구자들이 AI 전문성을 키우고 있다는 점이 인상적임. 이게 단순히 기술의 발전 때문인지, 아니면 AI가 실제로 보안 문제를 일으키고 있기 때문인지 궁금해짐.

특히, AI 안전 문제의 비율이 55%에 달한다는 건 정말 놀라움. 이게 단순한 숫자가 아니라, 실제로 기업들이 AI의 위험을 인식하고 있다는 증거임. 하지만 그럼에도 불구하고 인간의 지능이 여전히 필요하다는 점은 다행임. AI가 아무리 발전해도 인간의 창의력과 직관을 대체할 수는 없다는 말이 맞는 것 같음.

보안 연구자들이 높은 보수를 동기로 삼고 있다는 것도 흥미로움. 결국, 돈이 모든 것을 움직이는 세상임. 하지만 그와 동시에 새로운 기술을 배우고 싶어하는 욕구도 크다는 점에서, 이 분야에 대한 열정이 느껴짐. 보안 분야는 단순히 돈을 벌기 위한 직업이 아니라, 끊임없이 변화하는 기술 환경에서 배우고 성장할 수 있는 기회가 많다는 걸 보여줌.

또한, 인간의 편견 없는 리뷰가 AI 보안 문제를 발견하는 데 가장 효과적이라는 점도 주목할 만함. AI가 편향된 결정을 내릴 수 있다는 점에서, 인간의 판단이 얼마나 중요한지를 다시 한번 깨닫게 됨. 결국, AI와 인간의 협력이 필요하다는 메시지가 강하게 느껴짐.

결론적으로, AI의 위협이 커지고 있지만, 인간의 지능이 여전히 중요한 역할을 한다는 점에서 긍정적인 시각을 가질 수 있음. 앞으로도 AI와 인간이 함께 협력하여 더 안전한 사이버 환경을 만들어 나가길 기대함.

🏷️ Related Tags

AI

📰 Next News

앤트로픽의 새로운 클로드 3.5 하이쿠 AI 모델, 이전 모델보다 4배 비쌈

앤트로픽의 새로운 클로드 3.5 하이쿠 AI 모델, 이전 모델보다 4배 비쌈

픽셀 전화 앱, 곧 AI 응답 기능 추가 예정

픽셀 전화 앱, 곧 AI 응답 기능 추가 예정