댓글 0
기사입력 : 2023.12.22 13:01
[시큐리티팩트=김상규 기자] 트렌드마이크로가 ‘2024 보안 예측’ 보고서를 22일 발표했다.
보고서는 사이버 위협 환경에서 생성형 AI의 혁신적인 역할과 정교한 소셜 엔지니어링 기법 및 신원 도용 기반의 생성형 AI 도구의 쓰나미가 다가오고 있다고 경고했다.
보고서에 따르면 2024년에는 생성형 AI의 광범위한 가용성과 향상된 품질, 그리고 적대적 생성 신경망(GAN)의 사용으로 인해 피싱 시장에 지각변동이 일어날 것으로 예상된다.
이러한 변화는 극히 사실적인 오디오·비디오 콘텐츠를 저렴하게 제작할 수 있게 하여 비즈니스 이메일 사기 공격(BEC)과 가상 납치 및 기타 사기의 새로운 트렌드를 주도할 것으로 트렌드마이크로는 예측한다.
위협 행위자는 악의적인 활동을 통해 얻을 수 있는 잠재적 수익을 위해 악의적인 생성형 AI 도구를 개발하거나 훔친 인증정보와 VPN이 포함된 합법적인 도구를 사용해 신원을 숨길 것이다. FBI에 따르면 2022년 한 해 동안 BEC로 인한 피해 금액은 27억 달러를 상회한다.
내년에는 AI 모델 자체도 공격받을 수 있다. 생성형 AI와 LLM 데이터 세트는 위협 공격자가 영향을 미치기 어렵지만, 특화된 클라우드 기반 머신러닝 모델은 학습된 데이터 세트가 많을수록 민감 데이터의 유출, 사기 탐지 필터 우회, 커넥티드 카 방해와 같은 다양한 목적의 데이터 오염 공격 대상이 될 수 있다. 이러한 공격은 이미 100달러 미만의 비용으로 수행할 수 있다.
이와 같은 추세로 인해 규제 당국의 조사가 강화되고 사이버 보안 부문에서 자체적으로 문제를 해결하려는 움직임이 나타날 수 있다.
또한 고도의 자동화를 통해 최소한의 노력으로 취약점과 잘못된 구성에 침입해 여러 컨테이너, 계정 및 서비스에 영향을 미치는 클라우드 네이티브 웜(cloud-native worm) 공격이 급증할 것으로 전망했다.
이와 함께 아크로니스는 클라우드 네이티브 애플리케이션이 자동화된 공격에 취약하다는 점을 강조하면서 클라우드 환경 보안 격차의 해소와 위험 완화를 위한 강력한 방어 메커니즘과 철저한 보안 감사를 포함한 사전 예방적 조치를 권고했다.
그렉 영 트렌드마이크로 사이버 보안 담당 부사장은 "내년부터는 사이버 보안 관련 AI 정책이나 규제의 개발에 있어 사이버 업계가 정부를 앞지르기 시작할 것"이라며 "업계는 옵트인(opt-in) 기반의 자율 규제를 위해 빠르게 움직이고 있다"고 말했다.
