핵심 POINT
AI는 악성코드 생성과 변형, 딥페이크, 피싱, 프롬프트 인젝션 등 사이버 공격의 도구로 활용되고 있습니다.
보안 기술 역시 머신러닝 기반 이상 행위 탐지, 딥페이크 탐지, AI 위협 인텔리전스를 중심으로 고도화되고 있습니다.
SK쉴더스는 AI 기반 보안관제, 포괄적인 AI 보안 체계, MSS와 MDR 결합을 통해 진화하는 위협에 대응하고 있습니다.
AI의 등장으로 모든 산업에 걸쳐 효율은 높아졌지만, 동시에 사이버 범죄 역시 AI를 활용해 진화하는 문제가 발생하고 있습니다. 스팸형 웹 사이트부터 딥페이크 기술을 접목한 피싱까지, 공격의 양상은 점차 고도화되고 있는데요. 이처럼 AI 기술이 사이버 공격의 도구로 쓰이면서, 보안 기술 또한 AI 중심으로 재편되고 있습니다.
오늘은 사이버 공격의 도구로 활용되는 AI 기술과 이에 맞서는 AI 보안 기술, 그리고 SK쉴더스의 AI 기반 보안관제 서비스까지 자세히 알아보겠습니다.
◼︎ 사이버 공격의 도구로 활용되는 AI 기술
1) 생성형 AI의 그림자, 악성코드의 무한 변신
출처: Freepik
생성형 AI의 등장으로 악성코드 제작의 진입 장벽이 크게 낮아졌습니다. 과거에는 전문적인 프로그래밍 지식이 필요했지만, 이제는 생성형 AI 모델을 활용해 누구나 쉽게 악성코드를 생성할 수 있게 된 것인데요. 특히 '웜 GPT'처럼 해킹에 특화된 생성형 AI는 불법 행위에 제한이 없어 BEC(Business Email Compromise) 공격용 이메일이나 멀웨어를 손쉽게 제작할 수 있습니다.
더욱 위험한 것은 AI가 스스로 코드를 끊임없이 변형하는 '다형성 악성코드(Polymorphic Malware)'입니다. 기존에도 이러한 위협이 존재하였지만, AI는 훨씬 빠르고 다양한 변종을 만들어내 시그니처 기반 백신이 탐지하기 어렵게 만들고 있습니다.
2) 눈과 귀를 속이는 완벽한 위장, ‘딥페이크’
출처: Freepik
딥페이크 기술은 초기 GAN(생성적 적대 신경망) 기반으로 구현되었으나, 현재는 디퓨전 모델과 나노바나나 또는 GPT 이미지 생성과 같은 LLM기반 멀티모달 디코더가 주류로 자리잡으며 구분이 더욱 어려워지고 있습니다. 2024년 홍콩의 한 금융회사에서는 딥페이크로 조작된 CFO의 얼굴과 목소리를 믿고 직원이 약 342억 원을 송금하는 사건이 발생했습니다. 화상회의에 참석한 여러 동료들의 얼굴과 목소리가 모두 딥페이크로 조작되었기 때문에 의심조차 하기 어려웠죠.
국내에서도 유명 연예인이나 검사를 사칭한 딥페이크 영상으로 투자를 유도하거나 사기를 치는 사례가 급증하고 있습니다. 방송통신심의위원회의 국내 딥페이크 성적 허위 영상물 시정 요구 사례는 2020년 473건에서 2023년 5,996건으로 3년 사이 10배 이상 증가했습니다.
3) 생성형 AI 기반 피싱과 프롬프트 인젝션
출처: Freepik
생성형 AI는 피싱 이메일의 품질을 획기적으로 고도화했습니다. 과거 피싱 메일은 어색한 문법이나 맞춤법 오류로 쉽게 식별할 수 있었지만, 생성형 AI는 문맥에 완벽히 맞는 자연스러운 이메일을 몇 초 만에 작성합니다.
또한 ‘프롬프트 인젝션’ 공격을 통해 AI 시스템의 안전장치를 우회하는 사례도 증가하고 있습니다. 공격자는 단계적인 질의나 숨겨진 명령어를 통해 AI가 악성 소프트웨어 생성 방법, 살상 무기 제조, 데이터 탈취 도구 개발 등 유해 콘텐츠를 생성하도록 유도합니다. 특히 보안이 허술한 오픈소스 AI 모델은 이러한 공격에 더욱 취약한데요. 오픈소스 AI 모델은 구조와 파라미터가 공개되어 있어 공격자가 모델의 동작은 분석하기 쉬워 별도의 완화 조치가 적용되지 않은 경우 프롬프트 인젝션 공격에 노출되기 쉽기 때문입니다.
◼︎ AI 기반 보안 기술의 고도화
사이버보안은 바야흐로 ‘AI 대 AI’의 경쟁 시대에 돌입했습니다. 해커는 AI로 더욱 정교하고 빠른 공격을 수행하지만, 보안 전문가들 역시 AI 기반 실시간 탐지와 자동 대응 능력을 강화하고 있습니다. 새로운 보안 전장에서 우위를 점하기 위해 등장한 핵심 AI 보안 기술에는 어떤 것들이 있을까요?
출처: Freepik
1) 머신러닝 기반 이상 행위 탐지
AI 공격에 대응하기 위해 보안 기술도 AI 중심으로 진화하고 있습니다. 전통적인 시그니처 기반 탐지는 이미 알려진 악성코드만 차단할 수 있지만, 최신 머신러닝 기반 탐지는 단순 분류를 넘어 연속적인 행위 흐름을 통해 미지의 변종 공격에도 유연하게 탐지 및 무력화할 수 있습니다.
2) 고도화된 딥페이크 탐지 AI 솔루션
딥페이크 공격이 점점 정교해지면서, 이를 식별하기 위한 AI 기반 탐지 기술도 함께 발전하고 있습니다. 딥페이크 탐지 시스템은 영상과 음성에서 나타내는 미세한 차이를 분석해 위·변조 여부를 판단합니다.
초기에는 눈 깜빡임이나 입술 움직임, 조명 반사 등 비교적 눈에 보이는 단서를 활용해 탐지가 이뤄졌습니다. 그러나 기술이 발전하면서 이러한 요소만으로는 딥페이크를 식별하기가 어려워졌습니다. 이에 따라 최근에는 노이즈 패턴 등 사람이 직접 구분하기 어려운 특징까지 분석해 딥페이크 여부를 판단하는 방식이 활용되고 있습니다.
업계 역시 이러한 변화를 인지하고, 이미지 생성 서비스를 제공하는 과정에서 AI 생성물임을 확인할 수 있도록 워터마크를 삽입하고 있습니다. 사람이 인식할 수 있는 워터마크 뿐 아니라, 육안으로는 확인이 어렵고 제거가 쉽지 않은 워터마크도 함께 활용되고 있습니다. 실제로 메타(Meta)는 페이스북과 인스타그램에서 AI 생성 이미지에 ‘AI 인포(AI info)’ 라벨을 표기하고 있으며, 정부 역시 AI를 활용해 딥페이크 음란물을 자동으로 탐지하고 삭제를 요청하는 시스템을 구축하는 등의 대응 체계를 마련하고 있습니다.
3) 새로운 위협을 예측하는 AI 위협 인텔리전스
빠르게 발전하는 AI 기술로 인해, 더 이상 단순한 위협 탐지만으로는 충분하지 않고 혹시 모를 위협을 미리 예측하는 것이 중요한 포인트가 되었습니다. 이에, 전 세계의 보안 빅데이터를 학습해, 기존의 패턴을 벗어난 새로운 공격 기법까지 예측해 내는 ‘AI 기반 위협 인텔리전스’가 주목받고 있습니다. 수억 건의 이벤트 데이터 속에서 위협의 씨앗을 찾아내는 AI의 분석력은, 예측 불가능한 미래의 공격으로부터 시스템을 지키는 데 활용되고 있습니다.
◼︎ AI 기술을 기반으로 진화하는 SK쉴더스 보안 솔루션
날로 정교해지는 사이버 위협에 맞서, SK쉴더스 역시 AI 기반의 보안 솔루션을 지속적으로 고도화하고 있습니다. 단순히 위협을 막는 것을 넘어, 축적된 정보보안 노하우와 최첨단 AI 관제 기술을 결합해 고객의 소중한 정보를 빈틈없이 보호하는데요. SK쉴더스는 어떤 차별화된 기술로 사이버 위협을 막아내고 있을까요?
✔️ AI 기술 기반 보안관제 센터, ‘SK쉴더스 시큐디움’
SK쉴더스의 원격 보안관제 센터 '시큐디움(Secudium)'은 기존 보안관제(MSS)를 넘어 해커의 정찰, 침투, 권한 탈취 등 초기 움직임을 실시간으로 탐지합니다. 기존 보안관제가 알려진 공격 패턴에 의존해 사후 경고를 보냈다면, 시큐디움은 AI가 로그와 트래픽을 실시간 분석하여 위협 징후를 예측하고 선제적으로 차단합니다.
예를 들어 관리자 계정이 해킹당해 평소와 다른 시간이나 위치에서 접속하는 경우, AI가 이를 이상 징후로 판단하여 즉시 차단하고 감염 여부를 확인합니다. 아울러 시큐디움은 SIEM(보안 이벤트 관리) 엔진 교체, SOAR(위협 대응 자동화) 도입, 위협 영향도 분석 시스템 구축을 단계적으로 추진하며 보안관제를 고도화하고 있습니다.
✔️ AI 기술을 위한 포괄적인 보안 체계
SK쉴더스는 AI 보안 위협에 선제적으로 대응하기 위해 AI 모델의 취약점 진단부터 프롬프트 인젝션 방어, 딥페이크 탐지까지 포괄적인 AI 보안 체계를 구축하고 있습니다.
특히 기업들의 수요가 높은 LLM(대규모 언어 모델) 애플리케이션을 위해 전용 취약점 진단 가이드를 개발해, 기업이 보안 공백 없이 안전하게 AI를 도입할 수 있도록 지원합니다. AI 시스템의 초기 보안 점검부터 운영 중 사고 대응까지, 전 과정을 아우르는 전문적인 관리로 기업의 AI 혁신을 뒷받침합니다.
✔️ MSS와 MDR의 결합으로 빈틈없는 대응
SK쉴더스는 AI 기반 보안관제(MSS)와 전문가 주도의 MDR 서비스를 하나로 결합해, 강력한 시너지를 발휘합니다. AI가 실시간으로 포착한 초기 위협 신호를 MDR 전문가가 즉시 이어받아 정밀 분석하고 대응함으로써, 탐지부터 조치까지 끊김 없는 완벽한 방어 체계를 완성합니다.
AI가 공격 도구로 악용되는 시대, 끊임없이 진화하는 위협에 맞서 사이버보안 전문 SK쉴더스와 함께 AI 보안의 체계를 확실하게 구축해 보세요!
