핵심 POINT
Google 위협 인텔리전스 그룹(GTIG)은 2026년 11월 16일 AI 위협 보고서에서, 공격자가 챗봇에 직접 질문하는 수준을 넘어 여러 AI 에이전트가 협력하는 공격 프레임워크로 침투 단계를 자동화한 사례를 공개했습니다. CAIRN과 PentAGI는 실제 활동에서 사용이 관찰됐습니다.
공격자의 노출된 서버에서 발견된 exploit_agent는 보안 패치 전후 코드를 비교해 취약점을 분석하고, 공격 코드를 만들어 실행하는 과정까지 이어 주도록 구성돼 있었습니다. 새로운 취약점 발견이 아니라, 이미 알려진 취약점(n-day)을 노린다는 점이 핵심입니다.
패치가 공개된 뒤 공격이 나오기까지의 시간이 짧아질 수 있어, 인터넷에 노출된 자산을 먼저 파악하고 실제 악용 여부와 자산 중요도를 함께 따져 패치 순서를 정해야 합니다. 이상 행위 탐지, 계정 권한 관리, 침해사고 대응 절차도 함께 점검하는 것이 좋습니다.
SK쉴더스 인사이트
이 글, 놓치지 않고 받아보려면?
주요 보안 이슈와 대응 포인트를 핵심만 정리해 메일로 보내드립니다.
AI가 취약점을 찾아 해킹까지? 실제 공격에 활용되는 AI 에이전트와 기업 대응 방법
보안 패치가 공개되면 기업은 업데이트를 준비하지만, 공격자는 같은 패치를 분석해 공격 방법을 찾기도 합니다. 최근에는 AI 에이전트가 이 과정을 자동으로 수행하도록 구성된 공격 프레임워크까지 발견됐습니다.
Google 위협 인텔리전스 그룹(GTIG)과 맨디언트(Mandiant)는 2026년 11월 16일 「GTIG AI Threat Tracker」 보고서에서, 여러 AI 에이전트가 침투 작업을 나눠 수행하고 보안 패치 분석부터 공격 코드 실행까지 자동화하는 사례를 공개했습니다. AI 기반 공격이 실제 보안 위협으로 발전하는 가운데, 기업이 어떤 부분을 우선 점검해야 할지 살펴보겠습니다.
■ 실제 해킹에 쓰이기 시작한 AI 에이전트
출처: AI(ChatGPT) 생성 이미지
그동안 공격자가 AI를 쓰는 방식은 주로 사람이 질문을 입력하고 답을 받아 활용하는 형태였습니다. AI 에이전트는 목표를 받으면 어떤 도구를 쓸지 스스로 고르고, 실행 결과를 보고 다음 행동을 바꾸면서 여러 단계를 이어서 처리합니다. GTIG는 공격자의 수법이 수동 프롬프트 입력을 넘어, 자율형 다중 에이전트 공격 프레임워크로 여러 단계의 침투를 더 빠르게 수행하는 쪽으로 옮겨 가고 있다고 설명했습니다.
이 글에서 말하는 AI 에이전트는 공격자가 침투에 쓰는 도구입니다. 기업이 도입한 AI 서비스 자체를 노리는 공격과는 다른 이야기입니다. 또한 보고서에서 관찰된 사실과 앞으로의 전망은 구분해서 보아야 합니다.
관찰된 사실
• CAIRN과 PentAGI는 실제 공격 활동에서 사용이 관찰됐고, CyberStrikeAI와 HexStrike AI는 시험하는 정황이 확인됐습니다.
• 패치 전후 코드를 비교하는 분석을 자동화해, 이미 알려진 취약점을 빠르게 공격에 쓰려는 흐름이 확인됐습니다.
• 외부에 노출된 서버에서 이런 기능을 갖춘 프레임워크 exploit_agent가 발견됐습니다.
한계와 전망
AI 에이전트가 항상 잘 작동하는 것은 아닙니다. 불필요한 신호를 많이 만들고, 기술적 세부 내용을 지어내거나 엉뚱한 대상을 고르는 경우도 있다고 알려져 있습니다. GTIG는 이런 프레임워크가 속도를 얻는 대신 은밀함을 일부 포기해 소란스러운 트래픽과 코드 흔적을 남기는 경향이 있다고 평가했습니다. 방어하는 쪽에서 활동 흔적을 포착할 여지가 있다는 뜻입니다. 다만 이런 한계에도 목표에 도달하는 경우가 있고, 앞으로는 사람의 개입이 줄고 은밀성도 나아질 것으로 예상했습니다. 또한 이런 프레임워크가 쓰이면서 방어하는 쪽이 패치할 수 있는 시간이 크게 줄고 있다고 경고했습니다.
GTIG는 진입 장벽이 낮고 새 공격 수법을 연결하기 쉬우며 확장성이 크다는 점에서, 공격자들이 이런 프레임워크를 앞으로도 활용할 가능성이 매우 높다고 전망했습니다. 이 부분은 관찰된 사실이 아니라 보고서의 판단입니다. 보고서를 통해 국내 기업의 피해가 확인됐다는 내용은 확인되지 않았으므로, 이 글도 국내에서 같은 피해가 발생했다고 쓰지 않습니다.
■ 보안 패치를 공격 코드로 바꾸는 exploit_agent
출처: AI(ChatGPT) 생성 이미지
GTIG는 외부에 노출된 스테이징 서버에서 exploit_agent라는 다중 에이전트 취약점 연구·무기화 프레임워크를 발견했습니다. 여러 최신 AI 모델과 직접 구동하는 모델을 함께 연결해 쓰도록 구성돼 있었고, 인기 있는 웹 애플리케이션 소프트웨어의 보안 업데이트 전후 코드를 지속적으로 비교하도록 설정돼 있었습니다.
작동 흐름을 개념적으로 풀면 다음과 같습니다. 소프트웨어 개발사가 보안 패치를 내면, 에이전트가 패치 전후 코드의 차이를 분석해 무엇이 고쳐졌는지 파악합니다. 그 차이에서 취약점이 있었다고 추정되는 부분을 찾고, 공격 코드를 작성한 뒤 자동으로 실행합니다. 기존에는 보안 연구자나 공격자가 직접 수행하던 패치 분석과 공격 코드 작성·검증 과정을 AI 에이전트가 연속적으로 처리하도록 구성된 것입니다. GTIG는 지난 분기에 공격자들이 사람의 개입 없이 취약점 발견과 악용을 자동화하는 프레임워크를 쓴 것을 처음 확인했다고 밝혔습니다.
같은 서버에서는 피해 조직에서 가져온 것으로 보이는 데이터와, 침투 후 내부 정찰과 무차별 대입, 웹셸 설치 등에 쓰는 스크립트도 확인됐습니다. 이 서버의 피해 관련 기록으로 볼 때 운영자는 프랑스의 미디어·엔터테인먼트와 교육 분야 웹사이트에 관심을 둔 것으로 보인다고 보고서는 설명했습니다.
다만 보고서가 공개한 것은 발견된 프레임워크의 기능과 관련 활동에 대한 분석입니다. 모든 공격 단계가 실제 피해 환경에서 완전히 자율적으로 성공했다고 단정해서는 안 됩니다.
제로데이와 n-day, 무엇이 다를까요?
여기서 제로데이(zero-day)와 n-day 취약점을 구분할 필요가 있습니다. 제로데이는 개발사가 미처 대응하지 못한 상태에서 악용되는 취약점을 의미하며, n-day는 이미 공개돼 알려진 취약점을 뜻합니다. exploit_agent는 특히 보안 패치가 공개된 소프트웨어의 수정 전후 코드를 비교해 취약점을 분석하고, 아직 업데이트하지 않은 시스템을 공격하는 방식을 자동화하도록 구성됐습니다. 새로운 취약점을 AI가 발견했다는 이야기가 아니라는 점을 분명히 해 둡니다.
한 가지 더 눈여겨볼 점이 있습니다. 보고서는 패치가 공식 배포되기 전에 공개된 수정 코드도 공격 분석의 단서로 쓰일 수 있다고 설명합니다. 공개된 패치나 수정 코드가 공격의 단서가 될 수 있다는 점이 이번 사례의 중요한 시사점입니다.
기존 공격 자동화와 무엇이 다를까요?
공격 자동화 자체는 새롭지 않습니다. 공격자들은 AI 이전에도 자동화 스캐너와 공격 도구, 스크립트를 활용해 왔습니다. 아래는 이 보고서의 관찰을 바탕으로 재구성한 비교입니다.
| 구분 | 기존 공격 자동화 | AI 에이전트 기반 자동화 |
|---|---|---|
| 취약점 분석 | 기존 도구와 사람의 분석 결합 | LLM이 코드 차이 해석 등 지원 |
| 공격 코드 작성 | 기존 코드·스크립트·도구 활용 | LLM이 코드를 생성·수정하고 실행 결과 반영 |
| 작업 연결 | 사전 정의된 절차 또는 운영자 판단 | 실행 결과를 바탕으로 다음 작업 선택 가능 |
| 대응 시간 | 취약점별로 차이 존재 | 일부 공격에서 준비·실행 시간 단축 가능 |
■ CAIRN·PentAGI, 여러 AI가 침투 작업을 나누는 방식
exploit_agent 외에도 GTIG는 여러 AI 에이전트가 역할을 나눠 침투를 진행하는 프레임워크를 소개했습니다. 실제 활동이 관찰된 것과 시험 정황이 확인된 것을 나누면 아래와 같습니다.
| 도구 | 관찰 내용 | 확인 수준 |
|---|---|---|
| ARTEX | 운영자의 목표를 명령으로 바꾸는 다중 에이전트 침투 테스트 프레임워크로, 네트워크 탐색과 권한 상승, 내부 이동, 데이터 탈취 작업에 활용 | 실제 침입 활동 관찰 |
| CAIRN | 미국 항공우주 분야 등을 대상으로 한 침해 활동에서 사용 | 실제 활동 관찰 |
| PentAGI | 2026년 8월 말부터 10월 초까지 아시아 여러 조직을 대상으로 정찰·취약점 스캔에 활용 | 실제 활동 관찰 |
| CyberStrikeAI | LLM과 여러 보안 도구를 연결하는 자동화 프레임워크 | 실험 정황 |
| HexStrike AI | AI 에이전트와 보안 도구를 연결하는 공격 자동화 도구 | 실험 정황 |
출처: Google Threat Intelligence Group, 2026.11.16
CAIRN은 여러 AI 에이전트가 공용 작업 공간으로 정보를 공유하며 협력하고, PentAGI는 숙련도가 낮은 운영자도 쓸 수 있도록 설계된 프레임워크입니다. GTIG는 금전을 노리는 공격자와 국가 연계가 의심되는 공격자가 각각 이런 프레임워크를 시험하고 있고, 중국 연계 그룹이 자체 자동화 공격 프레임워크를 개발 중인 정황도 있다고 설명했습니다. 다만 도구가 실제 활동에서 쓰였다는 사실만으로 각 도구의 모든 공격 단계가 성공했다고 볼 수는 없습니다.
■ 기업 IT·보안 담당자가 확인해야 할 대응 사항 5가지
출처: AI(ChatGPT) 생성 이미지
아래 다섯 가지는 Google 보고서의 직접적인 권고가 아니라, 보고서가 보여 준 공격 방식을 바탕으로 정리한 일반적인 기업 보안 운영 제안입니다. 공격 코드나 침투 절차는 다루지 않고, 담당자가 바로 점검할 수 있는 항목 중심으로 정리했습니다. 맨디언트가 보고서와 함께 공개한 방어 가이드에도 관리자 시스템 보호, 단기 자격 증명 사용, 접근 제한, 네트워크 분리, API와 인증 활동의 급증 감시 같은 항목이 포함돼 있어 아래 방향과 맞닿아 있습니다.
1. 외부 노출 자산 식별
패치가 공개된 취약점을 빠르게 악용하는 공격에 대비하려면, 인터넷에서 접근할 수 있는 시스템을 우선 파악해야 합니다. 웹서버, 관리자 페이지, VPN, 테스트 서버와 해당 시스템에서 사용하는 소프트웨어의 버전을 확인합니다. 특히 운영 중인 자산 목록에서 빠진 서버가 없는지 점검하고, 외부 접근이 불필요한 시스템은 접근을 제한하는 것이 좋습니다.
2. 취약점 패치 우선순위 정하기
점수가 높은 취약점부터 모두 올리려면 시간이 부족합니다. CVSS 점수만 보지 말고 실제 악용이 확인됐는지, 인터넷에 노출돼 있는지, 해당 자산이 업무에 얼마나 중요한지를 함께 보고 순서를 정합니다. 악용이 확인된 취약점이 노출된 자산에 있다면 가장 먼저 처리하는 식의 기준을 미리 정해 두면 판단이 빨라집니다.
3. 이상 행위 모니터링
속도를 우선하는 자동화 도구는 흔적을 남길 수 있습니다. 같은 출처에서 반복되는 취약점 탐색, 비정상적인 웹 요청, 짧은 시간의 인증 실패 증가, 웹서버 계정에서 평소 쓰지 않는 프로세스가 실행되는 경우를 탐지 대상으로 둡니다. 로그를 모으기만 하지 말고, 누가 언제 확인하는지까지 정해 두어야 합니다.
4. 계정과 접근권한 관리
침투한 뒤에는 계정과 권한이 피해 범위를 가릅니다. 관리자 계정과 서비스 계정, API 키 목록을 정리하고, 오래 쓰지 않거나 필요 이상의 권한을 가진 계정을 줄입니다. 키가 코드 저장소나 설정 파일에 그대로 남아 있지 않은지도 점검합니다.
5. 침해사고 대응 절차 점검
예방이 뚫렸을 때를 대비해 긴급 패치 절차, 시스템 격리 기준, 로그 확보 방법, 조사와 복구 순서를 문서와 연락 체계로 정리합니다. 한 번은 모의 훈련으로 실제로 작동하는지 확인하는 것이 좋습니다.
■ AI 자동화 공격 시대, 취약점 대응 속도가 중요해지는 이유
AI 에이전트 기반 공격이 확대되면 보안 패치가 공개된 이후 공격에 활용되기까지의 시간이 더욱 짧아질 수 있습니다. 기업은 정기적인 취약점 점검과 함께 실제 악용 여부, 외부 노출 상태, 자산 중요도에 따라 긴급 대응할 수 있는 체계를 갖추는 것이 중요합니다.
또한 AI 자동화 공격도 비정상적인 트래픽과 실행 흔적을 남길 수 있는 만큼, 보안관제와 이상 행위 탐지를 통해 공격을 조기에 발견하고 대응하는 체계를 지속적으로 점검해야 합니다. 보고서는 PHP2Shell 취약점이 공개된 직후 AI가 만든 것으로 보이는 공격 코드(PoC)가 대량으로 올라와, 방어하는 쪽이 코드를 일일이 검증해야 했던 부담도 짚었습니다. 검증되지 않은 공격 코드가 퍼지더라도 실제로 악용 가능한지는 별도로 확인해야 합니다.
SK쉴더스는 외부 공격표면 점검과 취약점 진단, 모의해킹, 보안관제, 침해사고 대응 서비스를 통해 기업의 보안 위협 식별부터 탐지와 대응까지 지원하고 있습니다.
■ 자주 묻는 질문
Q. AI가 새로운 취약점을 스스로 찾아내는 건가요?
A. 이번 보고서가 소개한 exploit_agent는 보안 패치가 공개된 소프트웨어의 수정 전후 코드를 비교해, 이미 알려진 취약점(n-day)을 분석하고 아직 업데이트하지 않은 시스템을 공격하는 방식입니다. 개발사가 대응하기 전의 제로데이를 AI가 발견했다는 내용과는 구분해야 합니다.
Q. 공격이 모두 사람 없이 자동으로 이뤄지나요?
A. 그렇지 않습니다. GTIG는 지난 분기에 사람의 개입 없이 취약점 발견과 악용을 자동화하는 프레임워크(exploit_agent)를 처음 확인했다고 밝혔지만, 이 한 사례를 모든 공격으로 일반화할 수는 없습니다. 다른 도구는 시험 정황으로 관찰된 것도 있고, 오작동하거나 잘못된 대상을 고르는 한계도 지적됩니다.
Q. 국내 기업도 피해를 입었나요?
A. 이번 보고서를 통해 국내 기업의 피해가 확인됐다는 내용은 확인되지 않았습니다. 다만 패치 공개 뒤에 노출 시스템을 노리는 방식은 지역과 무관하게 적용될 수 있어, 점검 항목은 국내 기업도 참고할 만합니다.
Q. 패치를 최대한 빨리 하면 해결되나요?
A. 패치는 가장 기본이지만 전부는 아닙니다. 외부에 노출된 자산을 알고 있어야 무엇을 패치할지 정할 수 있고, 패치 전에 이미 침투가 있었는지 확인하는 이상 행위 탐지와 계정 점검, 사고 대응 절차도 함께 필요합니다.
Q. AI 에이전트를 쓰는 공격과 우리 회사 AI 서비스를 노리는 공격은 같은가요?
A. 다릅니다. 이 글은 공격자가 AI 에이전트를 침투 도구로 쓰는 경우를 다룹니다. 기업이 운영하는 AI 서비스나 모델 자체를 노리는 공격은 별도의 보안 대책이 필요합니다.



