핵심 POINT
기업 클라우드에 침투해 GPU와 서버 자원으로 AI 모델을 무단 구동하는 LLM재킹과 같은 AI 계정·클라우드 자원 악용 사례가 늘고 있습니다. 피해 기업은 시스템 침해뿐 아니라 예상치 못한 고액의 클라우드 이용 비용까지 부담할 수 있습니다.
LLM재킹은 데이터 탈취에 그치지 않고, 컴퓨팅 자원의 무단 사용 자체가 직접적인 피해로 이어질 수 있습니다. 기업이 자체 AI 인프라를 확대하는 시기에는 비정상적인 자원 사용이 정상 워크로드로 오인될 수 있어 더욱 주의가 필요합니다.
클라우드 계정·API 자격증명 보호, 최소 권한 설정, 자원 사용량 이상 징후 모니터링이 LLM재킹 대응의 핵심입니다.
LLM재킹이란? 클라우드 자원을 노리는 신종 AI 해킹과 기업 대응 방안
기업의 클라우드 환경을 노리는 새로운 공격이 등장했습니다. 이제 공격자는 데이터나 계정 정보뿐 아니라 기업이 사용하는 고성능 GPU와 서버 자원까지 가로채 AI 모델을 무단으로 구동합니다.
이 공격은 ‘LLM재킹(LLMJacking)’이라 불립니다. 남의 컴퓨터로 가상화폐를 채굴하던 ‘크립토재킹’처럼, 피해 기업의 클라우드 인프라에서 공격자가 자신의 AI 작업을 대신 실행하는 방식입니다. 구글 위협 인텔리전스 그룹(GTIG)은 최근 기업의 AI 계정과 클라우드 컴퓨팅 자원을 무단 사용하는 사례가 늘고 있다고 경고했습니다. GTIG는 2026년 2분기 위협 보고서에서 피해 기업의 클라우드 환경에 무단 AI 인프라를 구축하고 고성능 컴퓨팅 자원을 사용한 실제 침해 사례를 공개했습니다.
이번 글에서는 LLM재킹의 공격 방식과 실제 피해 사례, 그리고 기업이 클라우드보안 관점에서 점검해야 할 사항을 살펴봅니다.
■ LLM재킹이란? AI 계정·클라우드 자원을 노리는 새로운 공격
출처: Magnific
LLM재킹은 탈취한 AI 계정이나 API 자격증명, 침해한 클라우드 환경을 이용해 타인의 AI 서비스와 컴퓨팅 자원을 무단으로 사용하는 행위를 말합니다. 공격자는 AI 서비스 비용을 직접 부담하지 않고 고성능 모델을 운영하는 반면, 피해 기업은 자신도 모르는 사이 막대한 클라우드 이용 비용을 떠안게 됩니다.
LLM재킹은 크게 두 가지 형태로 나타납니다.
1) AI 서비스 계정·API 자격증명 탈취
다크웹에서는 오픈AI, 구글, 앤트로픽 등의 AI 서비스 계정 접속권이 정상 가격보다 훨씬 저렴하게 거래되고 있습니다. 일부 판매자는 계정이 정지되면 새로운 접속 정보를 다시 제공하는 방식으로 거래를 이어가기도 합니다.
2) 기업 클라우드 인프라 침해와 자원 무단 사용
계정 탈취를 넘어 기업의 클라우드 서버 자체를 장악하는 클라우드해킹도 확산되고 있습니다. 공격자는 기업 클라우드에 침투한 뒤 고성능 GPU 인스턴스를 할당받고, 자체 AI 모델을 설치한 뒤 피해 기업의 컴퓨팅 자원으로 구동합니다. 무단으로 사용된 서버와 GPU 자원의 비용은 고스란히 피해 기업의 클라우드 계정에 청구될 수 있습니다.
■ 실제 사례로 보는 LLM재킹 공격 방식
출처: Magnific
GTIG가 2026년 2분기 보고서에서 공개한 주요 사례를 살펴봅니다.
1) 노출된 자격증명으로 클라우드 침입
2026년 4월, 맨디언트의 대응 조사에서 한 공격자가 깃허브에 노출된 접속 정보를 이용해 기업 클라우드에 침입한 사례가 확인됐습니다. 공격자는 엔비디아 RTX 6000 GPU 사용 한도 확대를 신청하고, 가상 CPU 48개 규모의 서버까지 추가로 가동하며 승인되지 않은 AI 워크로드를 지속적으로 실행했습니다. 이에 따른 비용은 모두 피해 기업에 청구됐습니다.
2) 침해된 클라우드에 AI 인프라 무단 구축
중국 연계 위협 행위자 UNC6508은 북미 학술·의료·군사 연구기관의 클라우드 시스템에 침투한 뒤 이를 AI 운영 공간으로 활용한 정황이 포착됐습니다. 공격자는 피해 기관의 클라우드에 오픈웨이트(가중치 공개) 기반 로컬 LLM 인프라를 무단으로 구축했습니다.
■ LLM재킹이 기존 클라우드 공격과 다른 이유
LLM재킹이 특히 우려되는 것은 탐지가 쉽지 않다는 점입니다.
• 정상 워크로드로 오인: AI 환경은 원래 GPU와 컴퓨팅 자원 사용량이 많아 비정상적인 증가도 정상 업무로 보일 수 있습니다.
• 정상 기능을 악용하는 공격 방식: 공격자는 인스턴스 생성·GPU 할당 등 클라우드의 정상 기능을 그대로 사용해 무단 워크로드를 실행할 수 있어 악성 행위와 구분하기 어렵습니다.
• 비용 청구서에서 뒤늦게 발견: 사용량·비용 모니터링이 없다면 월말 청구서를 받고서야 이상을 알아챌 수도 있습니다.
■ LLM재킹 대응을 위한 클라우드 보안 점검과 관리
출처: Magnific
LLM재킹에 대응하기 위해 기업이 확인해야 할 사이버 보안 항목을 표로 정리했습니다.
| 점검 항목 | 주요 확인 내용 |
|---|---|
| 계정 보안·자격증명 보호 | MFA 적용, API 키·토큰 노출 여부 확인, 불필요한 자격증명 폐기 |
| 최소 권한 적용 | 계정별 최소 권한 부여, GPU·할당량 변경 등 고비용 작업 승인 절차 운영 |
| 미승인 리소스 확인 | 승인되지 않은 VM·GPU 인스턴스·AI 워크로드 탐지 |
| 사용량·비용 모니터링 | GPU·인스턴스·API 사용량과 비용 급증 알림 설정 |
| AI 보안 정책 수립 | 승인된 AI 서비스·모델 관리 및 신규 워크로드 보안 검토 |
[표] LLM재킹 대응을 위한 클라우드보안 점검 항목
LLM재킹은 한 번의 점검으로 막을 수 있는 위협이 아닙니다. 공격자는 노출된 자격증명과 과도한 권한, 모니터링 사각지대를 지속적으로 노립니다. 따라서 클라우드 환경의 보안 상태를 상시 점검하고 이상 징후를 모니터링하는 체계가 필요합니다.
SK쉴더스는 보안관제와 취약점 진단, 침해사고 대응 등 전문 서비스를 통해 클라우드 환경의 이상 징후를 점검하고 대응 체계 강화를 지원합니다.
■ 자주 묻는 질문(FAQ)
Q1. LLM재킹과 크립토재킹은 어떻게 다른가요?
A. 둘 다 피해자의 컴퓨팅 자원을 무단으로 사용한다는 점은 같습니다. 크립토재킹은 가상화폐 채굴에 자원을 사용하지만, LLM재킹은 AI 모델 구동에 GPU와 클라우드 자원을 사용합니다. 특히 LLM재킹은 고성능 GPU나 클라우드 인스턴스를 장시간 무단으로 사용할 수 있어 예상치 못한 비용 피해로 이어질 수 있습니다.
Q2. AI를 직접 개발하지 않는 기업도 LLM재킹 대상이 되나요?
A. 네, 대상이 될 수 있습니다. 공격자가 노리는 것은 AI 기술이 아니라 클라우드 인프라와 GPU 자원입니다. AI를 직접 개발하지 않더라도 클라우드 환경과 컴퓨팅 자원을 운영하는 기업이라면 관련 위험에 노출될 수 있습니다.
Q3. 클라우드 비용이 갑자기 늘었는데 LLM재킹을 의심해야 하나요?
A. 네, 의심해 볼 필요가 있습니다. 비정상적인 비용 증가는 LLM재킹의 대표적인 징후 중 하나입니다. 승인하지 않은 GPU 인스턴스가 생성되어 있는지, 평소와 다른 리전에서 자원이 사용되고 있는지, API 호출량이 급증했는지를 먼저 확인해야 합니다. 원인이 명확하지 않다면 계정·API 자격증명, 신규 인스턴스, 권한 변경 이력과 관련 로그를 함께 확인해야 합니다.
Q4. LLM재킹을 예방하려면 가장 먼저 무엇을 해야 하나요?
A. 가장 먼저 클라우드 계정과 API 자격증명의 노출 여부를 확인해야 합니다. 깃허브 등 코드 저장소에 API 키나 토큰이 포함돼 있지 않은지 점검하고, 클라우드 계정에는 다중 인증(MFA)을 적용합니다. 사용하지 않는 자격증명과 불필요한 권한도 함께 정리하는 것이 좋습니다.
[참고자료]
"남의 GPU·클라우드로 AI 돌린다"…신종 해킹 'LLM재킹' 비상 | 뉴시스
AI Threat Tracker: From Prompting to Autonomy – The Evolution of Adversarial AI | GTIG
월 200달러 AI 계정이 몇 달러…해커들 ‘LLM 재킹’ 확산 | 메트로신문
