핵심 POINT
SK쉴더스 EQST는 DEF CON 34 AI Village의 자율형 AI 해킹 대회 HalCTF에서 전 세계 200여 개 팀 중 최종 5위를 기록했습니다.
SK쉴더스 EQST는 글로벌 연합팀으로 DEF CON 34 CTF 본선에 진출해 공격·방어 실전 역량을 겨뤘으며, AI Village HalCTF에서는 최종 5위를 기록하며 AI 보안 역량을 입증했습니다.
기업 보안은 AI 서비스의 기능 검증을 넘어 최소 권한, 샌드박스, 행동 로그, 비상 중지, 탐지·대응·복원력까지 함께 고려해야 합니다.
AI가 해킹을 돕는 보조 도구를 넘어 스스로 목표를 분석하고 공격 절차를 선택하는 단계로 발전하고 있습니다. 2026년 8월 미국 라스베이거스에서 열린 DEF CON 34는 이러한 변화를 확인할 수 있는 자리였습니다.
SK쉴더스 화이트해커 그룹 EQST(Experts, Qualified Security Team, 이큐스트)는 DEF CON 34 CTF 본선에 글로벌 연합팀으로 참가했습니다. 또한 EQST는 DEF CON CTF 본선과 별도로 AI Village가 주최한 자율형 AI 에이전트 기반 CTF ‘HalCTF’에 참가해 전 세계 200여 개 팀 중 최종 5위를 기록했습니다. AI Village는 DEF CON에서 인공지능 보안을 전문적으로 다루는 세션입니다.
▲ 데프콘(DEF CON) 34 메인 로비 전경
이번 글에서는 DEF CON 34에서 확인한 AI 해킹의 변화와 EQST의 대회 성과를 살펴보고, 기업이 AI 보안을 위해 준비해야 할 운영 원칙을 짚어보겠습니다.AI가 해킹을 돕는 보조 도구를 넘어 스스로 목표를 분석하고 공격 절차를 선택하는 단계로 발전하고 있습니다. 2026년 8월 미국 라스베이거스에서 열린 DEF CON 34는 이러한 변화를 직접 확인할 수 있는 자리였습니다.
■ DEF CON 34에서 확인한 AI 해킹의 변화
▲ 데프콘(DEF CON) CTF 현장
DEF CON은 메인 컨퍼런스와 분야별 빌리지, 해킹 대회와 실습형 콘테스트가 함께 운영되는 글로벌 사이버보안 행사입니다. 이 가운데 DEF CON CTF는 공격과 방어 역량을 겨루는 대표적인 해킹 대회이며, AI Village에서는 AI 보안을 주제로 연구와 실습, 다양한 대회가 진행됩니다.
HalCTF는 DEF CON CTF 본선과는 별도로, AI Village에서 진행된 자율형 AI 에이전트 CTF입니다. 참가자는 취약점을 탐색하고 공략하는 AI 에이전트를 직접 개발했습니다. 이후 에이전트 로그를 바탕으로 에이전트의 구조와 동작 방식, 시스템 프롬프트를 최적화하며 문제 분석과 과제 수행 성능을 높여야 했습니다.
기존 CTF에서 AI가 코드 작성이나 정보 탐색을 지원하는 보조 수단으로 활용될 수 있다면, HalCTF에서는 참가자가 직접 개발·최적화한 AI 에이전트가 목표 분석부터 취약점 탐색과 공격 수행까지 여러 단계를 연속적으로 처리했습니다. 이를 통해 AI가 단순한 보조 도구를 넘어, 사람이 설계한 범위 안에서 목표를 분석하고 여러 공격 단계를 연속적으로 수행하는 에이전트 형태로 발전하고 있음을 확인할 수 있었습니다.
▲ SK쉴더스 EQST, AI 빌리지 (AI Village)
AI Village HalCTF에서는 AI 에이전트를 활용한 보안 역량을 검증했습니다. AI 에이전트의 실행 로그를 분석하고, 이를 바탕으로 사람이 에이전트의 구조와 동작 방식, 시스템 프롬프트를 반복적으로 조정해 문제 분석과 취약점 공략 성능을 개선하는 과정이 중요했습니다.
HalCTF는 AI 에이전트가 목표 분석과 취약점 탐색, 공격 수행의 여러 단계를 자동화하는 데 활용될 수 있음을 보여줬습니다. 따라서 기업은 AI를 활용한 공격의 속도와 반복성에 대비해 탐지·대응 역량을 강화해야 합니다.
■ AI 에이전트 보안, 핵심은 통제
많은 조직이 업무 자동화, 개발 보조, 고객 응대, 보안 운영 등에 AI를 도입하고 있습니다. 특히 AI 에이전트는 단순히 질문에 답하는 챗봇과 달리 외부 도구를 호출하고 데이터를 조회하며, 설정된 권한에 따라 실제 작업까지 수행할 수 있습니다.
따라서 AI 에이전트 보안에서는 모델 성능뿐 아니라 어떤 데이터와 시스템에 접근할 수 있는지, 어디까지 행동하도록 허용할 것인지, 문제가 발생했을 때 어떻게 통제할 것인지를 함께 고려해야 합니다.
1. 배포 전 AI 레드팀 검증
AI 서비스는 모델뿐 아니라 프롬프트, 외부 도구, 데이터 접근 권한, 사용자 인증 등 다양한 요소가 연결된 시스템입니다. 각 요소가 개별적으로 안전하더라도 연결 과정에서 과도한 권한이나 검증되지 않은 입력, 의도하지 않은 도구 실행이 발생할 수 있습니다.
기업은 일반적인 기능 테스트와 별도로 공격자의 관점에서 모델과 서비스 전체 흐름을 점검하는 AI 레드팀 활동을 고려할 필요가 있습니다.
2. 최소 권한과 샌드박스
AI 에이전트가 수행할 수 있는 작업이 많아질수록 잘못된 판단이 미치는 영향도 커질 수 있습니다.
기업 환경에서는 필요한 최소한의 권한만 부여하고, 중요 작업에는 실행 전 승인 절차를 적용해야 합니다. 필요에 따라 샌드박스 환경과 행동 로그, 결과 검증, 비상 중지 절차도 함께 마련할 수 있습니다.
AI의 성능을 높이는 것만큼 AI가 어디까지 행동할 수 있도록 허용할 것인지를 명확하게 정하는 것이 중요합니다.
3. 탐지·대응·복원력 연결
HalCTF에서 확인한 공격형 AI 에이전트의 속도와 반복성을 고려하면, 기업은 AI 기반 공격 흐름에 맞춰 탐지·대응·복원력을 함께 갖출 필요가 있습니다.
실제 기업 보안 역시 침해 징후를 탐지한 이후 영향 범위를 확인하고 피해 확산을 차단하면서 핵심 서비스를 유지하고 복구할 수 있어야 합니다. AI 관련 보안 사고도 탐지 룰, 사고 대응 절차, 담당자 연락 체계, 복구 훈련 등을 하나의 대응 체계로 연결해야 합니다.
■ 화이트해커의 경험을 기업 보안에 연결
▲ SK쉴더스 EQST (이큐스트)
SK쉴더스 EQST(이큐스트)는 네이버클라우드, 루비야랩, 핀란드 H-T8로 구성된 국제 연합팀 소속으로 본선 무대 올라 글로벌 보안 전문가들과 경쟁을 펼쳤습니다. 686개 팀이 경쟁한 온라인 예선을 통과해 본선에 오른 12개 팀 중 하나로, 공격뿐 아니라 자신의 서비스를 방어하고 안정적으로 운영하는 실전 역량을 겨뤘습니다.
해킹 대회의 환경과 실제 기업의 IT 환경은 동일하지 않습니다. 하지만 제한된 정보에서 취약점을 찾고, 실패 원인을 분석해 전략을 수정하며 공격과 방어를 동시에 수행하는 과정은 실제 보안 연구와 밀접하게 연결돼 있습니다.
중요한 것은 대회에서 사용한 공격 기법을 그대로 적용하는 것이 아니라, 새롭게 확인한 공격 방식과 취약 가능성을 실제 기업 환경에서 발생할 수 있는 위험과 대응 방법으로 다시 검증하는 것입니다.
EQST는 이번 DEF CON 34 경험을 AI 서비스와 모델 취약점 연구, AI 레드팀, 보안 대응 기술 고도화에 활용할 계획이라고 밝혔습니다. 이호석 SK쉴더스 EQST Lab 팀장은 “이번 데프콘에서는 기존 공격·방어 기술뿐 아니라 AI 에이전트가 스스로 문제를 분석하고 공격을 수행하는 새로운 방식을 직접 경험할 수 있었다”며 “글로벌 보안 전문가들과 경쟁하며 얻은 경험과 기술을 향후 AI 취약점 및 레드팀 연구, 보안 기술 고도화에 적극 활용할 계획”이라고 말했습니다.
■ AI 해킹 시대, 기업이 확인해야 할 보안 점검 항목
▲ 출처: AI(ChatGPT) 생성 이미지
AI가 공격과 방어의 속도를 동시에 높이는 환경에서는 새로운 보안 솔루션을 추가하는 것만으로 충분하지 않습니다. AI 서비스의 구조와 접근 권한, 운영 과정과 사고 대응 체계까지 함께 살펴봐야 합니다.
특히 AI 에이전트가 외부 도구와 기업 데이터에 직접 접근하는 환경이라면 다음 항목을 확인할 필요가 있습니다.
• 우리 조직에서 사용 중인 AI 모델과 AI 에이전트, 연결된 외부 도구를 파악하고 있는가?
• AI 에이전트가 접근할 수 있는 데이터와 시스템 권한이 업무에 필요한 최소 범위로 제한돼 있는가?
• 프롬프트 인젝션, 도구 오용, 데이터 유출 등 AI 특화 공격을 테스트하고 있는가?
• AI가 수행한 행동과 의사결정 과정을 기록하고 사후 분석할 수 있는가?
• 이상 행동을 탐지했을 때 에이전트를 중지하고 권한을 회수할 절차가 마련돼 있는가?
• 침해 징후가 확인됐을 때 보안·개발·AI·서비스 운영 담당자의 역할이 정해져 있는가?
DEF CON 34에서는 기존 공격·방어 기술을 넘어 AI 에이전트가 직접 보안 과제를 분석하고 수행하는 새로운 흐름을 확인할 수 있었습니다. AI 활용 범위가 넓어질수록 기업은 AI의 성능뿐 아니라 권한과 행동 범위를 통제하고, 공격자의 관점에서 위험을 사전에 검증하며 사고 발생 시 대응할 수 있는 운영 체계를 함께 마련해야 합니다.
■ 자주 묻는 질문
Q1. DEF CON, DEF CON CTF, AI Village는 어떤 관계인가요?
A. DEF CON은 글로벌 보안 컨퍼런스이며, 행사 안에서 다양한 빌리지와 콘테스트가 함께 운영됩니다. DEF CON CTF는 대표적인 해킹 대회 본선이며, AI Village는 AI 보안을 주제로 연구와 실습, 대회 등이 진행되는 빌리지입니다. HalCTF는 AI Village에서 열린 자율형 AI 에이전트 CTF입니다.
Q2. SK쉴더스 EQST는 DEF CON 34에서 어떤 성과를 냈나요?
A. SK쉴더스 EQST는 글로벌 연합팀으로 DEF CON 34 CTF 본선에 참가했으며, AI Village HalCTF에서는 전 세계 200여 개 팀 중 최종 5위를 기록했습니다. 이를 통해 공격·방어 실전 역량과 AI 에이전트 기반 보안 역량을 함께 검증했습니다.
Q3. HalCTF는 어떤 방식으로 진행됐나요?
A. 참가자는 제공된 로컬 AI 모델을 기반으로 취약점 탐색·공격을 수행하는 AI 에이전트를 직접 개발한 뒤, 에이전트의 구조와 동작 방식, 시스템 프롬프트를 반복적으로 최적화해 목표 분석과 과제 수행 성능을 높이는 방식으로 진행됐습니다.
Q4. AI 에이전트가 해킹을 완전히 자동화할 수 있나요?
A. 특정 샌드박스와 대회 환경에서는 공격 과정의 상당 부분을 자동화할 수 있지만, 목표 설정과 권한 통제, 실패 분석, 결과 검증에는 여전히 사람의 전문성이 필요합니다. 실제 기업 환경에서는 더욱 엄격한 통제가 필요합니다.
[콘텐츠 출처]
SK쉴더스 EQST, 데프콘 34 참가 완료·AI CTF서 글로벌 5위 | SK쉴더스
HalCTF: Hostile Autonomous Layer CTF at DEFCON 34 | AI Village
AI Village @ DEF CON 34 | AI Village
DEF CON Contests List - HALctf (AI Village CTF) | The One! DEF CON 34
