핵심 POINT
Microsoft Threat Intelligence는 ChatGPT·Claude·DeepSeek 등 익숙한 AI 브랜드를 미끼로 한 피싱, 악성 광고, 가짜 설치파일 공격을 실제로 관찰했습니다.
확인된 사례는 AI 서비스 자체의 침해가 아니라, 공격자가 신뢰받는 AI 브랜드를 사칭해 결제정보·계정정보·인증 토큰을 노리는 사회공학 공격입니다.
업무용 AI를 쓰는 기업은 공식 접속 경로, MFA, 설치·확장프로그램 통제, 피싱 신고 절차를 함께 점검하는 것이 좋습니다.
생성형 AI가 업무 도구로 빠르게 확산되면서 공격자도 사람들이 익숙하게 보는 AI 서비스 이름과 화면을 미끼로 활용하고 있습니다. Microsoft는 2026년 6월 공개한 위협 연구를 통해 ChatGPT·Claude 등 생성형 AI 브랜드를 사칭한 피싱과 악성 광고, 가짜 설치파일 공격 사례를 공개했습니다.
해당 연구는 최근 몇 달간 관찰한 공격 캠페인을 바탕으로 ChatGPT, Microsoft Copilot, DeepSeek, Anthropic의 Claude 등 유명 AI 브랜드가 피싱·악성 광고·검색 유도형 공격에 악용되고 있다고 설명했습니다. Microsoft는 이 활동이 해당 AI 서비스 자체의 침해를 의미하지는 않는다고 명확히 밝혔습니다.
또한 Microsoft Security Blog는 2026년 9월 10일 후속 글에서 같은 연구를 다시 인용하며, AI 브랜드 사칭이 이메일 → 악성 링크 → 가짜 로그인 → 악성 다운로드 → 계정·단말 침해로 이어질 수 있는 다단계 공격으로 확장될 수 있다고 정리했습니다.
이번 글에서는 Microsoft가 해외에서 관찰한 AI 브랜드 사칭 공격 사례를 바탕으로, 국내 기업에서도 유사한 피싱과 계정 탈취, 가짜 설치파일 공격에 대비하기 위해 임직원과 IT·보안 담당자가 어떤 부분을 확인해야 하는지 살펴보겠습니다.
■ Microsoft가 확인한 AI 브랜드 사칭 공격, 어떤 방식이었나
출처: AI(ChatGPT) 생성 이미지
Microsoft의 6월 8일 연구에는 서로 다른 유형의 AI 브랜드 사칭 공격이 구체적으로 제시돼 있습니다. 단순히 ‘AI 관련 피싱이 늘고 있다’는 수준이 아니라, 실제 캠페인의 규모와 공격 흐름까지 공개됐습니다.
ChatGPT 사칭: 결제정보 업데이트를 유도한 피싱
Microsoft는 2026년 5월 5일 ChatGPT를 사칭한 피싱 공격을 탐지했습니다. 공격 메일은 ChatGPT Plus 결제수단을 갱신하지 않으면 무료 플랜으로 전환된다는 식으로 긴급성을 강조했고, 악성 링크를 통해 이름·주소·신용카드 정보 입력을 유도했습니다.
해당 활동은 남아프리카공화국을 중심으로 4,500건의 메일이 확인됐고, 같은 인프라와 주제를 활용한 더 넓은 캠페인에서는 스위스·오스트리아·남아프리카공화국 등을 대상으로 하루 최대 10만 건의 메일이 전달된 사례도 관찰됐습니다.
Claude 사칭: 계정 위반 안내로 자격증명과 토큰을 노림
2026년 4월 20~22일에는 Anthropic과 Claude를 사칭한 피싱 캠페인이 관찰됐습니다. Microsoft에 따르면 2,000개가 넘는 조직을 대상으로 메일이 전송됐고, ‘사용정책 위반’과 ‘이의제기 절차’를 내세워 첨부 PDF와 가짜 페이지 접속을 유도했습니다.
분석된 공격 흐름은 Adversary-in-the-Middle(AiTM) 방식과 연결돼 계정 자격증명과 인증 토큰 탈취로 이어질 수 있는 구조였습니다. 즉 비밀번호만 바꾸면 끝나는 공격이 아니라, 인증 세션까지 악용될 가능성을 고려해야 하는 유형입니다.
가짜 AI 플러그인·설치파일: 정보탈취 악성코드 유포
Microsoft는 ‘Awesome AI Windows Plugin’ 같은 가짜 AI 도구 광고를 통해 Vidar 정보탈취형 악성코드가 유포된 사례도 공개했습니다. 별도로 DeepSeek V4를 사칭한 가짜 GitHub 저장소와 설치파일을 이용해 Vidar Stealer를 배포한 사례도 확인했습니다.
이 사례들은 사용자가 직접 파일을 내려받아 실행하도록 유도했다는 점이 공통적입니다. 공격자는 실제 AI 브랜드와 유사한 이름, 검색 결과, 저장소 구성 등을 활용해 정상 도구처럼 보이게 만들었습니다.
■ 왜 기업 보안 이슈인가, 업무용 AI 계정에서 단말까지 이어질 수 있습니다
출처: AI(ChatGPT) 생성 이미지
AI 브랜드 사칭 공격의 위험은 특정 서비스 계정 하나에만 머물지 않을 수 있습니다. Microsoft가 공개한 사례처럼 결제정보 탈취, 계정 자격증명 탈취, 인증 토큰 탈취, 정보탈취형 악성코드 설치가 각각 다른 공격 경로로 사용될 수 있기 때문입니다.
업무용 AI를 기업 이메일, SSO, 브라우저 저장 세션과 연결해 사용하는 환경이라면 피싱 한 번이 이메일 계정, 업무용 SaaS, 단말 보안 이슈로 확대될 가능성을 함께 봐야 합니다. 특히 직원이 검색 결과나 광고를 통해 AI 도구를 직접 찾아 설치하는 환경이라면 가짜 설치파일과 브라우저 확장 기능도 관리 대상에 포함할 필요가 있습니다.
Microsoft의 9월 10일 후속 글 역시 AI 테마 공격을 이메일·링크·다운로드·아이덴티티·엔드포인트를 각각 따로 보는 것이 아니라 하나의 공격 체인으로 연결해 확인해야 한다고 강조합니다.
■ 업무용 AI를 쓰는 기업이 지금 확인할 5가지
출처: AI(ChatGPT) 생성 이미지
1) 공식 AI 서비스 접속 경로를 사내에 명확히 안내
임직원이 메일·광고·검색 결과의 링크를 통해 AI 서비스에 접속하지 않도록 공식 URL과 사내 허용 경로를 안내합니다. 자주 사용하는 서비스는 사내 포털이나 브라우저 북마크로 제공하면 사칭 페이지 접속 위험을 줄이는 데 도움이 됩니다.
2) MFA와 피싱 저항성이 높은 인증 방식 점검
Microsoft는 AI 브랜드 사칭 대응 가이드에서 모든 계정에 MFA를 적용하고, 특히 중요 계정은 피싱 저항성이 높은 MFA와 조건부 접근 정책을 검토할 것을 권고합니다. 단순 비밀번호 재사용 여부뿐 아니라 세션과 토큰 탈취 가능성까지 고려하는 것이 좋습니다.
3) AI 플러그인·설치파일의 허용 경로 제한
가짜 AI 설치파일 사례가 실제로 확인된 만큼, 직원이 검색 결과나 GitHub·광고 링크를 통해 임의로 실행 파일을 내려받지 않도록 설치 정책을 점검합니다. 승인된 소프트웨어 저장소나 사내 배포 경로를 사용하는 방식이 권고됩니다.
4) ‘결제 오류·계정 위반·신규 기능’ 같은 미끼를 임직원 교육에 반영
이번 연구에서 확인된 공격은 결제수단 갱신, 계정 정책 위반, 신규 AI 도구 다운로드처럼 사용자의 긴급함과 호기심을 자극하는 문구를 활용했습니다. 기존 피싱 교육에 AI 서비스 사칭 사례를 추가하면 실제 업무 상황과 연결하기 쉽습니다.
5) 이메일·아이덴티티·엔드포인트 로그를 함께 확인
의심 메일 클릭이나 가짜 설치파일 실행이 확인되면 해당 이벤트만 삭제하고 끝내기보다 비정상 로그인, 세션·토큰 이상, 악성 프로세스, 추가 다운로드, 외부 통신 여부를 함께 확인합니다. 공격 단계를 연결해서 보는 것이 후속 침해 여부 판단에 도움이 됩니다.
■ AI 사용 가이드에 ‘정보 입력’ 외 보안 기준도 필요합니다
생성형 AI 보안 가이드는 보통 ‘민감정보를 입력하지 않는다’는 기준에 집중합니다. 하지만 이번 Microsoft 연구처럼 공격자가 AI 브랜드 자체를 사회공학 미끼로 활용한다면 접속 경로, 계정 보안, 설치파일, 신고 절차까지 운영 기준에 포함할 필요가 있습니다.
특히 업무용 AI 사용자가 빠르게 늘어나는 조직은 ‘허용 서비스 목록’, ‘공식 접속 경로’, ‘확장 프로그램·설치파일 정책’, ‘피싱 의심 시 신고 채널’을 한 번에 정리해두면 임직원의 판단 부담을 줄일 수 있습니다.
■ 자주 묻는 질문
Q1. ChatGPT나 Claude 서비스 자체가 해킹된 건가요?
A. Microsoft는 이번 연구에서 확인된 활동이 해당 AI 서비스 자체의 침해를 의미하지 않는다고 명확히 설명했습니다. 공격자가 유명 AI 브랜드를 사칭해 사용자의 신뢰를 악용한 사례입니다.
Q2. 국내에서도 같은 공격이 확인됐나요?
A. 이번 콘텐츠의 근거가 된 Microsoft 연구는 주로 해외에서 관찰된 사례입니다. 따라서 국내 피해가 확인됐다고 표현하면 안 됩니다. 다만 동일한 글로벌 AI 서비스를 국내 기업 임직원도 사용하기 때문에 사칭 방식과 대응 기준을 선제적으로 참고할 필요는 있습니다.
Q3. 왜 단순 피싱이 아니라 기업 보안 이슈로 봐야 하나요?
A. 확인된 캠페인에는 결제정보 탈취뿐 아니라 계정 자격증명·인증 토큰 탈취와 정보탈취형 악성코드 설치 사례가 포함돼 있습니다. 기업 계정이나 단말에서 발생하면 이메일·아이덴티티·엔드포인트 보안으로 확대될 수 있습니다.
Q4. 임직원이 가장 먼저 기억해야 할 것은 무엇인가요?
A. 메일이나 광고에서 바로 로그인하거나 설치하지 않고, 공식 서비스 주소를 직접 확인하는 습관이 중요합니다. 결제 오류, 계정 위반, 긴급 인증, 신규 플러그인 설치처럼 행동을 서두르게 만드는 문구는 한 번 더 확인하는 것이 좋습니다.
Q5. 기존 생성형 AI 가이드가 있다면 무엇을 보완해야 하나요?
A. 개인정보·기밀정보 입력 금지 기준과 함께 공식 접속 경로, MFA, 승인된 설치 방식, 브라우저 확장 기능 정책, 피싱·의심 파일 신고 절차를 추가하는 것이 좋습니다.
[콘텐츠 출처]
1. Microsoft Threat Intelligence · Microsoft Defender Security Research Team, 「AI brands as bait: How threat actors are using the AI hype in social engineering」, 2026.06.08
본문의 핵심 근거 자료입니다. ChatGPT 사칭 결제정보 피싱, Claude 사칭 AiTM 피싱, 가짜 AI Windows 플러그인 악성 광고, 가짜 DeepSeek V4 설치파일 사례와 각 캠페인의 관찰 규모·공격 흐름을 공개했습니다.
Microsoft Security Blog 원문 보기
2. Rob Lefferts, Microsoft Security Blog, 「Detect and disrupt AI-themed attacks with Microsoft Defender」, 2026.09.10
6월 Microsoft Threat Intelligence 연구를 다시 인용해 AI 브랜드 사칭 공격이 이메일·링크·가짜 로그인·악성 다운로드·아이덴티티·엔드포인트 침해로 이어질 수 있음을 정리하고, 피싱·링크·첨부파일·아이덴티티 보호 관점의 대응 방향을 설명한 후속 자료입니다.
Microsoft Security Blog 후속 글 보기
※ 본 콘텐츠의 공격 사례와 수치는 위 Microsoft 공개 자료를 기반으로 작성했습니다. 국내 피해 발생 여부를 의미하지 않으며, SK쉴더스는 국내 기업의 업무용 AI 보안 관점에서 확인해야 할 대응 항목을 재구성했습니다.
