가트너(Gartner) 조사에 따르면, 최근 12개월 동안 CISO(최고정보보호책임자)의 41%가 음성 통화에서, 36%가 화상 통화에서 딥페이크(AI로 만든 가짜 음성·영상)를 이용한 사회공학 공격을 경험했습니다. 공격자들은 이메일, 전화, 화상회의, 협업 도구를 넘나들며 복합적으로 사람을 속이고 있어, 단순히 "가짜를 구분하는 교육"만으로는 방어가 어렵습니다. 실제로 2024년 홍콩에서는 한 직원이 딥페이크 화상회의에 속아 2,500만 달러(약 330억 원)를 이체하는 사고가 발생했습니다. 가트너는 계정 복구·권한 승인·결제 등 위험도 높은 업무에 피싱 저항성 인증과 다채널 검증 절차를 도입할 것을 권고합니다. AI 생성 콘텐츠 탐지 기술만으로는 갈수록 정교해지는 딥페이크를 따라잡기 어렵기 때문에, 조직 전체의 인증 및 대응 체계를 재정비하는 것이 시급합니다.
가트너가 297명의 보안 리더를 대상으로 조사한 결과, 최근 12개월 내 딥페이크 기반 사회공학 공격이 광범위하게 발생했으며, 피싱·BEC(기업 이메일 침해) 피해도 79%에 달했다.
2024년 홍콩에서 딥페이크 화상 통화 사기로 2,500만 달러가 탈취됐으며, 성인의 90%가 AI 생성 콘텐츠와 실제를 구별하지 못한다고 응답할 만큼 피해 위험이 급증하고 있다.
생성형 AI 기술의 발전으로 딥페이크 품질이 높아져 탐지가 어려워졌고, 공격자들은 이메일·전화·화상회의·협업 도구를 복합적으로 활용해 인증 절차의 허점을 공략한다.
가트너는 ①위험 요청에 대한 기본 검증 절차 수립, ②피싱 저항성 인증 및 위험 기반 신원 통제 적용, ③의심 통신과 계정·권한·금융 거래 이벤트의 연계 탐지, ④인시던트 대응 플레이북을 다중 채널 사칭 공격에 맞게 업데이트할 것을 권고했다.
딥페이크 탐지 기술 단독 도입보다는, 계정 복구·권한 부여·결제 승인 등 고위험 프로세스에 피싱 저항성 MFA와 대역 외(out-of-band) 검증 채널을 추가하는 것이 더 실효성 있는 대응책이다.
본문
AI는 사이버 범죄자들이 피싱 이메일보다 훨씬 깊숙이 조직에 침투할 수 있게 해주고 있다.
가트너(Gartner)에 따르면, CISO의 41%가 지난 12개월 동안 직원 음성 통화에서 딥페이크가 활용된 사회공학 공격을 최소 한 건 이상 경험했다고 응답했다. 화상 통화의 경우에는 36%가 동일한 피해를 보고했다.
설문에 응한 CISO의 79%는 지난 12개월 내 피싱, 스피어피싱, 또는 BEC(비즈니스 이메일 침해) 사고를 최소 한 건 이상 경험했다고 밝혔다. 58%는 보이스피싱(vishing) 또는 문자 피싱(smishing) 사고를 경험했다고 응답했다.
가트너의 디렉터 애널리스트 크레이그 포터(Craig Porter)는 "공격자들은 피싱, 비즈니스 이메일 침해, 합성 미디어, 그리고 다양한 채널에서 수집한 개인 정보를 결합할 수 있다"고 말했다.
포터는 이어 "대부분의 공격은 계속해서 사용자, 탈취된 자격 증명, 취약한 복구 프로세스, 그리고 익숙한 기술적 방법에 의존할 것"이라며, "CISO는 신원 및 접근 위험을 평가하는 데 사용하는 것과 동일한 규율을 AI 기반 사회공학 위협 대응에도 적용해야 한다"고 덧붙였다.
이번 조사는 297명의 시니어 사이버보안 리더를 대상으로 2026년 3월부터 5월 사이에 진행됐다.
CISO를 위한 가트너의 3단계 권고 사항
직원들에게 "가짜를 찾아내는 법"을 가르치는 것만으로는 더 이상 충분하지 않다. 이메일, 전화, 화상 회의, 협업 도구, AI 애플리케이션 등 어떤 경로를 통하든 위험을 수반하는 요청에는 검증이 기본 대응이 되어야 한다.
계정 복구, 권한 있는 접근(privileged access), 결제 승인은 공격자들이 가장 집중적으로 노리는 워크플로우이므로, 피싱 저항성 인증, 위험 기반 신원 통제, 그리고 공격자가 속일 수 없는 검증 채널이 필요하다.
이러한 공격을 탐지하려면 연결고리를 파악해야 한다. 의심스러운 통신과 사칭 신고는 계정 복구 이벤트, 신규 기기 등록, 권한 변경, 금융 거래 내역과 교차 확인해야 한다.
가트너는 "다중 채널 사칭, 조작된 AI 권고, 침해되거나 악용된 에이전트, 그리고 해당하는 경우 의도된 범위를 벗어난 에이전트에 대비해 인시던트 대응 플레이북을 업데이트하라"고 강조했다.
탐지가 점점 어려워지는 AI 사기
문제는 AI 기술이 계속 발전하면서 실제와 가짜를 구별하기가 더욱 어려워지고 있다는 점이다. Malwarebytes 조사에 따르면, 성인의 약 10명 중 9명이 AI 생성 콘텐츠와 실제를 더 이상 구별할 수 없다고 답했다.
가장 많이 인용되는 사례 중 하나는 2024년 홍콩에서 발생한 사건으로, 한 다국적 기업의 홍콩 지사 재무 직원이 최고재무책임자(CFO)와 여러 동료가 참여한 것으로 믿고 화상 통화에 접속했다가 사기꾼들이 통제하는 계좌로 2,500만 달러 이상을 이체하고 말았다.
Jumio 조사에 따르면, 전 세계 응답자의 69%가 AI 기반 사기가 기존의 신원 도용보다 개인 보안에 더 큰 위협이 된다고 생각하는 것으로 나타났다.
딥페이크는 북한 공작원들이 서방 기업에 원격 IT 직원으로 침투하는 데 사용하는 주요 수단 중 하나이기도 하다.
딥페이크 탐지 자체도 문제가 되고 있다. Vector Institute의 연구진은 독립적인 기술 역량으로만 접근하는 딥페이크 탐지는 생성 모델이 계속 발전함에 따라 점점 뒤처지고 있으며, 앞으로도 그 격차가 계속 벌어질 것이라고 밝혔다.
