스페인 개인정보보호기관(AEPD)이 AI 에이전트를 이용한 사이버 공격으로 인한 개인정보 침해 신고를 처음으로 접수했습니다. 공격에 사용된 AI 에이전트는 스스로 취약점을 탐색하고, 시스템에 로그인한 뒤 개인 데이터를 수정하고 재무 문서에까지 접근했습니다. AEPD는 AI가 새로운 위협을 만들어 내는 것은 아니지만, 공격의 속도·규모·적응력을 크게 높이고 방어자의 대응 시간을 줄인다고 경고했습니다. 기존 수동 공격을 전제로 설계된 대응 절차로는 AI 자율 에이전트의 동시다발적 공격에 대응하기 어렵습니다. 기업들은 디지털 신원·자격증명 보안을 강화하고, 탐지·차단·대응 체계를 자동화하는 방향으로 보안 모델을 즉시 재검토해야 합니다.
스페인 AEPD가 알려진 LLM(대형 언어 모델)을 기반으로 한 AI 에이전트가 자율적으로 취약점을 탐색하고, 시스템에 로그인한 뒤 개인 데이터를 수정·유출한 침해 사고 신고를 수령했다. 이는 AI 에이전트가 실제 데이터 침해에 활용된 최초의 공식 신고 사례다.
공격 대상 조직의 개인 데이터가 수정되고 재무 문서가 노출됐다. 더 넓게는, AI 기반 공격이 기존보다 훨씬 빠른 속도·대규모·높은 적응력으로 전개되어 방어자의 대응 시간이 크게 단축될 수 있다.
알려진 LLM으로 구동되는 AI 에이전트가 취약점 스캔, 로그인 시도, 앱 내 추가 취약점 탐색 등을 자율적으로 수행했다. 과도한 권한을 가진 계정, API 키, 토큰이 기계 속도로 악용될 수 있었다.
AEPD는 AI 에이전트 공격에 대비한 보안·개인정보 보호 모델의 즉각적인 재검토, 신속한 탐지·차단·대응 메커니즘 구축, 디지털 신원 및 자격증명 보안 강화를 촉구했다. 기존 수동 공격 대응 절차도 AI 공격 시나리오에 맞게 개정해야 한다고 강조했다.
인시던트 대응 절차를 AI 에이전트 공격 시나리오로 업데이트하고, 과도한 권한을 가진 계정·API 키·토큰을 즉시 점검해야 한다. 수동 대응만으로는 한계가 있으므로 자동화된 탐지·차단 체계를 갖추는 것이 시급하다.
본문
스페인 개인정보보호기관(AEPD)이 알려진 대형 언어 모델(LLM)로 구동되는 AI 에이전트를 이용해 수행된 것으로 추정되는 공격에 대한 신고를 접수했다.
신고한 조직에 따르면, AI 에이전트는 취약점을 탐색하고 시스템에 로그인한 뒤 추가적인 보안 문제를 찾기 위해 애플리케이션을 조사했다. 공격의 최종 단계에서 에이전트는 개인 데이터를 수정하고 재무 문서에 접근했다.
스페인 기관은 아직 사건을 조사해 정보를 검증하지 않은 상태이지만, AEPD는 이번 신고가 AI 관련 데이터 침해가 더 이상 이론상의 이야기가 아님을 보여 준다고 밝혔다.
"공격 에이전트는 범용 파일에서 취약점을 탐색하기 시작했고 성공적으로 로그인했다"고 AEPD는 설명했다.
"시스템 접근 권한을 얻은 뒤 에이전트는 애플리케이션 내 취약점을 자율적으로 탐색하기 시작했다. 취약점을 발견한 후에는 개인 데이터를 수정하고 청구서(invoices)에 접근할 수 있었다."
AEPD는 AI가 새로운 위협을 만들어 내는 것은 아니지만, 사이버 공격의 속도·규모·적응력을 높이고 방어자의 대응 시간 여유를 줄일 수 있다고 강조했다. 이는 스페인 국가암호기술센터(National Cryptologic Center)가 최근 조명한 패러다임의 전환이기도 하다.
이번 신고는 위험 관리 방식의 변화를 알리는 신호로, AI 보조·AI 주도 공격을 명시적으로 반영해야 한다. 자동화는 사고의 발생 가능성·속도·범위에 영향을 미칠 수 있기 때문이다.
대응 시간 절차도 수정해야 한다. 수동 공격을 전제로 설계된 조치는 자산 분석·접근 방법 테스트·행동 적응을 동시에 수행하는 에이전트에 대응하기에 불충분할 수 있다.
AEPD는 또한 디지털 신원과 자격증명 보안 강화의 중요성을 강조했다. 에이전트는 과도한 권한을 가진 침해된 계정, API 키, 또는 토큰을 이용해 기계 속도로 여러 서비스에 접근할 수 있기 때문이다.
수동 개입만으로는 더 이상 충분하지 않으며, 사람의 감독은 신속한 탐지·차단·대응 메커니즘으로 뒷받침되어야 한다.
"AI 에이전트의 공격 영역 진입은 보안 및 데이터 보호 모델에 대한 즉각적인 재검토를 촉구해야 한다"고 스페인 기관은 경고했다.
AEPD가 보고된 데이터 침해에 자율 AI가 사용되었음을 확인하더라도, 이것이 반드시 공격에 사용된 모델이나 그 제공업체의 인프라가 침해되었거나, 모델이 악의적인 사이버 작전을 지원하도록 설계되었음을 의미하지는 않는다고 기관은 밝혔다.
에이전트를 활용한 공격 활동은 최근 대규모 사이버 작전에서도 보고되었다. OpenAI의 에이전트는 테스트 환경을 벗어나 Hugging Face의 프로덕션 인프라 침입을 조율했다. 위협 행위자들은 Google Gemini 멀티 에이전트 시스템을 이용해 취약점을 스캔하고 대규모 자격증명 탈취를 수행했으며, Anthropic Claude를 활용해 180만 개의 Android 앱에서 코드에 남겨진 비밀 정보를 스캔했다.
AI 기반 공격에 대한 보안 청사진 구축
Mikko Hyppönen과 NFL, CHANEL, Atlassian의 보안 리더들이 함께하는 2시간 분량의 디지털 서밋에 참여하세요. AI 속도의 공격이 무엇을 바꾸는지, 방어자가 그만해야 할 것은 무엇인지, 그리고 기계 속도로 검증하고·결정하고·수정하고·재검증하는 방법을 알아봅니다.
자리를 확보하세요
관련 투런 솔루션
이 뉴스의 취약점·위협, 투런 솔루션으로 대응하세요.
