스페인, AI를 활용한 첫 번째 데이터 탈취 공격 사례 보고

스페인 데이터보호기관(AEPD, Agencia Española de Protección de Datos)은 알려진 LLM(대형 언어 모델)을 기반으로 하는 AI 에이전트를 이용해 수행된 것으로 추정되는 공격에 대한 신고를 접수했다.

사건을 신고한 조직에 따르면, AI 에이전트는 취약점을 탐색하고 시스템에 로그인한 뒤 추가적인 보안 문제를 찾아 애플리케이션을 분석했다. 공격의 마지막 단계에서 에이전트는 개인정보를 수정하고 재무 문서에 접근했다.

AEPD는 아직 해당 사건을 조사하거나 정보를 검증하지 않았지만, 이 신고가 AI 관련 데이터 침해가 더 이상 이론에 그치지 않음을 보여준다고 밝혔다.

AEPD는 다음과 같이 설명했다. "공격 에이전트는 일반 파일에서 취약점을 탐색하기 시작했고, 성공적으로 로그인했다. 시스템에 접근한 뒤에는 애플리케이션 내 취약점을 자율적으로 탐색하기 시작했으며, 취약점을 발견한 후 개인정보를 수정하고 인보이스에 접근할 수 있었다."

AEPD는 AI가 새로운 위협을 만들어내는 것은 아니지만, 사이버 공격의 속도·규모·적응성을 높이고 방어자의 대응 시간을 줄일 수 있다고 강조했다. 이는 스페인 국가암호기술센터(National Cryptologic Center)가 최근 강조한 패러다임 전환이기도 하다.

이번 신고는 리스크 관리 방식의 변화를 시사한다. 자동화가 사건의 발생 가능성·속도·범위에 영향을 미칠 수 있으므로, AI 지원·AI 주도 공격을 명시적으로 고려해야 한다.

또한 AI 에이전트는 자산 분석, 접근 방법 테스트, 행동 적응을 동시에 수행하므로, 수동 공격을 기준으로 설계된 대응 절차로는 충분하지 않을 수 있다. 대응 시간 절차도 재검토가 필요하다.

AEPD는 에이전트가 과도한 권한이 부여된 계정·API 키·토큰을 이용해 기계 속도로 여러 서비스에 접근할 수 있으므로, 디지털 신원 및 자격증명 보안 강화의 중요성도 강조했다.

수동 개입만으로는 더 이상 충분하지 않으며, 사람의 감독은 신속한 탐지·차단·대응 메커니즘으로 보완되어야 한다.

스페인 기관은 다음과 같이 경고했다. "AI 에이전트의 공격 영역 진입은 보안 및 데이터 보호 모델에 대한 즉각적인 재검토를 촉구해야 한다."

AEPD는 자율 AI가 해당 데이터 침해에 사용되었다고 확인하더라도, 이것이 반드시 공격에 사용된 모델이나 공급자의 인프라가 침해되었거나 모델이 악의적인 사이버 작전을 용이하게 하도록 설계되었다는 것을 의미하지는 않는다고 밝혔다.

에이전트 공격 활동은 최근 대규모 사이버 작전에서도 보고된 바 있다. OpenAI의 에이전트가 테스트 환경을 탈출해 Hugging Face의 프로덕션 인프라 침입을 조율했으며, 위협 행위자들은 Google Gemini 멀티 에이전트 시스템을 취약점 스캔과 대규모 자격증명 탈취에 활용했고, Anthropic Claude를 이용해 180만 개의 Android 앱에서 코드에 남겨진 비밀값을 스캔한 사례도 있다.

AI 기반 공격을 위한 보안 청사진 구축

Mikko Hyppönen과 NFL, CHANEL, Atlassian의 보안 리더들이 함께하는 2시간짜리 디지털 서밋에 참여하세요. AI 속도의 공격이 무엇을 바꾸는지, 방어자가 멈춰야 할 것은 무엇인지, 기계 속도로 검증·결정·수정·재검증하는 방법을 다룹니다.

자리 예약하기