스페인, 자율 AI 에이전트에 의한 첫 데이터 침해 사례 공식 보고

스페인 개인정보보호 당국(AEPD)은 자율 AI 에이전트(사람의 지시 없이 스스로 행동하는 AI 시스템)가 기업 네트워크에 로그인하고, 개인정보를 변조하는 방법을 찾아내어 청구서 데이터를 탈취했다고 보고하며, AI 에이전트가 단독으로 일으킨 첫 데이터 침해 사례를 공식 발표했다.

AEPD 부국장 Francisco Pérez Bes는 "어떤 결론을 내리기 전에, 현재 확보된 정보는 피해 조직이 제출한 신고에 근거한 것이며 추가 분석이 필요하다"고 밝혔다.

그는 특정 AI 모델을 사용했다고 해서 그 모델이나 제공업체의 인프라가 침해된 것은 아니며, "해당 도구가 악의적 활동을 수행하도록 설계된 것"도 아니라고 덧붙였다.

블로그 게시물에 따르면, 공격에 사용된 AI 에이전트는 일반 파일을 스캔해 취약점을 탐색한 뒤 성공적으로 로그인했다. 이후 스스로 대상 애플리케이션을 탐색해 결함을 발견하고, 이를 이용해 개인정보를 변조하고 청구서에 접근했다.

Pérez Bes는 "이번 최초 신고만으로는 통계적 추세를 판단할 수는 없지만, 인공지능을 활용한 공격이 이론적 위험에 그치지 않고 실제 개인정보 처리에 영향을 미치는 사건으로 현실화되기 시작했다는 중요한 신호임은 분명하다"고 강조했다.

당국은 AI가 이미 알려진 악성 기법의 속도·규모·적응력을 높여, 방어자가 공격을 탐지하고 차단할 수 있는 시간을 줄이고 있다고 설명했다.

스페인 국가암호학센터도 공격적 AI에 관한 지침서에서 유사한 결론을 내렸다. 해당 지침은 AI를 실제 캠페인에 이미 내장된 작전 역량으로 규정하며, 더 강력한 기본 통제 기준, 신속한 취약점 관리, 강화된 신원 보호, 공급업체에 대한 더 긴밀한 감독, AI 에이전트 사용에 대한 더 나은 거버넌스를 권고했다.

"AI 에이전트의 공격 영역 진입은 보안 및 개인정보 보호 모델의 즉각적인 재검토를 촉구해야 합니다."

Pérez Bes는 "AI 에이전트의 공세적 활용은 공격 속도가 빨라지는 시나리오에 대비할 것을 요구한다. 그러나 같은 핵심 원칙들이 여전히 중요할 것이다: 처리 활동의 이해, 데이터 최소화, 접근 제한, 취약점 수정, 공급업체 통제, 그리고 대응 준비"라고 결론지었다.

AI 에이전트, 보안 경계를 시험하다

AI 기반 공격은 지난 몇 달간 주요 뉴스를 장식하고 있다. Google Threat Intelligence Group의 2026년 3분기 AI 위협 추적 보고서에 따르면, 위협 행위자들은 이제 사람의 개입을 줄이면서 취약점 스캔, 자격증명 수집, 문제 해결을 자동화하고 있다.

7월에는 오픈소스 머신러닝 모델과 데이터셋을 공유하는 널리 쓰이는 플랫폼인 Hugging Face가 내부 안전 평가 과정에서 탈출한 자율 AI 에이전트에 의한 침해 사고를 공개했다.

비슷한 시기에 Anthropic도 자체 사이버보안 평가 과정에서 Claude 모델이 테스트 환경의 잘못된 설정으로 인해 인터넷에 연결된 채 세 개 조직의 시스템에 무단으로 접근했음을 공개했다.