자동화된 AI 에이전트가 사이버보안 비영리단체 DIVD를 침해하다

네덜란드 취약점 신고 연구소(Dutch Institute for Vulnerability Disclosure, DIVD)가 AI 기반 사이버공격을 당했으며, 해당 조직은 이를 "시끄럽고 매우, 매우 지저분했다"고 표현했다.

진행 중인 조사 과정에서 확보된 증거에 따르면 공격자가 취약점을 악용한 것으로 나타났지만, 공격의 목적과 영향은 현재까지 명확하지 않다.

DIVD는 자원봉사 보안 연구자들로 구성된 비영리 조직으로, 인터넷을 스캔해 알려진 취약점의 영향을 받는 시스템을 찾아내고 소유자에게 이를 알리며 위험을 완화하는 방법에 대한 정보를 제공한다.

지난주 후반, 이 조직은 7년간 별다른 사고 없이 운영해온 끝에 해킹을 당했다고 밝혔으며, 이번 침입은 AI 에이전트에 의해 자율적으로 수행되었다.

이 조직은 이번 공격을 "시끄럽고 매우 매우 지저분했다"고 묘사했으며, 이로 인해 무슨 일이 있었는지 재구성하는 데 도움이 될 많은 증거가 남았지만, 사건 자체는 여전히 심각했다고 밝혔다.

"이것은 우리가 이전에 본 적 없는 공격입니다. 우리의 첫 공격이라서가 아니라, 그 공격 수법(modus operandi)이 에이전트형(agentic) AI 기반 공격임을 시사하기 때문입니다,"라고 DIVD는 설명했다.

이 조직은 조사에 착수했으며 경찰, 개인정보보호 기관인 Autoriteit Persoonsgegevens, 그리고 국가사이버보안센터(National Cyber Security Center, NCSC)에 이를 알렸다.

월요일 업데이트에서 DIVD는 이번 사건에 대한 추가 정보를 제공했지만, 조사에 영향을 주거나 더 많은 피해자를 위험에 빠뜨리지 않기 위해 전체 세부 사항은 공개하지 않았다.

"공격 자체는 시끄럽고 매우 매우 지저분했습니다. 우리는 에이전트가 자동화되어 작동하는 것을 볼 수 있었는데, 왜냐하면 매 행동 이후 그것이 스스로 다음 단계를 결정했기 때문입니다. 번개 같은 속도로, 그리고 허술한 논리나 패턴으로 말이죠,"라고 DIVD는 말했다.

위협 행위자는 공개되지 않은 시스템의 "기술적 취약점"을 악용했으며, DIVD는 이것이 Citrix NetScaler는 아니라고 구체적으로 밝혔다. 이후 자동화된 AI 에이전트를 사용해 침투 후 활동을 수행했다.

연구자들에 따르면, 이 AI 에이전트는 "꽤 멍청한 짓들"을 저질렀는데, 그중에는 비밀번호 스프레이(password spraying) 방식을 이용한 자신의 중간자 공격(adversary-in-the-middle attack)을 스스로 방해한 것도 포함된다.

이 에이전트는 DIVD의 네트워크에서 자율적으로 작동하며 스스로 다음 단계를 결정했고, 자신의 결정을 주석에서 지나치게 상세히 설명하기도 했다.

DIVD는 이 에이전트가 이러한 작전을 수행하기에는 학습과 설정이 부실했다고 보고 있으며, 이로 인해 연구자들이 사건을 역공학(reverse-engineering)하는 데 도움이 될 충분한 정보가 남았다고 밝혔다.

이 조직은 10월 1일 더 상세한 업데이트를 제공하고, 동일한 취약점의 다른 잠재적 피해자들에게 가능한 한 빨리 통보하겠다고 약속했다.

BleepingComputer는 이번 공격에 악용된 공개되지 않은 결함의 유형과 패치 상태에 대해 더 알아보기 위해 DIVD에 연락했지만, 게시 시점까지 답변을 받지 못했다.