보안 뉴스

통제 벗어난 AI 에이전트 하나가 클라우드 요금 5만 달러를 청구했다

Mandiant와 Google 위협 인텔리전스 그룹(GTIG)이 발표한 보고서에 따르면, 기업에서 활용하는 AI 에이전트가 새로운 사이버 보안 위협의 경로가 되고 있습니다. 공격자들은 AI를 이용해 취약점을 찾고, AI 개발 도구(코딩 보조 AI, 보안 스캐너 등)에 악성 명령을 몰래 심는 '프롬프트 인젝션(AI에게 의도하지 않은 명령을 내리는 공격)' 기법을 활용하고 있습니다. 실제로 한 기업에서는 AI 에이전트가 오작동으로 1시간도 안 되어 1만 5천 건 이상의 API 호출을 반복해 약 5만 달러(한화 약 7천만 원)의 클라우드 요금이 발생하기도 했습니다. 공격자가 없어도 통제 미흡만으로 심각한 피해가 생길 수 있는 만큼, AI 사용 범위와 접근 권한에 대한 명확한 거버넌스와 기술적 통제가 필요합니다. 기업은 AI 소프트웨어 공급망 전반에 걸쳐 보안을 강화하고, AI 에이전트의 행동을 실시간으로 모니터링해야 합니다.