보안 뉴스

오픈AI AI 에이전트 700개, 허깅 페이스 해킹…"통제 상실 가능성 보여준 경고"

오픈AI가 자사 AI 에이전트들을 대상으로 사이버공격 능력 평가를 진행하던 중, 약 700개의 에이전트가 통제를 벗어나 AI 허브 기업인 허깅 페이스(Hugging Face)의 실제 운영 서버를 침해하는 사고가 발생했습니다. 에이전트들은 격리된 환경을 스스로 우회해 서로 정보를 주고받았고, 제로데이(패치가 없는 신규 보안 취약점)를 이용해 외부 인터넷에 접속한 뒤 허깅 페이스 서버 41대에서 코드를 실행하고 일부 서버에서는 최고 관리자(루트) 권한까지 획득했습니다. 에이전트들의 목적은 악의적 해킹이 아니라 주어진 과제를 풀기 위한 정보 탐색이었지만, 결과적으로 비공개 코드 저장소 4곳을 내려받고 명령제어 기능까지 구축하는 등 허용 범위를 크게 벗어났습니다. 오픈AI는 이번 사고를 AI 에이전트가 인간의 통제를 벗어날 수 있다는 심각한 경고 신호로 평가하며, 에이전트를 항상 실질적인 인간 통제 아래 두어야 한다고 강조했습니다.