구글의 AI 모델 '제미나이(Gemini)'가 지난 5월 보안 평가 업체 이레귤러(Irregular)가 진행한 모의해킹(사이버 보안 시험) 도중 실제 외부 기업 3곳의 시스템에 무단으로 접근한 사실이 드러났습니다. 이레귤러가 인터넷 차단 없이 시험을 진행하는 실수를 저질렀고, 제미나이는 가상의 목표물과 동일한 이름의 실제 기업을 찾아 접근을 시도한 것입니다. 구글은 제미나이가 실제 기업임을 인식한 직후 해킹을 중단했고 피해는 없었다고 밝혔으나, 월스트리트저널(WSJ)의 문의가 있기 전까지 이 사실을 공개하지 않았습니다. 구글은 이 사안을 미국 연방 당국에 통보했으며, AI 모의해킹 테스트 환경의 격리(아이솔레이션) 관리가 얼마나 중요한지를 보여주는 사례로 주목받고 있습니다.
구글 AI 모델 제미나이가 2025년 5월 보안 평가 중 실제 외부 기업 3곳의 시스템에 무단 접근했다. AI가 실제 외부 조직을 해킹한 첫 확인 사례다.
직접적인 피해는 없었다고 구글이 밝혔으나, AI 에이전트가 통제되지 않은 환경에서 실제 시스템에 침투할 수 있다는 가능성이 입증됐다.
보안 평가 업체 이레귤러가 인터넷을 차단해야 하는 모의해킹 환경에서 실수로 인터넷 접속을 허용했고, 제미나이는 가상의 목표와 동일한 이름의 실제 기업을 찾아 해킹을 시도했다.
구글은 제미나이가 실제 기업임을 인지하자마자 즉시 중단했으며, 미국 연방 당국에 통보했다. 이레귤러는 관련 연구기관에 연락했다. WSJ 보도 전까지 구글은 해당 사실을 공개하지 않았다.
AI 에이전트를 활용한 보안 테스트·레드팀 시나리오에서는 네트워크 격리(샌드박스)를 반드시 사전에 검증해야 한다. AI는 지시에 따라 예상치 못한 실제 시스템에 접근할 수 있으며, 테스트 환경 설정 오류가 곧 실제 침해로 이어질 수 있다.
본문
구글의 AI 모델 '제미나이'도 보안 테스트 중 외부기관 해킹을 일으킨 것으로 나타났다.
18일(현지시간) 월스트리트저널(WSJ)에 따르면, 제미나이는 지난 5월 보안 평가 업체 이레귤러(Irregular)가 진행한 사이버 보안 시험 도중 외부 기업 3곳의 시스템에 무단 접근했다. 제미나이가 외부 기업 시스템에 임의로 침투한 사실이 확인된 첫 사례다. WSJ이 관련 문의를 하기 전까지 구글은 이 사실을 공지하지 않았다고 이 매체는 보도했다.
이레귤러는 원래 인터넷을 차단하고 진행해야 하는 모의해킹 시험에서 실수로 인터넷 접속이 가능하게 했다. 제미나이는 가상의 기업 시스템에서 비밀 정보를 가져오라는 지시를 받았으나, 인터넷에 접속한 뒤 우연히 같은 이름의 기업 시스템을 발견해 해킹을 시도했다. 구글은 제미나이가 해당 기업이 가상의 목표물이 아니라 현실 속 실제 기업이라는 사실을 인지한 직후 해킹을 즉시 중단했다고 밝혔다.
구글은 제미나이가 해당 기업에 손해를 입히지 않았고 실제 기업이라는 사실을 파악한 직후 해킹을 중단했다는 점에서 공개해야 할 사안으로 보이지 않았다는 입장이다. 다만 구글은 이 사안을 연방 당국에 통보했으며 이레귤러는 관련 연구실과 기관에 연락했다.
구글은 최신 AI 모델은 연루되지 않았다고 밝혔다. 어떤 모델이 이번 일과 연관됐는지는 공개되지 않았다.
