자율 AI 에이전트, 미국·캐나다 정부 웹사이트 해킹 시도

공격적인 전략을 사용하는 자율 AI 에이전트들이 학교 및 이혼 관련 통계를 찾기 위해 미국과 캐나다 정부 웹사이트를 해킹하려 시도했다.

이 실패한 침입 시도는 미국 교육부(Department of Education) 산하 웹사이트와 캐나다 도서관·기록보관소(Library and Archives Canada)를 대상으로 했다. 다만 수집된 데이터에 따르면 비공개 정보에 접근한 흔적은 없다.

비영리 연구기관 Transluce는 이 AI 에이전트들이 데이터 검색 작업을 수행하도록 지시받은 것으로 보이지만, 그 활동에는 실패한 "기초적인 해킹 시도"도 포함되어 있었다고 밝혔다.

SQL 인젝션 탐색

6월 17일, AI 에이전트들은 학교 통계를 검색하는 과정에서 미국 교육부 웹사이트에 20만 건이 넘는 요청을 보냈다.

Transluce에 따르면, 이 활동에는 사이트의 일반 필터를 우회하려는 시도로 조작된 매개변수를 이용한 기초적인 SQL 인젝션 시도가 포함되어 있었다.

연구진은 "SQL 인젝션이 발생하기 전 40초 동안 다양한 비정상적인 주(state) ID 입력값을 포함한 일련의 요청들이 있었다"며, "에이전트와 그 목적에 대한 더 많은 맥락 없이는 이러한 요청의 목적을 명확히 알 수 없다"고 덧붙였다.

연구진은 요청된 데이터가 학교 상담사 및 인종 관련 괴롭힘에 관한 Google DeepSearchQA 벤치마크 질문과 일치하는 것으로 보인다고 밝혔다.

Transluce는 9월 25일 이 사실을 교육부에 통보했다. 교육부 대변인은 해당 활동을 검토한 결과 서비스에 영향을 미친 증거는 없었다고 밝혔다.

캐나다 기록보관소 대상 실패한 탐색

Transluce 연구진은 에이전트들이 1905년부터 1911년까지의 캐나다 이혼 기록을 조회하려 시도하는 과정에서 캐나다 도서관·기록보관소를 대상으로도 유사한 패턴을 확인했다.

Transluce의 조사 결과에 따르면, 5월 28일과 6월 9일 두 차례에 걸쳐 포르투갈 국립 웹 아카이브(Arquivo.pt)가 캐나다 도서관·기록보관소를 대상으로 한 거의 900건의 요청을 기록했다.

이 중 13건의 요청에는 SQL 인젝션 탐색, 입력 처리·출력 형식·디버깅 옵션 테스트 등의 공격 페이로드가 포함되어 있었다.

이러한 탐색 시도는 빈 기록 페이지만 반환했으며, 캐나다 사이버보안센터(Canadian Centre for Cyber Security)는 데이터베이스 조작이나 추가 데이터 유출의 증거가 없다고 확인했다.

캐나다 사이버보안센터는 "현재로서는 정부 시스템이 침해되었다는 징후는 없다"고 밝혔다.

이 기관은 정부 관계 부처들과 함께 해당 보고 내용을 평가하고 있다고 밝히며, 자동화된 또는 잠재적으로 악의적인 요청 자체만으로는 성공적인 사이버 사고가 발생했다고 볼 수 없다고 경고했다.

연구진은 이러한 시도를 OpenAI의 소행이라고 "확신 있게 단정할 수는 없다"면서도, 사용된 수법은 이전에 해당 AI 개발사와 관련된 것으로 알려진 활동과 일치한다고 밝혔다.

OpenAI는 Washington Post에 해당 조사 결과를 검토 중이며 캐나다 당국에 초기 브리핑을 제공했다고 밝혔다.

이 회사는 별도로 자사 에이전트와 미국 정부 웹사이트 간의 의도치 않은 상호작용이 있었음을 인정한 바 있지만, Transluce는 더 넓은 범위의 활동 중 일부는 OpenAI의 소행으로 명확히 귀속시킬 수 없다고 경고했다.

광범위한 활동, 불확실한 귀속

이번 조사를 통해 미국 연방 및 주 정부 웹사이트를 대상으로 한 훨씬 더 광범위한 AI 에이전트 활동이 발견됐다.

Transluce는 또한 에이전트들이 미국의 여러 주 및 연방 웹사이트를 대상으로 공격적인 전술에 의존했으며, 이는 AI 기반 자동화 워크플로우의 더 큰 패턴의 일부라고 밝혔다.

연구진은 에이전트 활동에 대량 요청, 수정된 URL, 일회용 이메일 계정, 안티봇 시스템 우회 시도, 다운로드 가능한 파일명 추측, 노출된 자격증명 재사용에 이르는 다양한 기법이 포함되어 있음을 관찰했다.

보고된 활동은 캘리포니아, 캔자스, 메릴랜드, 일리노이, 텍사스, 뉴욕 주의 기관들을 대상으로 했다.

한 사례에서는 AI 에이전트들이 일회용 이메일 주소와 "OpenAI Research"라는 조직명을 사용해 경제분석국(Bureau of Economic Analysis) API 키 등록을 시도했다.

또 다른 작업에서는 노출된 API 키를 재사용해 인구조사국(Census Bureau) 데이터를 조회하려는 시도가 확인됐다.

4월 23일부터 5월 18일 사이에는 해군역사유산사령부(Naval History and Heritage Command) 웹사이트인 history.navy.mil의 콘텐츠 관리 페이지에 접근하려는 자동화된 시도가 있었다. 다만 민감한 군사 정보에 접근한 증거는 없다.

Transluce의 조사는 주로 Arquivo.pt와 웹 보안 스캐닝 서비스 urlquery.net의 기록에 의존했으며, 이 서비스들의 공개 로그에는 에이전트들이 제출한 것으로 보이는 요청들이 보존되어 있었다.

이번에 새롭게 밝혀진 사건들은 해당 기관의 이전 연구 결과를 확장한 것으로, 그 연구에서는 에이전트들이 정보 검색 작업을 수행하는 과정에서 공개 데이터 제공업체를 대상으로 취약점 탐색을 시도한 것으로 나타났다.

이전 조사에서는 AI 에이전트들이 Data USA 서비스와 뉴멕시코 대학교(University of New Mexico) 디지털 도서관의 취약점을 탐색했으며, 호주 정부 포털의 결함을 악용한 사실도 드러났다.