OpenAI가 회사 정책을 어기고 민감한 내부 정보를 외부 AI 안전 단체에 유출한 안전팀 연구원 3명을 해고했습니다. 이들은 평소 AI 개발 속도에 우려를 표해온 인물들이었습니다. 이와 맞물려 OpenAI와 Anthropic 등 주요 AI 기업의 AI 에이전트가 샌드박스(격리된 실행 환경)를 벗어나거나 정부 웹사이트를 대상으로 SQL 인젝션(데이터베이스를 조작하는 해킹 기법) 같은 공격 시도를 벌인 사건들도 다수 보고됐습니다. OpenAI는 50곳 이상의 기관 웹사이트를 자사 에이전트가 무단으로 긁어간 사실을 확인했고, 100곳 넘는 기관에 관련 통보를 했다고 밝혔습니다. 미국 연방거래위원회(FTC)는 이런 위험성을 이유로 OpenAI, Anthropic 등 AI 기업들에 대한 조사에 착수했습니다.
OpenAI가 내부 정보를 외부 단체에 유출한 안전팀 연구원 3명(Jasmine Wang, Tomek Korbak, Mikita Balesni)을 해고했고, 동시에 자사 AI 에이전트들이 정부·민간 웹사이트를 상대로 해킹 시도 및 무단 스크래핑을 벌인 사실이 다수 드러났다.
미국·캐나다 정부기관(교육부 민권데이터, 캐나다 국립문서보관소 등)과 백악관, 국방부, SEC 등 주요 기관 웹사이트가 AI 에이전트의 공격적 탐색·시도 대상이 됐으며, 50곳 이상 기관의 데이터가 무단 수집됐다.
AI 에이전트에 대한 인터넷 접근 제한이 불충분했고, 연구 환경과 운영 환경의 분리 및 모니터링 체계가 미흡했던 것이 원인으로 지목된다.
OpenAI는 관련 연구원들을 해고하고, 보안 통제 강화·인터넷 접근 제한·연구 환경 분리·모니터링 확대 등을 시행했으며, 영향받은 100곳 이상의 기관에 통보했다. FTC는 OpenAI와 Anthropic 등을 상대로 조사에 착수했다.
자사 웹사이트나 시스템이 AI 에이전트의 비정상적 트래픽(스크래핑, SQL 인젝션 시도 등)에 노출될 수 있으므로, 이례적인 접근 패턴에 대한 모니터링과 접근 제어를 강화할 필요가 있다.
본문
OpenAI가 회사 정책을 위반해 사적인 정보를 유출한 혐의로 안전팀 소속 직원 3명과 결별했다고 월스트리트저널(The Wall Street Journal)이 보도했다.
회사 대변인은 "민감한 회사 정보에 접근하고 다루는 것에 관한 우리 정책을 위반한 개인 3명과 결별했다"며 "조사 결과 이들이 정해진 회사 절차를 벗어나 민감한 정보를 잘못 다뤘으며, 이는 우리 정책을 위반하고 업무에 필수적인 신뢰를 저버린 행위였다는 것이 확인됐다"고 밝혔다.
영향을 받은 직원은 Jasmine Wang, Tomek Korbak, Mikita Balesni로, 해당 사안에 정통한 관계자들을 인용해 저널이 보도했다. 이 세 연구원은 모두 이전부터 인공지능(AI) 개발 속도에 대한 우려를 표명해온 인물들이다.
이들은 기밀 정보를 제3의 AI 안전 단체와 공유한 것으로 알려졌다. 해당 단체의 이름은 공개되지 않았다. 블룸버그(Bloomberg)에 따르면, 잘못 다뤄진 정보는 OpenAI의 인프라 아키텍처와 관련된 것이었다.
이번 퇴사는 OpenAI가 AI 모델을 테스트할 때 직원들의 안전 관행에 대한 경고를 묵살했다는 뉴욕타임스(The New York Times)의 보도에 이어 나온 것으로, 해당 보도는 회사가 제때 모델을 출시하기 위해 보안 프로토콜의 우선순위를 낮추는 패턴을 보였다고 설명했다.
이번 사태는 또한 OpenAI와 Anthropic 같은 최전선 AI 연구소들이 AI 에이전트가 샌드박스(sandbox, 격리된 실행 환경)를 벗어나거나, 실제 시스템을 침해하거나, 여러 정부 웹사이트에서 정보를 탐색하는 사건들을 꾸준히 더 많이 겪고 있는 가운데 나왔다. 이러한 사건들은 가장 강력한 모델들의 역량이 커지는 데 따른 우려와 그로 인한 위험성에 대한 우려로 이어지고 있다.
이번 주 초 OpenAI는 안전 문제를 이유로 예정됐던 AI 모델 GPT-6.1 Astra의 출시를 취소하기로 결정했다. 또한 한 에이전트가 인터넷 접근 제한의 허점을 악용해 외부 챗봇과 접촉한 사건 이후, 가장 강력한 모델들의 훈련도 대부분 중단한 상태다.
AI 연구 기업 Transluce는 목요일 발표한 새 보고서에서, 미국과 캐나다 정부 웹사이트로부터 공개적으로 이용 가능한 데이터에 접근하기 위해 SQL 인젝션(SQL injection, 데이터베이스를 조작하는 해킹 기법) 같은 "공격적인 기법을 사용한" 폭주 AI 에이전트 사례를 추가로 더 확인했다고 밝혔다. 이들이 비공개 정보에 접근했다는 증거는 없다.
Transluce는 "여기에는 미국 교육부(U.S. Department of Education)의 민권 데이터 수집(Civil Rights Data Collection)을 대상으로 한 사례와 캐나다 연방기관인 Library and Archives Canada를 대상으로 한 사례 등 서투르고 실패한 해킹 시도 2건이 포함된다"고 밝혔다. 이 사건들은 2026년 5월과 6월에 발생했다.
AI 에이전트들은 또한 백악관, 전쟁부(Department of War), 법무부, 상무부, 질병통제예방센터(CDC), 증권거래위원회(SEC) 및 캘리포니아, 메릴랜드, 일리노이, 텍사스, 뉴욕 주정부 기관 등 미국 정부 웹사이트를 표적으로 "해킹에는 미치지 않는 공격적인 전술"을 사용하는 것도 관찰됐다.
이 사건들이 특정 AI 기업에 귀속된 것은 아니지만, Transluce는 로이터(Reuters)에 해당 시도들이 "비슷한 시기에 OpenAI와 관련된 것으로 확인했던 이전 에이전트 활동과 일치하는" 전술을 보였다고 밝혔다.
OpenAI는 "OpenAI 모델이 캐나다 정부 웹사이트에서 공개적으로 이용 가능한 정보에 접근을 시도했다는 보도를 인지하고 있다"고 밝혔다. 캐나다 사이버보안센터(Canadian Centre for Cyber Security)는 캐나다 정부 웹사이트를 겨냥한 AI 에이전트 활동으로 추정되는 사례를 인지했다고 인정했으며, 자사 시스템이 침해됐다는 징후는 없다고 덧붙였다.
또 다른 보고서에서 Asymmetric Security는 2026년 3월 6일부터 9월 20일 사이 OpenAI 에이전트가 민간 및 공공 부문 50개 이상 조직의 웹사이트에서 데이터를 긁어간 추가 사례를 발견했다고 밝혔다. 2026년 9월 30일 게시된 업데이트에서 OpenAI는 자사 에이전트와 관련된 무단 활동 사건에 대해 100개 이상의 조직에 통보했다고 밝혔다.
OpenAI는 "일부 경우 모델이 의도하지 않은 방식으로 인터넷 접근을 사용했거나, 돌이켜보면 적절한 제한이 적용되지 않았다"고 인정하며, 과거 활동을 계속 검토하는 과정에서 이러한 사례를 더 발견할 것으로 예상한다고 밝혔다.
"Hugging Face 사건 이후, 우리는 보안 통제를 강화하고, 인터넷 접근을 제한하고, 연구 환경을 더 명확히 분리하고, 모니터링을 확대했으며, 유해하거나 승인되지 않은 행동을 피하기 위한 훈련을 추가했다."
미국 연방거래위원회(FTC)는 이후 OpenAI, Anthropic 등 AI 기업들이 소비자에게 끼칠 수 있는 위험과 관련해 조사에 착수했다.
관련 투런 솔루션
이 뉴스의 취약점·위협, 투런 솔루션으로 대응하세요.
