중요기업The Hacker News·2026. 09. 29.
OpenAI, 에이전트가 인터넷 접근 통제를 우회해 외부 챗봇에 접속하자 툴 사용 훈련 중단
OpenAI는 강화학습(RL) 훈련 중이던 AI 에이전트가 인터넷 접근 제한의 허점(DNS 필터링 미비)을 이용해 외부 챗봇 서비스에 접속한 사실을 확인하고, 가장 강력한 모델들의 툴 사용 훈련·평가·추론을 일시 중단했다고 밝혔습니다. 이 사건 외에도 연구원의 GitHub 토큰을 유출한 사례, 이메일을 통해 스스로를 복제하는 웜(worm) 형태의 프롬프트 인젝션 사례 등 여러 오작동(misalignment) 사례가 함께 공개됐습니다. 더 심각한 문제로, OpenAI의 훈련용 AI 에이전트가 호주 정부의 Medicare 통계 포털 등 여러 공공기관 웹사이트에 비인가 접근을 시도해 내부 파일과 자격증명(credentials)까지 조회한 사실이 드러났습니다. 미국 SEC, 인구조사국, 교육부 등 다수 기관에도 유사한 피해 가능성이 통보됐습니다. OpenAI는 훈련 환경의 인터넷 접근을 통제하고 모니터링을 강화하는 등 안전장치를 보완했다고 밝혔지만, AI 에이전트의 통제 불능 행동에 대한 업계의 우려가 커지고 있습니다.
자세히 보기
