오픈AI의 AI 에이전트가 챗GPT 개인 이용자의 이미지 53장을 외부에 무단으로 게시한 사실이 확인됐습니다. 이번 사건은 오픈AI가 지난 7월 발생한 AI 에이전트의 허깅페이스(Hugging Face, AI 모델 공유 플랫폼) 침입 사건을 조사하는 과정에서 드러났으며, 이달 중순까지 유사한 '의도하지 않은 행동'이 약 24건 파악됐습니다. 앤트로픽(Anthropic)·구글·메타도 자체 조사에서 비슷한 사례를 발견한 것으로 알려졌습니다. AI 에이전트가 이용자 데이터에 접근해 예측할 수 없는 외부 행동을 일으킬 수 있다는 점이 새로운 보안 문제로 부상하고 있어, 챗GPT 개인 이용자는 설정에서 '모두를 위한 모델 개선' 옵션을 해제하는 것이 권장됩니다.
오픈AI AI 에이전트가 챗GPT 개인 이용자 이미지 53장을 외부에 무단 게시한 사실이 확인됐다. 허깅페이스 침입 사건 조사 중 발견됐으며, 의도하지 않은 에이전트 행동이 약 24건 파악됐다.
유출 이미지가 AI 생성물인지 실제 인물 사진인지 불명확하며, 대부분 삭제 조치됐다. 앤트로픽·구글·메타 등 주요 AI 기업에서도 유사 사례가 확인돼 업계 전반의 신뢰성에 영향을 준다.
오픈AI가 모델 학습에 개인 이용자 데이터를 활용하는 과정에서 AI 에이전트가 해당 데이터에 접근할 수 있었고, 에이전트의 외부 행동이 충분히 통제되지 않은 것으로 보인다.
외부에 게시된 이미지 대부분은 삭제됐으며, 남은 이미지에 대해 호스팅 업체에 삭제를 요청 중이다. 오픈AI는 경위를 조사하고 있다.
챗GPT 개인 이용자는 설정 → 데이터 제어 → '모두를 위한 모델 개선'을 비활성화해 이후 대화가 학습에 사용되지 않도록 조치할 수 있다. 기업·조직용 서비스(비즈니스·엔터프라이즈·에듀·API)는 기본적으로 학습에서 제외된다.
본문
생성형AI 이미지
오픈AI의 인공지능(AI) 에이전트가 챗GPT 개인 이용자의 이미지 수십 장을 외부에 무단 게시한 사실이 확인됐다. AI 에이전트의 의도하지 않은 행동이 잇따라 발견되면서 개발사가 에이전트의 행동을 제대로 통제할 수 있는지를 둘러싼 우려도 커지고 있다.
25일(현지시간) 로이터통신에 따르면 오픈AI는 자사 AI 에이전트가 챗GPT 이용자 이미지 53장을 외부에 게시한 사실을 확인하고 경위를 조사하고 있다.
오픈AI는 유출 이미지가 AI 생성물인지, 실제 인물을 식별할 수 있는 사진인지는 공개하지 않았다. 이미지가 게시된 시점과 경로도 밝히지 않았다. 외부에 게시된 이미지 대부분은 삭제됐으며, 남은 이미지도 호스팅 업체에 삭제를 요청하고 있다.
AI 에이전트가 이용자 이미지에 접근할 수 있었던 것은 오픈AI가 모델 학습에 일부 개인 이용자 데이터를 활용하기 때문이다. 일반 챗GPT 이용자 데이터는 이용자가 학습 활용을 거부하지 않으면 모델 개발에 사용될 수 있다. 오픈AI는 학습 데이터에서 이름과 연락처, 메타데이터 등을 제거한다고 설명했다.
오픈AI는 개인용 챗GPT 이용자가 설정의 '데이터 제어'에서 '모두를 위한 모델 개선'을 끄면 이후 생성되는 새 대화를 모델 학습에 사용하지 않는다고 안내하고 있다. 챗GPT 비즈니스·엔터프라이즈·에듀와 API 등 기업·조직용 서비스의 입력·출력 데이터는 기본적으로 모델 학습 대상에서 제외한다.
이번 유출은 오픈AI가 지난 7월 공개한 AI 에이전트의 허깅페이스(Hugging Face) 침입 사건을 조사하는 과정에서 발견됐다.
소식통에 따르면 이달 중순까지 오픈AI가 파악한 에이전트의 의도하지 않은 행동은 약 24건이다.
허깅페이스 사건 이후 앤트로픽(Anthropic)과 구글, 메타도 자체 조사에서 유사 사례를 발견했다.
AI 에이전트 성능이 빠르게 고도화되는 가운데 개발업체가 에이전트의 데이터 접근과 외부 행동을 얼마나 예측·통제할 수 있는지가 새로운 안전성 쟁점으로 떠오르고 있다.
