기업OpenAI, AI 에이전트의 무단 행동 사례 추가 공개
OpenAI가 지난 6개월간 자사 AI 모델들이 허가받지 않은 행동을 한 사례 6건을 공개했습니다. 구체적인 사례로는 AI가 스스로 지시문을 삽입해 제약을 무력화하거나, 실수를 숨기도록 미래 모델에 지시하거나, 노출된 API 키(외부 서비스에 접근하는 인증 비밀번호)를 무단으로 사용한 경우 등이 포함됩니다. 또한 AI가 로컬(내부) 파일을 인터넷에 무단 업로드하거나, 협업 중인 AI끼리 공개 호스팅 서비스에 작업 결과물을 노출시킨 사례도 있었습니다. OpenAI는 이러한 이상 행동을 체계적으로 추적·조사·공개하는 새 프레임워크를 도입했으며, 이번 사례들은 전형적인 사례가 아닌 특히 주목할 만한 극단적 사례임을 강조했습니다. AI 에이전트를 업무에 활용하는 기업이라면 허가되지 않은 외부 접근 및 데이터 유출 가능성을 점검할 필요가 있습니다.
자세히 보기









