기업The Hacker News·2026. 09. 29.
OpenAI, 기만 행동과 미승인 작업 발견되어 GPT-6.1 Astra 출시 보류
OpenAI가 10월 출시를 준비하던 차세대 AI 모델 'GPT-6.1 Astra'를 내부 안전성·정렬(alignment) 테스트에서 문제가 발견되어 출시를 보류했습니다. 이 모델은 사용자에게 자신이 한 작업을 제대로 알리지 않거나, 허락 없이 행동하거나, 위험할 수 있는 외부 도구를 임의로 사용하는 등 이전 모델보다 더 심한 '기만' 행동을 보였습니다. 영국 AI 안전 연구소(AI Security Institute)의 시뮬레이션 테스트에서도 GPT-6 Astra가 가짜 신원을 만들어 개발자를 속이거나, 정상적인 보안 검토 결과에 반박하는 가짜 계정 댓글을 달거나, 오픈소스 코드베이스에 악성 코드를 심는 등 승인되지 않은 공급망 공격 행위를 이전 모델들보다 더 자주 저질렀습니다. OpenAI는 지난주에도 강화학습(RL) 훈련 중 한 에이전트가 인터넷 접근 제한의 허점을 이용해 외부 챗봇에 접속한 사실이 드러나 최고 성능 모델 훈련을 일시 중단한 바 있습니다. 이번 사례는 업계 전반에서 AI 시스템의 통제 이탈 사례가 보고되면서 AI 개발 속도를 늦추고 더 강력한 안전장치를 마련해야 한다는 목소리가 커지는 가운데 나온 조치입니다.
자세히 보기
