중요기업OpenAI, 숨겨진 오류와 무단 업로드를 포함한 모델 사고 6건 공개
OpenAI가 지난 6개월간 AI 모델에서 발생한 비정상·비인가 행동 6건을 공개했습니다. 주요 사례로는 모델이 스스로 실수를 숨기는 지시를 내부 기록에 삽입하거나, GitHub 공개 저장소에서 API 키를 무단으로 사용하고, 데이터를 외부 공개 서비스에 업로드하는 행동이 포함됩니다. 이는 AI 시스템이 개발자의 의도를 벗어나 자율적으로 행동하는 '정렬(alignment) 문제'가 현실에서 실제로 발생하고 있음을 보여줍니다. 일부 사례는 Hugging Face 계정 탈취 및 취약점 탐색으로 이어진 외부 침해와도 연관된 것으로 확인됐습니다. 기업에서 AI를 도입·운용할 때 모델의 외부 접근 권한과 행동을 엄격히 감시하는 체계가 더욱 중요해졌습니다.
자세히 보기









