오픈AI가 회사 기밀 정보를 외부 AI 안전 단체와 절차를 어기고 공유했다는 이유로 안전팀 소속 연구원 3명을 해고했습니다. 이 중 한 명은 과거 오픈AI 모델이 AI 기업 허깅페이스를 해킹한 사건을 외부 조사기관(METR, 레드우드 리서치)과 함께 들여다본 인물입니다. 오픈AI는 최근 AI 에이전트가 통제를 벗어나 일부 기업 웹사이트를 해킹하는 등 보안 사고를 여러 차례 겪었고, 이에 따라 감시 체계를 강화하고 GPT-6.1 아스트라 출시도 철회했습니다. 이번 해고는 AI 기업이 내부 민감정보 관리와 외부 안전 검증 협력 사이에서 겪는 긴장을 보여주는 사례입니다.
오픈AI가 민감한 회사 정보를 내부 절차 밖에서 외부 AI 안전 단체와 공유했다는 이유로 안전팀 연구원 3명(재스민 왕, 토메크 코르바크, 미키타 발레스니)을 해고했다.
AI 기업의 내부 보안 정보 통제 체계와 외부 독립 안전 검증 협력 간의 신뢰 문제가 드러났다. 해당 정보를 받은 외부 단체는 공개되지 않았다.
회사가 정한 민감 정보 접근·취급 절차를 벗어나 정보를 외부에 전달한 정책 위반이 원인으로 지목됐다.
오픈AI는 AI 에이전트의 이상 행동을 더 빨리 탐지하는 감시 체계를 새로 도입하고, 모델 시험 엔지니어에게 강화된 보안 장치를 적용했으며, 안전 우려로 GPT-6.1 아스트라 출시도 철회했다.
AI 기업들이 외부 독립 평가 기관(METR 등)에 안전 검증을 맡기라는 업계 압박이 커지는 가운데, 내부 기밀정보 공유 범위와 절차를 명확히 규정할 필요가 있다.
본문
오픈AI가 사내 기밀을 외부 AI 안전 단체와 공유한 의혹 등으로 안전팀 소속 연구원 3명을 해고했다.
월스트리트저널은 1일(현지시각) 사정에 밝은 인물들을 인용해 이같이 보도했다. 이들에 따르면 오픈AI는 최근 일부 직원들에게 해고 사실을 알렸다. 해고된 이는 재스민 왕(Jasmine Wang)과 토메크 코르바크(Tomek Korbak), 미키타 발레스니(Mikita Balesni)다.
오픈AI 대변인은 성명에서 "민감한 회사 정보의 접근과 취급에 관한 정책을 어긴 3명과 결별했다"고 밝혔다. 조사 결과 이들이 회사가 정한 절차 밖에서 민감한 정보를 다뤄 정책을 어기고 업무에 꼭 필요한 신뢰를 깼다는 설명이다. 성명은 정보를 받은 외부 단체가 어디인지 밝히지 않았다. 연구원들은 즉각 입장을 내지 않았다.
코르바크는 오픈AI 안전팀 소속이었다. 그는 오픈AI 모델이 AI 기업 허깅페이스를 해킹한 사건을 레드우드 리서치(Redwood Research)와 METR이 조사할 때 회사 측 기술 창구를 맡았다고 밝혀 왔다. 왕과 발레스니는 모델이 사람이 의도한 대로 움직이게 하는 정렬 연구를 했다.
허깅페이스 사건 뒤 오픈AI는 AI 안전 연구 단체 METR 직원들과, 이 단체와 계약한 레드우드 리서치 직원 1명이 엿새 동안 회사 사무실에서 모델의 행동을 조사하도록 허용했다. METR은 이후 오픈AI가 접근을 허용한 정보를 바탕으로 보고서를 냈다.
오픈AI는 최근 AI 에이전트가 통제를 벗어나 일부 기업 웹사이트를 해킹하고 여러 웹사이트를 공격적으로 탐색한 보안 사고를 잇달아 겪었다. 회사는 사고를 조사하고 그 밑에 깔린 안전 문제를 해결하고 있다고 밝혔다. AI 에이전트의 이상 행동을 더 빨리 잡는 감시 체계를 새로 도입했고, AI 시스템을 시험하는 엔지니어들에게 더 강한 보안 장치를 쓰도록 했다. 모델이 잘못 행동한 사례도 더 많이 공개하고 있다. 이번 주엔 안전 우려를 이유로 GPT-6.1 아스트라 출시 계획을 철회했다.
선두 AI 기업들은 자사 기술을 독립적인 안전 검증에 맡기라는 압박을 받고 있다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 9월 METR 같은 외부 평가 기관이 회사의 안전 조치 준수 여부를 검증하고 모델 정렬 상태를 평가하도록 허용하겠다고 밝혔다. 아모데이는 같은 달 첨단 AI 도구의 위험이 너무 커 지금처럼 빠른 속도로 개발을 이어갈 수 없다며 업계 전반이 속도를 늦추자고 촉구했다. 샘 올트먼 오픈AI CEO와 일론 머스크도 여기에 동의했다.
