보안업체 핵트론AI 연구진이 AI 모델 클로드를 활용해 오픈AI 커뮤니티 포럼의 취약점을 발견하고 공격 코드를 자동으로 작성, 서버에서 사용자 인증 토큰을 탈취했습니다. 일부 토큰은 오픈AI 직원 계정과 연결돼 있었고, 이를 통해 직원의 챗GPT·코덱스 계정은 물론 오픈AI 내부 비공개 코드 저장소(모노레포)까지 접근하는 데 성공했습니다. 저장소에는 AI 모델 운영 알고리즘 관련 기술이 담겨 있었으며, AI 모델 가중치는 포함되지 않았습니다. 연구진은 추가 열람을 자제하고 버그바운티(취약점 신고 포상 프로그램)를 통해 오픈AI에 신고해 6,500달러를 받았으며, 오픈AI는 해당 문제를 모두 수정했다고 밝혔습니다. 이번 사례는 AI가 사이버 공격 도구로 직접 활용될 수 있음을 실증한 사례로, 기업 보안 담당자들의 주의가 요구됩니다.
보안업체 핵트론AI가 클로드를 이용해 오픈AI 커뮤니티 포럼 운영 서비스(Discourse)의 취약점을 분석·공략하고, 인증 토큰을 탈취해 직원 계정과 비공개 내부 코드 저장소(모노레포)에 접근했다.
오픈AI 직원의 챗GPT·코덱스 계정 및 깃허브 환경을 통해 AI 운영 알고리즘 관련 비공개 코드가 제한적으로 열람됐다. AI 모델 가중치는 유출되지 않았으나, 핵심 기술 정보 노출 위험이 확인됐다.
외부 위탁 서비스(Discourse)의 취약점과 오픈AI 내부 인증 체계의 연계 미흡으로, 외부 서비스에서 확보한 토큰이 내부 시스템 접근에 그대로 사용될 수 있었다. 특히 더 고도화된 AI 모델(클로드 오퍼스5) 투입 시 공격 성공률이 높아졌다.
연구진은 접근 사실 확인 후 스스로 중단하고 버그바운티 채널로 신고했다. 오픈AI는 메타데이터·코드의 제한적 열람을 인정하고 관련 취약점을 모두 패치했으며, 6,500달러의 포상금을 지급했다.
제3자(외부 위탁) 서비스의 취약점이 내부 핵심 시스템으로 연결되는 공급망 인증 위험을 점검해야 한다. AI 모델이 취약점 탐색부터 공격 코드 작성까지 자동화할 수 있음을 인지하고, 외부 서비스와의 토큰·세션 격리 정책을 재검토할 필요가 있다.
본문
앤트로픽의 인공지능(AI) 모델 클로드를 활용한 보안 연구진이 오픈AI 커뮤니티 포럼의 취약점과 인증 체계 문제를 연계해 직원 계정과 비공개 소프트웨어 저장소까지 접근한 것으로 나타났다.
17일(현지시간) 월스트리트저널(WSJ)에 따르면 보안업체 핵트론AI 연구진은 지난 7월 오픈AI의 커뮤니티 포럼을 운영하는 외부 서비스 Discourse의 취약점을 공략했다. 연구진은 클로드를 활용해 취약점을 분석하고 공격 코드를 작성했으며 이를 통해 서버에 접근한 뒤 사용자 인증 토큰을 확보했다.
확보한 토큰 가운데 일부는 오픈AI 직원의 계정과 연결돼 있었다. 연구진은 이를 이용해 직원의 챗GPT·코덱스(Codex) 계정에 접근했다. 해당 계정에 연결된 깃허브(GitHub) 환경을 거쳐 오픈AI의 비공개 저장소까지 접근할 수 있는 사실도 확인했다.
AI 모델 성능에 따른 차이도 드러났다. 연구진이 처음 사용한 클로드 오퍼스(Opus) 4.8은 공격에 성공하지 못했지만, 앤트로픽이 같은 날 클로드 오퍼스5를 출시한 뒤 새 모델을 활용해 취약점을 공략하는 방법을 찾아냈다. 연구진은 취약점 분석부터 공격 코드 작성, 내부 저장소 접근까지의 과정에서 클로드를 활용했다고 설명했다.
연구진이 접근한 곳은 오픈AI의 비공개 소프트웨어 저장소인 '모노레포(monorepo)'다. 이 저장소에는 오픈AI 모델을 빠르고 효율적으로 작동시키기 위한 알고리즘 관련 기술이 포함된 것으로 전해졌다. 다만 AI 모델 가중치(weight)는 포함되지 않은 것으로 알려졌다.
연구진은 민감한 정보에 접근할 수 있다는 사실을 확인한 뒤 추가적인 열람을 중단했다. 접근 권한을 입증하기 위한 풀 리퀘스트(pull request)를 생성했지만, 실제 코드 변경 사항이 저장소에 반영되지는 않았다. 오픈AI는 비공개 저장소의 메타데이터와 코드가 제한적으로 열람된 사실을 확인했으며 관련 문제는 모두 수정했다고 밝혔다.
연구진은 오픈AI 내부 인증 체계 문제를 확인한 뒤 이를 버그바운티(bug bounty) 프로그램을 통해 신고했으며 6,500달러의 포상금을 받았다. 버그바운티는 기업 시스템의 취약점을 찾아 신고하면 포상금을 지급하는 프로그램이다. 다만 오픈AI는 커뮤니티 포럼을 운영하는 Discourse에 대한 테스트 자체는 자사 버그바운티 범위에 포함되지 않는다고 설명했다.
모한 페다파티 핵트론AI 최고기술책임자(CTO)는 "우리가 중국의 위협 행위자들만큼 강하다고 생각하지 않는다"며 "클로드와 코덱스 구독권을 가진 세 명에 불과하다"고 말했다.
관련 투런 솔루션
이 뉴스의 취약점·위협, 투런 솔루션으로 대응하세요.
