미국 국가안보국(NSA)·사이버보안인프라보안국(CISA)·연방수사국(FBI)이 중국 AI 기업 6곳이 미국 주요 AI 모델에서 대규모로 학습 데이터를 빼내고 있다는 공동 경보(AA26-251A)를 발표했습니다. 이 기업들은 2024년 말부터 수백만 건의 요청을 보내 수십억 개의 토큰(AI 학습에 쓰이는 텍스트 단위)을 Claude·GPT·Gemini·Grok 등의 모델에서 추출한 것으로 파악됩니다. 이는 미국 AI 기업들의 이용약관을 위반한 행위이며, 세 기관은 중국 정부가 이를 인지하고 있을 가능성이 높다고 밝혔습니다. API(프로그램 간 통신 접점) 접근 통제 강화, 비정상 사용량 탐지, 대규모 토큰 추출 차단 등 기술적 대응이 권고됩니다. 미국 정보기관이 특정 중국 기업을 공개 지목한 것은 이례적으로, 이번 경보는 AI 데이터 보안을 국가 차원의 위협으로 공식 규정한 첫 사례입니다.
NSA·CISA·FBI가 딥시크·문샷 AI·알리바바·미니맥스·스텝펀·Z.AI 등 중국 AI 6개사가 Claude, GPT, Gemini, Grok 모델에서 수십억 토큰을 산업 규모로 추출했다는 공동 경보(AA26-251A)를 발표했다.
미국 AI 기업들의 지식재산이 무단으로 중국 AI 모델 학습에 활용됐으며, 이용약관 위반·보안 위협이 동시에 제기된다. 미국 정부는 이를 국가 차원의 위협으로 규정했다.
지식 증류(knowledge distillation) 기법을 이용해 대형 모델의 출력을 교재 삼아 저비용으로 모델 성능을 끌어올리는 방식이 악용됐으며, 중국 정부의 묵인 또는 개입 가능성이 언급된다.
모델 출력 모니터링 강화, 비정상 접근 패턴 탐지, 대규모 토큰 추출 차단 기술 도입, API 접근 통제 및 사용량 모니터링이 권고됐다.
AI API를 운영·이용하는 기업은 대량 반복 요청 등 비정상 사용 패턴을 탐지하고, API 키 발급 절차와 사용량 한도 설정을 즉시 점검해야 한다.
본문
미국 국가안보국과 사이버보안·인프라보안국, 연방수사국이 현지 시각 9월 8일 중국 AI 기업 6곳을 대상으로 한 공동 경보를 발표했다. 경보 번호는 AA26-251A이며 딥시크와 문샷 AI, 알리바바, 미니맥스, 스텝펀, Z.AI가 대상이다.
경보는 산업 규모의 지식 증류(knowledge distillation)를 문제 삼았다. 증류는 큰 모델이 내놓은 답을 교재 삼아 다른 모델을 가르치는 방법으로, 개발 비용과 시간을 줄일 수 있다. 세 기관은 여섯 기업이 2024년 말부터 수백만 건의 요청을 주고받으며 미국 최첨단 모델에서 수십억 개의 토큰을 추출했다고 밝혔다. 대상은 Claude와 GPT, Gemini, Grok 계열 모델이다.
미국 AI 기업들의 이용약관은 자사 모델의 출력을 다른 모델 학습에 쓰는 것을 금지한다. 세 기관은 이번 활동이 중국 정부의 인지 아래 이뤄졌을 가능성이 높다는 표현을 경보에 명시했다.
경보는 미국 AI 기업과 연구기관에 대응 조치를 권고했다. 모델 출력 모니터링 강화와 비정상적 접근 패턴 탐지, 대규모 토큰 추출을 차단하는 기술적 조치, API 접근 통제와 사용량 모니터링이 제시됐다.
증류는 중국 AI 기업들이 모델 성능을 빠르게 높이는 수단으로 알려져 있다. 미국 모델의 출력을 학습에 활용하면 개발 비용과 시간을 줄일 수 있지만, 지식재산권과 보안 문제가 함께 제기된다. 이번 경보는 그 활동을 국가 차원의 위협으로 규정한 것이다.
미국 정부는 지난해부터 중국 AI 기업에 대한 수출 통제를 강화해 왔는데, 이번 경보는 대응 범위를 소프트웨어와 데이터 영역으로 넓힌 것이다. 미국 정보기관이 특정 중국 기업들을 공개적으로 지목한 것은 이례적이다.
