기업[안광섭 AI 진테제] 미 정부 사이버보안 권고문이 의미하는 것
미국 NSA·CISA·FBI 세 기관이 공동 사이버보안 권고문(AA26-251A)을 발표하며, 딥시크·문샷AI·알리바바 등 중국 AI 기업 6곳이 Claude·GPT·Gemini·Grok 같은 미국 대형 AI 모델에서 수십억 개의 토큰을 무단으로 뽑아내 자사 모델 훈련에 사용했다고 지목했습니다. 주목할 점은 이 권고문이 '증류(distillation, 큰 모델의 출력을 학습 데이터로 삼아 다른 모델을 만드는 기법)' 행위를 단순 약관 위반이 아닌 MITRE ATLAS(AI 공격 기법 분류체계)에 매핑된 공격으로 격상시켰다는 것입니다. 또한 AI 제공사에게 의심 계정에는 몰래 성능을 낮춘 응답을 제공하되, 그 사실을 해당 사용자에게 알리지 말라고 권고해, 정상적으로 API를 사용하는 기업 고객도 영문도 모른 채 품질 저하를 겪을 수 있는 위험이 생겼습니다. 기업 실무자는 자체 회귀 테스트 세트를 구성하고, API 경로를 단순화하며, 계정을 개인 인증 단위로 분리하는 대응이 필요합니다.
자세히 보기









