엔비디아·팔란티어, 외부 AI 모델 사용 제한…"기밀 유출 우려"

글로벌 기업들이 내부 정보 유출 우려로 외부 인공지능(AI) 모델 사용 범위를 줄이고 있다. AI 모델 도입 시 성능뿐 아니라 데이터 저장과 활용 방식을 직접 통제할 수 있는지가 핵심 요소로 부상했다.

16일 디인포메이션 등 주요 외신에 따르면 팔란티어와 엔비디아·부즈 앨런 해밀턴 등은 오픈AI와 앤트로픽 최신 AI 모델 사용을 제한하거나 강화된 데이터 보호 조치를 요구한 것으로 전해졌다. 이들 기업은 민감한 사내 정보와 고객 자료가 외부 AI 사업자의 시스템에 저장될 가능성을 우려하고 있다.

팔란티어는 앤트로픽에 이용자 데이터를 보관하지 않는 '제로 데이터 보존(ZDR, Zero Data Retention)'을 보장해 달라고 요구했다. 해당 조건이 충족될 때까지 자사 플랫폼에서 앤트로픽 모델 제공을 중단하는 방안도 추진 중인 것으로 전해지고 있다.

글로벌 기업들이 내부 정보 유출 우려로 외부 인공지능(AI) 모델 사용 범위를 줄이고 있다. (사진=구글 제미나이)

엔비디아는 앤트로픽 모델을 보안 민감도가 낮은 업무에만 이용하는 것으로 알려졌다. 내부 업무에는 자체 개발한 오픈소스 계열 모델 '네모트론(Nemotron)'을 활용하고 있다.

방산과 사이버보안 분야 고객을 보유한 부즈 앨런 해밀턴(Booz Allen Hamilton)도 직원들이 독점적인 사이버보안 업무에 앤트로픽 상용 모델을 사용하지 못하도록 조치했다고 밝혔다. 정부와 기업 고객의 중요 정보가 외부 AI 서비스로 넘어갈 가능성을 차단하기 위한 조치다.

업계에선 이 같은 현상이 앤트로픽이 지난 6월 '페이블 5(Fable 5)' 관련 이용약관을 변경하면서 커졌다는 분위기다. 앤트로픽은 복잡하고 새로운 유형의 악성 공격을 방지하기 위해 이용 기록을 최장 30일 동안 보관할 수 있도록 정책을 바꿨다.

이에 기업 고객들은 업무 내용과 내부 자료가 AI 기업의 로그에 남을 수 있다는 점을 문제로 보고 있다. 데이터가 저장되지 않는 ZDR뿐 아니라 외부 네트워크와 분리된 에어갭(air-gap) 환경과 자체 서버에서 AI를 운영하는 온프레미스(on-premises) 방식에 대한 수요도 늘고 있는 이유다.

오픈AI도 이용자 데이터 처리 방식과 관련해 유사한 논란에 휩싸였다. 최근 '나비에-스토크스 방정식' 해결 주장과 관련해 외부 연구자의 비공개 자료나 이용자가 입력한 문제 해결 과정이 모델 학습에 활용됐을 가능성이 제기됐다.

오픈AI와 앤트로픽은 기업 고객 데이터를 기본적으로 모델 학습에 사용하지 않는다고 입장을 밝혔다. 고객이 별도로 동의한 경우를 제외하면 학습에 활용하지 않지만, 제품 개선을 위해 익명화한 메타데이터를 수집할 수 있다는 예외 조항을 두고 있다.

마이크로소프트(Microsoft)는 고객별로 분리된 클라우드 환경과 자체 AI 서비스를 앞세워 보안 수요에 대응하고 있다. 기업용 AI 시장의 경쟁 기준이 모델 성능을 넘어 데이터 저장 위치와 보존 기간·접근 권한을 고객이 통제할 수 있는지로 확대되고 있다는 분석이다.

디인포메이션(The Information)은 "AI 기업이 기업 고객을 확보하려면 데이터 저장 위치와 보존 기간·접근 권한을 고객이 직접 관리할 수 있는 환경을 제공해야 할 것"이라고 봤다.