AI 에이전트(자동화된 AI 소프트웨어)가 기업 내 다양한 시스템에 연결되면서, 에이전트가 보유한 계정과 권한을 아무도 제대로 관리하지 않는 문제가 생기고 있습니다. 에이전트는 OAuth 토큰, API 키, 서비스 계정 등 여러 자격증명을 사용하는데, 시간이 지날수록 원래 업무 범위를 훨씬 넘는 권한이 쌓이게 됩니다. 보안 전문가 Roy Katmor는 각 AI 에이전트를 하나의 애플리케이션으로 간주하고, 다섯 가지 항목(소유자·목적, 접근 가능한 도구, 사용 자격증명, 실질 권한, 실행 중 행동)을 목록으로 정리해 관리할 것을 권고합니다. 이를 통해 승인된 의도와 실제 행동을 비교하고, 문제 발생 시 에이전트를 즉시 차단할 수 있는 통제 체계를 갖출 수 있습니다.
AI 에이전트가 HR·ID 공급자·티켓팅·급여·내부 앱 등 여러 기업 시스템에 연결되면서, 에이전트가 사용하는 자격증명과 권한이 기존 보안 검토 프로세스 밖에 놓이게 됨.
에이전트에 권한이 계속 누적되어 원래 업무 범위를 초과하는 과도한 접근권이 생기고, 침해 시 피해 범위가 커질 수 있음.
AI 스튜디오와 에이전트 자체는 승인되지만, 에이전트가 실제로 사용하는 OAuth 토큰·API 키·서비스 계정·공유 사람 계정은 별도 검토 없이 방치됨.
각 에이전트를 애플리케이션처럼 다루고, 소유자·목적·접근 도구·자격증명·실질 권한·런타임 행동의 다섯 가지를 목록화하여 승인된 의도와 실제 행동을 비교 검토함. 문제 발생 시 즉각 차단할 수 있는 킬 스위치 도입 권고.
AI 에이전트 도입 시 자격증명 인벤토리(목록 관리)와 최소 권한 원칙을 적용하고, 에이전트별 범위 제한 및 비상 차단 절차를 사전에 마련해야 함.
본문
이 Help Net Security 동영상에서 Orchid의 공동 창업자 겸 CEO인 Roy Katmor는 AI 에이전트가 아무도 검토하지 않는 자격증명을 보유하게 되는 이유를 설명합니다. 조직들은 AI 스튜디오에서 에이전트를 만들고, 기업 도구에 연결하며, 유용한 작업을 수행할 수 있도록 계정을 부여합니다. 에이전트 자체는 승인되고 스튜디오도 승인되지만, 그 뒤에 있는 신원(identity)들은 일반적인 검토 프로세스 밖에 놓이게 됩니다.
Katmor는 HR, ID 공급자(identity provider), 티켓팅, 급여, 내부 앱에 접근하는 온보딩 에이전트 사례를 소개합니다. 각 연결 뒤에는 OAuth 토큰, API 키, 서비스 계정, 또는 사람의 계정을 빌려 쓰는 형태가 존재합니다. 권한은 계속 쌓이고, 결국 해당 계정은 에이전트의 원래 업무 범위를 훨씬 넘는 권한을 갖게 됩니다.
그는 각 에이전트를 하나의 애플리케이션으로 취급하고 다섯 가지 항목을 목록화할 것을 주장합니다: 소유자와 목적, 접근 가능한 도구, 사용하는 자격증명, 실질적인 권한, 그리고 런타임(실행 중) 행동. 이를 통해 팀은 승인된 의도와 실제 관찰된 행동을 비교하고, 범위를 제한하는 통제 방안과 신속하게 차단할 수 있는 킬 스위치를 적용할 수 있습니다.
