AI 에이전트(사람 대신 자율적으로 작업을 수행하는 AI 프로그램) 도입이 빨라지면서 기업들이 기존 보안·거버넌스 체계를 근본적으로 다시 짜야 하는 상황에 놓였습니다. 직원들이 회사 몰래 AI 도구를 사용하는 '섀도 AI' 문제가 과거 섀도 IT보다 10배 규모로 번지고 있으며, 이 과정에서 고객 개인정보나 사내 기밀이 외부 AI 시스템으로 유출될 위험이 커지고 있습니다. 128개 기업 임원 154명을 인터뷰한 AWS의 'Reimagine 2026' 보고서는, AI 사용 기업 중 '책임 있는 AI 활용 방침'을 문서화한 곳은 24%, 데이터 거버넌스 전략을 갖춘 곳은 10%에 불과하다고 밝혔습니다. 전문가들은 AI 에이전트에 부여하는 자율권을 처음부터 크게 주지 말고, 신뢰가 쌓인 뒤 단계적으로 확대하며 보안 통제는 에이전트 바깥에서 설정하라고 권고합니다.
AI 에이전트 대규모 도입으로 섀도 AI 확산, 데이터 유출·프라이버시 침해 위험이 기업 전반에서 심화되고 있다.
고객 개인정보·영업 기밀이 직원이 무단 사용하는 서드파티 AI 도구를 통해 외부로 새어나갈 수 있으며, 승인 절차가 느릴수록 직원들이 IT 통제를 우회한다.
6개월짜리 IT 프로젝트용으로 설계된 심의 절차를 2주짜리 AI 실험에도 그대로 적용하는 등 거버넌스가 기술 속도를 따라가지 못하고, AI 활용 지침과 데이터 전략을 공식화한 기업이 매우 적다.
일부 기업은 개인정보·HR 데이터를 AI 처리 전에 익명화하고, 사용 사례를 위험 수준에 따라 분류해 통제를 차등 적용하는 분류 체계를 구축했다. AI 에이전트는 '신입 직원 수습' 방식으로 처음엔 인간 승인을 의무화하고 신뢰도가 쌓이면 자율권을 점진적으로 확대하도록 권고된다.
에이전트 내부에 보안 규칙을 심어도 에이전트가 잘못 해석하거나 우회할 수 있으므로, 보안 한계는 반드시 에이전트 외부(시스템 수준)에서 설정해야 한다. 또한 AI로 절약된 시간을 어떻게 활용할지 구조화하지 않으면 실질적 업무 성과로 이어지지 않는다.
본문
AI 에이전트(자율적으로 작업을 수행하는 AI 프로그램)가 기업들로 하여금 보안 거버넌스, 인간의 책임, 그리고 배포 규모가 커질수록 필요한 감독 체계를 전면 재검토하도록 강제하고 있다.
AWS의 'Reimagine 2026' 보고서는 조직들이 거버넌스를 시스템 안에 내재화하고 결과에 대한 인간의 책임을 유지해야 한다고 주장한다. 이 보고서는 23개 산업 128개 조직의 임원 154명을 대상으로 45~60분짜리 비공개 인터뷰를 9개월에 걸쳐 진행한 결과물이다.
인터뷰에 참여한 조직 다수는 며칠이면 끝나는 업무에도 6개월짜리 IT 프로젝트용으로 설계된 심의 절차를 그대로 적용하고 있었다. 2주짜리 실험이 승인을 받으려다 한 달을 기다려야 한다면, 일부 팀은 아예 허가를 구하는 것을 포기한다. 그런 상황에서 정책은 "문제를 지하로 밀어 넣는" 역할을 한다고 보고서는 지적한다.
인터뷰에 응한 한 리더는, 수년간 섀도 IT(비공인 IT 도구 사용)를 관리해 온 CIO들이 이제 그 10배 규모의 섀도 AI를 상대하고 있다고 말했다.
저자들이 기술적 위험으로 꼽은 항목에는 보안, 프라이버시, 데이터 유출이 포함된다. 조직들은 독점 데이터, 고객 개인정보, 기밀 사업 정보가 AI 시스템을 통해 — 때로는 눈에 띄지 않게, 종종 직원들이 감독 없이 사용하는 서드파티 도구를 통해 — 외부로 새어나가는 상황을 우려한다.
AWS가 의뢰해 해당 문서에 인용된 Strand Partners의 유럽 기업 조사에 따르면, 중소기업과 대기업 중 절반 이상이 AI를 사용하고 있다. 그러나 책임 있는 AI 활용 방침을 문서화한 곳은 24%에 불과하며, 데이터 거버넌스 전략을 보유한 곳은 10%에 그쳤다.
보스턴 대학교의 정보서비스·기술 부사장 겸 CIO인 Chris Sedore는 대학 구성원의 40~50%가 적어도 매주 AI를 사용한다고 추정했다. "일부는 우리가 제공하는 모델과 시스템을 쓰고, 일부는 제멋대로 사용하고 있습니다"라고 그는 말했다.
AI가 직원 이메일을 읽을 때
이메일, 채팅, 회의록은 'Reimagine 2026'이 '휴먼 레이어(human layer)' 데이터라고 부르는 영역을 구성하며, 저자들은 이를 AI로 분석하는 데서 가치를 찾는다. 다만 접근 자체가 프라이버시 우려를 낳는다는 점도 짚는다.
Houston Methodist Main Campus에서 한 의사가 CEO 겸 최고혁신책임자 Roberta Schwartz에게 AI 프로젝트가 경영진이 자신의 메시지를 읽는다는 의미냐며 따진 일이 있었다. 그것은 사실이 아니었다. "저도 제 이메일 소화하기도 바쁜걸요"라고 Schwartz는 당시 상황을 회상하며 말했다.
직원들이 시스템을 신뢰하기까지는 1년의 사용 경험이 필요했다 — AI가 조직 전체의 패턴을 파악할 뿐 개인 내용에는 손대지 않는다는 사실을 직원들이 체감하기까지 그만큼의 시간이 걸렸다. 인터뷰를 통해 도출된 원칙은, AI는 집단 수준의 패턴을 보고 개인은 배제한다는 것이다.
급여 데이터, HR 결정, 개인 통신이 포함된 경우 조직들은 처리 전에 해당 내용을 마스킹해 "AI가 신호는 받되 신원은 알 수 없도록" 했다. 직원들에게 자신의 데이터가 어떻게 활용되는지 투명하게 공개하는 것이 신뢰 구축의 핵심이었다.
규칙을 시스템에 새겨 넣기
일부 조직은 AI 프로젝트 시작 전에 위험 수준에 따라 분류 작업을 진행한다. Bradesco의 최고데이터책임자 겸 데이터·AI 디렉터인 Rafael Cavalcanti는 개인정보 포함 여부, 실시간 처리인지 배치(batch) 처리인지, 사람이 의사결정 과정에 개입해야 하는지를 묻는 분류 트리를 만들었다. 각 조합에 따라 위험 수준과 적용할 통제 항목이 결정된다.
AI 에이전트에 대해서 저자들은 처음엔 인간 승인을 의무화하고, 에이전트가 신뢰할 만하다는 것이 입증된 후에만 자율권을 확대하되 필요 시 언제든 다시 축소할 수 있는 옵션을 열어두라고 권고한다. "신입 직원 수습 기간처럼 다루세요"라고 보고서는 적는다. 또한 에이전트는 내부에 심어진 규칙을 잘못 해석하거나 우회할 수 있으므로, 보안 한계는 에이전트 바깥에서 설정해야 한다고 강조한다.
국가별 규제 차이도 문제를 복잡하게 만든다. Standard Bank의 클라우드 지원 부문 CTO Duncan Macdonald는 "22개국에서 운영하는 상황에서, 두 나라의 규정 때문에 나머지 20개국이 전부 영향받는 방식은 원하지 않는다"고 말했다.
높은 사용률, 얇은 성과
사용 지표만으로는 성과를 알 수 없다. AI 도입 초기에 관찰된 한 조직은 88%가 "도입된" 것으로 나타났지만, 실제로 더 나은 결과물을 만들어낸 세션은 5,000건 중 1건도 채 되지 않았다.
절약된 시간도 활용 계획이 있어야 의미가 있다. "1시간에 4시간 분량의 일을 할 수 있게 됐는데, 남은 3시간을 어떻게 쓸지 구조화되어 있지 않다면 회사에 아무런 이익이 없습니다"라고 RAK IDO의 CTO Rashed Iqbal 박사는 말했다.
주니어 인재 양성 공백 문제도 해결되지 않은 채 남아 있다. AI가 주니어 직원들이 판단력을 키우던 반복 업무를 대체하면서, 조직들은 대안을 실험 중이지만 인터뷰 대상자 중 해답을 찾았다고 주장한 곳은 없었다.
