PwC가 전 세계 기업·기술 리더 3,934명을 대상으로 조사한 결과, AI 예산은 계속 늘고 있지만 정작 AI를 노린 공격에는 대비가 가장 부족한 것으로 나타났습니다. 응답자들은 AI가 대규모로 조종하는 봇넷, AI의 판단을 미세하게 속이는 적대적 공격, 학습 데이터에 거짓 정보를 섞는 데이터 포이즈닝을 가장 큰 위협으로 꼽았습니다. 조직 차원의 사고대응 계획을 제대로 갖춘 곳은 39%에 불과하고, 데이터가 민감한지 분류조차 못한 기업도 절반에 달해 AI를 뒷받침하는 데이터 보안 기반이 약한 것으로 드러났습니다. 공격 대응을 AI 에이전트(스스로 행동하는 소프트웨어)에게 전적으로 맡기겠다는 기업은 4분의 1도 되지 않아, 자동화와 사람의 통제 사이에서 신중한 태도를 보이고 있습니다.
PwC 설문조사에서 기업들이 AI 공격(봇넷, 적대적 공격, 데이터 포이즈닝)에 대한 대비가 가장 취약하다고 응답했습니다.
AI 예산은 늘지만 사고 대응 계획과 데이터 보호 체계는 미흡해 실제 공격 시 피해가 커질 수 있습니다.
AI 도입 속도에 비해 데이터 분류, 접근 통제, 사고대응 계획 등 기본적인 보안 체계 구축이 뒤처져 있습니다.
기업들은 AI 에이전트에게 전면적인 자동 대응 권한을 주지 않고 사람의 승인을 거치는 방식을 선호하고 있습니다.
AI 도구를 도입하기 전에 해당 도구가 접근하는 데이터가 무엇이고 얼마나 잘 보호되는지 먼저 점검해야 하며, 결과가 반드시 정확해야 하는 업무는 AI가 영향을 줄 수 없는 별도의 검토·승인 절차를 거치게 해야 합니다.
본문
기업들은 AI에 더 많은 투자를 하면서도, AI 시스템을 노린 공격을 자신들이 가장 대비하지 못한 위협으로 꼽고 있습니다. PwC는 2026년 5월부터 7월까지 71개국의 비즈니스 및 기술 리더 3,934명을 대상으로 설문조사를 실시했습니다. 이 중 보안 및 기술 경영진의 절반이 이러한 공격을 자신들의 상위 5개 대비 격차 안에 꼽았으며, 이는 목록에 있는 다른 모든 위협보다 앞선 순위였습니다.
AI 기반 공격에 대해 질문받은 리더 중 절반 이상이 세 가지 공격을 상위 5개 안에 포함시켰습니다: AI가 대규모로 지휘하는 봇넷(botnet), AI 시스템이 보는 정보를 미묘하게 조작해 잘못된 답을 내도록 만드는 적대적 공격(adversarial attack), 그리고 모델이 학습하는 데이터에 오도하는 기록을 슬쩍 끼워 넣는 데이터 포이즈닝(data poisoning)입니다. PwC의 평가에 따르면, 최첨단 AI 모델은 이제 사람이 거의 개입하지 않아도 알려지지 않은 소프트웨어 결함을 찾아내고 악용할 수 있습니다.
예산은 늘고 있지만, 대비책은 그렇지 않다
설문에 응한 보안 및 재무 담당 리더 중 84%는 사이버 예산이 늘어날 것으로 예상했으며, AI는 그 자금의 최우선 투자 대상 중 하나입니다. 하지만 응답자 중 완전히 공식화된 사이버 사고 대응 연속성 계획, 즉 공격 이후 핵심 운영을 유지하거나 복구하는 방법을 문서화한 계획을 갖춘 곳은 39%에 불과합니다. 거의 4분의 1은 아예 공식적인 계획을 세우고 있지도 않습니다. PwC 자신도 사이버 사고는 일어날지 여부가 아니라 언제 일어나느냐의 문제라고 설명합니다.
AI를 뒷받침하는 데이터는 부실하다
평균적인 기업은 조직 전체에 걸쳐 7가지 데이터 위험 관리 조치 중 3가지만 마련해 놓고 있습니다. 민감한 데이터가 무엇인지 파악하는 기본 단계인 데이터 분류(data classification)를 실시한 곳은 약 절반에 불과합니다. PwC의 주장은 AI는 그 밑바탕에 있는 데이터만큼만 신뢰할 수 있다는 것이며, 따라서 올해 AI 도구를 도입한다면 그 도구가 어떤 데이터에 접근할 수 있는지, 그리고 그 데이터가 얼마나 잘 보호되고 있는지를 확인해야 한다는 것입니다.
AI 단독 행동을 허용하는 곳은 드물다
방어 측면에서, 자율적으로 행동하는 소프트웨어인 AI 에이전트(AI agent)가 사람의 승인 없이 공격을 차단하고 해결하도록 허용하겠다는 리더는 4분의 1 미만입니다. 대부분의 리더는 에이전트를 저위험 행동으로 제한하거나 사람이 통제권을 유지하도록 하고 있습니다. 절반 이상이 기술의 신뢰성과 성숙도를 가장 큰 장벽으로 꼽았습니다.
"AI 시대에 성공하려면 우리는 머신 스피드(machine speed)로 방어할 수 있어야 합니다"라고 로이즈 뱅킹 그룹(Lloyds Banking Group)의 최고보안책임자(CSO) 매트 로우(Matt Rowe)는 말합니다.
기업들은 또한 AI 위험을 누가 책임질 것인가에 대해서도 의견이 갈립니다. 3분의 1은 최고AI책임자(chief AI officer) 같은 전담 AI 직책을 신설했으며, 다른 기업들은 이를 기술 부서나 CISO(최고정보보호책임자)에게 맡기고 있습니다.
에이전트는 확률적 결과물, 즉 맞을 가능성은 높지만 보장되지는 않는 결과물을 만들어냅니다. PwC의 조언은, 결과가 항상 정확해야 하는 경우에는 에이전트의 작업이 그것이 영향을 줄 수 없는 통제 절차, 예를 들어 검토, 승인 워크플로, 또는 다른 시스템에 의한 점검을 반드시 거쳐야 한다는 것입니다.
관련 투런 솔루션
이 뉴스의 취약점·위협, 투런 솔루션으로 대응하세요.
