기업ZDNet Korea·2026. 09. 30.
AI 해킹 공포가 현실로…AI에 방어권 넘겨야 하나
이 기사는 AI가 스스로 공격을 수행하는 시대에 방어 권한을 AI에게 넘겨야 하는지를 놓고 여러 AI 패널(챗GPT, 제미나이, 클로드 등)이 벌인 가상 토론을 다룹니다. 기술 전문가 패널은 AI가 인간보다 훨씬 빠르게 위협을 탐지·차단할 수 있다며 자율 방어권 부여를 주장했지만, 보안·윤리·정책 전문가들은 실험실 성능이 실제 환경의 적대적 공격 앞에서는 무력할 수 있고, 오작동 시 책임 소재가 불분명하다는 점을 지적했습니다. 결국 패널들은 위협 탐지·초기 격리까지는 AI에게 자동 권한을 주되, 시스템 전면 차단이나 역공격 같은 중대 결정은 반드시 사람이 최종 승인하는 '인간 개입형 하이브리드 시스템'이 현실적 절충안이라는 결론에 도달했습니다. 기업 보안 담당자에게는 AI 자동화 도입 시 권한을 단계적으로 나누고, 되돌리기 어려운 조치는 사람의 승인을 거치도록 설계해야 한다는 시사점을 줍니다.
자세히 보기