SOC는 경보마다 처음부터 다시 시작할 필요가 없다

보안 리더들은 AI가 완전히 새로운 유형의 사이버 공격을 만들어낼지 계속 논쟁하고 있다. 그보다 더 조용하고 이미 가시화된 변화가 있다. AI가 실패한 공격을 재시도하는 비용을 낮췄다는 것이다.

일상적인 사례는 이렇다. 공격자가 낮은 권한의 클라우드 계정에 접근했지만, 첫 번째 권한 상승(privilege escalation) 시도가 실패한다. 예전에는 이 막힌 지점을 넘기려면 문서를 읽고 권한을 확인하고 스크립트를 디버깅하는 데 수 시간이 걸렸고, 많은 공격자가 그냥 포기했다. 이제는 모델이 개입해 오류를 설명하고, 스크립트를 수정하고, 새로운 열거(enumeration) 경로를 수 분 내에 테스트한다.

이 과정의 어느 단계도 새로운 능력이 아니다. 그러나 합쳐지면 침입의 지루한 중간 단계, 즉 의도와 결과 사이에 놓인 조사와 트러블슈팅에서 시간·기술·비용을 제거한다.

위협 보고서가 보여주는 흐름

공개된 기록이 그 궤적을 보여준다. 2025년 초, Google의 위협 인텔리전스 그룹(GTIG)은 국가 지원 행위자들이 생성형 AI를 번역·스크립팅·트러블슈팅·조사 등 생산성 도구로 활용하고 있다는 사실을 발견했다. 2025년 말에는 같은 팀이 실행 중에 모델을 호출하는 악성코드 샘플과 불법 AI 도구의 지하 시장 성숙화에 대해 보고했다. 또한 Anthropic은 정찰·자격증명 수집부터 몸값 요구 설정까지 거의 모든 단계에서 AI를 활용한 갈취 조직을 차단했다고 공개했다. 2026년 5월 GTIG는 사이버범죄 행위자들이 오픈소스 관리 도구에서 이중 인증(two-factor) 우회 취약점을 발견하고 이를 위한 실제 작동하는 익스플로잇을 구축했으며, 익스플로잇의 구조와 내용을 근거로 AI 모델이 취약점 발견과 익스플로잇 개발 모두를 지원했다고 고신뢰도로 평가했다고 보고했다. GTIG는 해당 벤더와 공동으로 공개 대응(disclosure)했고 해당 활동을 차단했으며, 이 대응이 익스플로잇의 실제 사용을 막았을 수 있다고 자체 평가했다.

마지막 구분이 중요하다. 'AI 지원이 평가됨'과 '야생에서의 배포가 확인됨'은 같은 주장이 아니다. 이 차이는 이런 발견이 유통되기 시작하면 쉽게 묻힌다. 귀속(attribution)은 어렵고, 발생 빈도는 불분명하며, 이 보고서들 중 어느 것도 전 세계 활동의 전수 조사가 아니다. 중요한 것은 방향이고, 그 방향은 AI가 공격자 워크플로우 옆이 아닌 안에 자리 잡는 쪽을 향하고 있다.

이 맥락에서 공급업체의 가드레일(guardrail)은 인정받을 만하다. 안전 분류기와 악용 차단은 오용 비용을 높이고, 위의 차단 사례들은 그 효과를 보여준다. 다만 가드레일은 여전히 기업 외부에 있다. 공격자는 재구성된 요청이 통과될 때까지 시도하거나, 오픈 웨이트(open-weight) 모델로 옮기거나, 하나의 악의적 작업을 수십 개의 무해해 보이는 작업으로 분할하거나, 모델을 툴링으로 감싸 정책 계층을 우회할 수 있다. 이러한 마찰은 오용을 늦출 뿐 보안 경계가 되지 못하며, 공급업체 정책을 경계로 취급하는 조직은 방어를 안심감으로 대체한 것이다.

공격은 루프로 실행된다

교과서는 공격 생명주기를 직선으로 그린다. 정찰, 접근, 권한 상승, 영향. 실제 공격자는 루프를 돌린다. 환경을 관찰하고, 가설을 세우고, 무언가를 시도하고, 결과를 읽고, 가설을 수정한다. AI는 이 단계들 사이의 시간을 압축한다. 초보자는 더 오래 버티고, 전문가는 하루에 더 많은 실험을 돌린다.

방어도 같은 방식으로 루프를 돌아야 한다. 신호가 발생하고, 맥락이 수집되고, 가설이 형성되고, 범위가 검증되고, 조치가 취해지고, 결과가 탐지에 환류된다. 실제로는 대기열과 인계가 이 루프의 모든 연결 지점을 끊는다. 경보는 담당자 없이 대기한다. 신원 정보는 다른 콘솔에 있다. 텔레메트리 공백은 백로그 항목이 되고, 닫힌 오탐(false positive) 뒤의 설명은 규칙을 소유한 담당자에게 전달되지 않고 티켓 안에서 사라진다.

환경은 공격자의 실험에 수초 내에 응답한다. 방어자의 응답은 티켓이 처리될 때 도착한다.

평균 인지 시간(MTTA)과 평균 대응 시간(MTTR)은 이를 숨긴다. 경보는 수분 내에 인지될 수 있지만, 그 후 올바른 신원 찾기, 엔드포인트 관리 여부 확인, 승인 경로를 따라 새 담당자마다 인시던트를 재설명하는 데 수 시간이 소요될 수 있다. 그 재구성 구간이 '결정 지연(decision latency)'이며, 이를 측정하는 SOC는 거의 없다.

모든 인계에서 누락되는 다섯 가지

이 작업은 일반적으로 다섯 가지 기능으로 설명된다. 위협 인텔리전스, 위협 헌팅, 탐지 엔지니어링, 조사, 대응. 이는 보편적인 조직도가 아닌 유용한 렌즈다. 소규모 팀에서는 한 사람이 여러 역할을 맡는다. 대규모 기업에서는 SOC·신원·엔드포인트·클라우드·비즈니스 팀에 분산되고, MDR 공급업체가 조사는 담당하지만 억제(contain) 권한은 없을 수 있다.

기능 자체는 거의 문제가 아니다. 문제는 그 사이의 이전이다. 위협 인텔리전스는 기법이 왜 중요한지 안다. 위협 헌팅은 그것이 어디서 표면화될지 말할 수 있다. 탐지 엔지니어링은 규칙의 암묵적 가정을 가지고 있다. 조사관은 판정을 내린 증거 흔적을 보유한다. 실행 팀은 비즈니스를 망가뜨릴 조치가 무엇인지 안다. 각 이전은 그 지식을 지표, 경보, 티켓으로 압축하고, 그 압축은 손실이 있다.

이것이 '손실 핸드셰이크(lossy handshake)'이며, 최근 3부작 시리즈에서 설명된 내용이다. 인계가 운반해야 할 정보의 목록은 온전히 유지할 가치가 있다.

• 엔티티 신원(Entity identity): 사건의 중심에 있는 실제 사용자, 기기, 워크로드, 또는 비즈니스 프로세스
• 증거와 출처(Evidence and provenance): 결론 뒤의 관찰, 그 출처, 타임스탬프
• 가설과 신뢰도(Hypothesis and confidence): 주요 설명, 아직 유효한 대안들, 그 선택 뒤의 확실성
• 텔레메트리 충분성(Telemetry sufficiency): 가용 데이터가 지지할 수 있는 주장, 없는 것, 신뢰도를 제한하는 부재 소스
• 결정 소유권과 제약(Decision ownership and constraints): 조치 권한 보유자, 걸림돌이 되는 승인, 조치가 망가뜨릴 수 있는 것

첫 번째를 잃으면 두 팀이 다른 이름으로 같은 사용자를 조사한다. 마지막을 잃으면 올바른 권고가 대기열에서 기다리는 동안 침입이 진행된다. 출처 없는 증거는 장식이다.

하나의 인시던트, 다섯 개의 시점

그 시리즈의 실제 사례가 이 손실을 동작 중에 보여준다.

한 재무 직원이 해당 계정이 한 번도 사용한 적 없는 호스팅 공급업체에서 로그인한다. MFA가 통과된다. 10분 내에 새 메일함 규칙이 외부 주소로 전달을 시작하고, 계정이 한 번도 보인 적 없는 패턴으로 재무 SharePoint 사이트에서 파일을 가져오기 시작한다. 어느 단일 이벤트도 침해를 증명하지 않는다. 이 시퀀스는 주의를 요한다.

위협 인텔리전스는 인증된 세션을 탈취하기 위한 중간자 피싱(adversary-in-the-middle phishing) 파동을 추적해왔다. 그것이 MFA 성공만으로 계정을 클리어할 수 없는 이유다. 이 맥락은 짧은 권고문과 지표 및 기법 ID로 전달된다. 행동 시퀀스와 그것이 중요한 현지 조건은 남겨진다.

헌터는 권고문을 쿼리로 번역하고 권고문이 묻지 않은 두 가지를 알게 된다. 기기 컴플라이언스 데이터가 환경의 일부만 커버하고, SharePoint 감사 기록이 수 시간 늦게 나타난다는 것이다. 헌트는 의심스러운 계정 목록을 전달한다. 커버리지 단서는 남겨진다.

탐지 엔지니어링은 낯선 네트워크, MFA 성공, 새 전달 규칙이 짧은 시간 내에 클러스터될 때만 발화하는 로직을 구축한다. 이 규칙이 사용자 기반의 일부에 대해 기기 상태 가시성이 없다는 것을 알면서도. 문 밖으로 나가는 것은 심각도 수준과 설명 필드다. 가정과 예상 오탐 패턴은 남겨진다.

경보는 교대 중인 분석가에게 도달하는데, 두 가지를 연결한 추론 없이 로그인과 메일함 규칙만 보인다. 분석가는 신원, 이메일 보안, SIEM, 자산 인벤토리의 네 가지 콘솔에서 그림을 재구성한다. 두 가지 설명이 살아있다. 사용자가 여행 중이거나 합법적인 새 서비스를 시도하는 것일 수 있는데, 이는 낯선 네트워크는 설명하지만 외부 전달 규칙과 계정이 한 번도 보인 적 없는 접근 패턴은 설명하지 못한다. 또는 인증된 세션이 탈취된 것일 수 있는데, 이는 전체 시퀀스를 설명한다. 두 번째가 증거에 맞고, 기기가 미관리 상태여서 확인할 프로세스나 네트워크 텔레메트리가 없기 때문에 엔드포인트 범위는 불명확하다. 사건은 계정 비활성화 권고와 함께 종결된다. 경쟁 설명, 신뢰도 수준, 아무도 검사할 수 없었던 엔드포인트는 남겨진다.

신원 팀에게 티켓이 도착한다. 이 계정을 비활성화하라. 팀은 SOC가 절대 보지 못한 것을 안다. 계정이 급여 처리 중이라는 것이며, 무차별적인 비활성화는 시간이 민감한 비즈니스 프로세스를 중단시킨다. 그것이 재무팀에 억제에 대한 거부권을 준다는 뜻이 아니다. 억제 결정과 연속성 결정이 둘 다 볼 수 있는 사람에 의해 내려져야 한다는 뜻이다. 활성 세션을 취소하고 전달 규칙을 제거하는 것이 저위험 조치다. 계정 정지는 인시던트 정책 하에 있으며 그 권한을 가진 사람의 몫이다. 급여 처리를 이동하는 것은 백업 운영자가 있고 가용한지에 달려있다. 접근 복구는 자격증명 재설정, MFA 재등록, 관리 기기를 기다리며, 누군가는 여전히 조치가 효력을 발휘했는지 확인해야 한다.

모든 기능이 제 역할을 했다. 시스템은 여전히 각각이 인시던트를 처음부터 재구성하도록 강제했고, 비즈니스 맥락을 보유한 팀에게는 결정 대신 한 줄짜리 작업을 건넸다.

유니콘 분석가는 증상이다

조직들이 이 손실을 느낄 때, 반응은 채용 공고다. 신원·엔드포인트·클라우드·이메일·악성코드 분석·탐지 로직·경영진 커뮤니케이션에 능통하고, 경보 대기열에 배정된 누군가. 신화적인 유니콘 분석가는 인재 전략이 아니다. 누락된 시스템 상태에 대한 임시방편이다.

시니어 분석가는 어떤 대시보드도 보여주지 않는 것을 앎으로써 성공한다. 어떤 로그 소스가 거짓말하는지. 어떤 서비스 계정은 절대 건드리면 안 되는지. 어떤 애플리케이션 소유자가 새벽 2시에 전화를 받는지. 회사의 실제 런북은 그 사람의 머리 속에 있고, 그 사람이 퇴사하면 함께 사라진다. 분석가 번아웃의 상당 부분은 바로 이것이다. 조직이 이미 알고 있었지만 유지에 실패한 것을 다시 도출하는 일.

가장 비싼 손실은 인시던트가 종결된 후에 발생한다. 결과가 양성으로 밝혀졌다고 하자. 직원은 출장 중이었고 전달 규칙은 승인된 것이었다. 규칙 소유자는 판정을 뒤집은 증거가 필요하다. 텔레메트리 소유자는 기기 커버리지가 부분적이었다는 것을 들어야 한다. 시스템이 보존하는 것은 종결 이유다. 판정은 살아남고, 교훈은 사라진다. 그것이 시끄러운 규칙이 수년간 시끄러운 채로 남는 이유이고, 새 분석가마다 자신의 교대에서 같은 맹점을 혼자 재발견하는 이유다.

상태 기억형 SOC가 기억하는 것

해결책은 아키텍처적이다. 그 시리즈는 구체적인 처방으로 귀결된다. SOC는 상태 기억형(stateful)이 되어야 한다. SOC가 기억상실증은 아니다. 증거와 사건 이력을 수년간 유지하는 경우도 많다. 인계에서 살아남지 못하는 경향이 있는 것은 그 증거를 둘러싼 추론, 그것을 한정한 불확실성, 그리고 누가 행동할 수 있는지에 대한 제약이다. 이것들은 그것을 생성한 시스템 안에 묻혀서 다음 결정에 활용되지 못한다. 대안은 공유 운영 메모리다. 모든 워크플로우가 읽고 쓰는 다섯 가지 상태:

• 환경 상태(Environmental state): 존재하는 신원·기기·워크로드·비즈니스 서비스, 그 관계, 소유자, 그리고 어떤 것이 특권, 노출, 또는 비관리 상태인지
• 증거 상태(Evidence state): 각 관찰, 출처, 타이밍, 원본 이벤트로의 경로
• 결정 상태(Decision state): 현재 가설, 고려된 대안들, 찬반 증거, 그리고 어떤 새 증거가 답을 바꿀지
• 제어 상태(Control state): 가능한 조치, 필요한 승인, 영향받는 시스템의 소유자, 그리고 억제 전에 보존해야 할 것
• 학습 상태(Learning state): 분석가가 수정한 내용, 실패한 가정, 수정이 유지됐는지, 위협 헌팅·규칙·플레이북에서 무엇을 바꿔야 하는지

이런 공유 모델로 SIEM, EDR, 신원 플랫폼, 사건 시스템이 하나의 결정에 기여할 수 있다. 그 도구들 중 어느 것도 교체되지 않는다.

그 목록에서 가장 어려운 규율은 "알 수 없음"을 합법적인 답으로 취급하는 것이다. 엔드포인트 텔레메트리가 기기가 비관리 상태여서 없는 경우, 약한 시스템은 "악의적인 프로세스 활동이 관찰되지 않았습니다"라고 기록한다. 기술적으로 사실이지만 운영적으로 오해를 부른다. 상태 기억형 시스템은 엔드포인트를 전혀 확인할 수 없었다고 기록하고, 엔드포인트 범위에 대해 명시된 신뢰도를 낮추며, 커버리지 공백을 기기 관리 소유자에게 라우팅한다. 공백이 안심을 주는 문장으로 사라지지 않고 사건의 일부가 된다.

에이전트는 역할과 경계가 필요하다

에이전트형 AI는 이 그림에 마지막으로, 의도적으로 등장한다. 에이전트를 상태 없는 SOC에 붙이면 고장난 운영 모델에 속도를 더할 뿐이기 때문이다. 공유 메모리를 기반으로 동작하는 제한된 워크플로우는 다른 제안이다. 위협 인텔리전스는 외부 위협이 로컬에서 중요한지 판단하고 그 이유를 보여준다. 위협 헌팅은 커버한 모집단을 볼 수 없었던 것과 함께 보고한다. 탐지는 규칙이 라이브로 가기 전에 환경이 필요한 데이터를 공급할 수 있는지 확인한다. 조사는 타임라인, 경쟁 설명, 증거, 신뢰도를 단일 객체로 패키징한다. 대응은 결정을 가용한 조치, 소유자, 승인에 매핑한다.

권한은 신뢰도와 분리된다. 프레임워크는 모든 조치에 대해 네 가지 모드를 구분한다. 추가 증거를 관찰·수집하거나, 권한을 가진 사람 앞에 권고 조치와 그 추론을 제시하거나, 명시적 승인 후에만 실행하거나, 또는 정책·신뢰도·엔티티 유형·잠재적 영향 조건이 모두 충족될 때만 자동으로 실행한다. 모드는 제어 상태에 버전 관리되고 감사 가능하게 살아있다. 자신감 있게 들리는 서술은 에이전트에게 실행 권한을 전혀 부여하지 않는다.

학습에도 같은 주의가 적용된다. 단일 분석가의 단일 오탐 판정은 프로덕션 탐지 로직을 변경할 얇은 증거다. 분석가는 실수를 하고 일부 사건은 단순히 예외다. 상태 기억형 시스템은 수정 뒤의 증거를 포착하고, 유사한 사건을 수집하고, 제안된 변경 사항을 초안으로 작성하고, 그 제안을 규칙 소유자에게 라우팅한다. 이 검토 단계가 학습과 자기 오염을 구분한다.

분석가의 역할이 스택 위로 이동한다

분석가가 도착했을 때 조사의 증거 조립 절반은 이미 완료되어 있다. 분석가의 첫 번째 움직임은 구조화된 사건에 도전하는 것이다. 가설이 맞는지, 경쟁 설명이 놓쳤는지, 제안된 조치가 증거에 비례하는지, 비즈니스 맥락이 무엇을 바꾸는지.

측정도 같은 방향으로 이동한다. 완료된 에이전트 작업 수를 세는 것은 소프트웨어를 미화한다. 네 가지 질문이 더 잘 작동한다. 분석가가 이미 맥락을 담은 사건을 열었는가, 사건이 볼 수 없었던 것을 기록하는가, 수정된 판정이 아직 중요할 때 규칙 소유자에게 도달하는가, 모든 자동화된 조치가 감사 추적과 함께 정책 내에 있었는가. 개정된 연방 지침도 같은 방향을 가리킨다. NIST의 SP 800-61r3의 업데이트된 인시던트 대응 권고는 대응을 독립적인 SOC 활동이 아닌 조직의 폭넓은 위험 관리의 일부로 취급한다.

공격 루프는 곡선을 그리며 조여들고 있으며, 완전한 자율성이 도착하기를 기다리는 것은 그것을 양보하는 느린 방법이다. 출발점은 화려하지 않다. 동일한 맥락이 손으로 반복 재구성되는 지점을 측정하고, 조사가 볼 수 없었던 것을 결론 옆에 기록하고, 평온할 때 각 조치의 소유자와 승인자를 결정하고, 조사에서 배운 것을 위협 헌팅과 탐지로 환류시킨다.

재무 직원의 계정은 어떤 방식이든 정지된다. 어떤 SOC에서는 교훈이 종결 이유와 함께 사라지고 급여 문제가 나중에 표면화된다. 상태 기억형 SOC에서는 행동하는 사람들이 조사가 볼 수 없었던 것을 확인하고, 커버리지 공백에 소유자가 있으며, 다음 분석가는 대기열이 아닌 메모리를 물려받는다.

참고: 이 글은 Conifers.ai의 솔루션 아키텍트/CISO 이사인 Jonathan Waknin의 3부작 시리즈를 기반으로 합니다.