[KCSCON 2026] KISA 한승원 수석 "AI가 바꾼 것은 공격 속도…보안의 본질은 여전히 '신뢰'"

KCSCON 2026 KISA 한승원 수석 강연 현장

하반기 최대 사이버보안 컨퍼런스·전시회인 '2026 대한민국 사이버 보안 컨퍼런스(KCSCON 2026)'가 9월 8일 서울 세종대학교 컨벤션센터에서 개최되고 있다.

데일리시큐가 주최하고 과학기술정보통신부, 한국인터넷진흥원(KISA), 한국정보보호산업협회가 후원하는 KCSCON 2026에는 공공기관과 공기업, 정부 산하기관, 금융회사, 병원, 대학, 일반기업 등의 정보보호·개인정보보호 책임자와 보안 실무자 1,000여 명이 참석했다.

이날 첫 번째 기조강연에 나선 한국인터넷진흥원(KISA) 한승원 수석은 'AI 시대, 변한 것과 변하지 않은 것: 최근 해킹사례 및 대응방안 중심'을 주제로 최근 공격 흐름과 대응 방향을 설명했다.

한 수석은 AI가 보안 담당자의 문제 해결 능력을 크게 높였지만 공격자에게도 같은 힘을 줬다고 강조했다. 특히 AI로 공격 속도와 자동화 수준은 크게 높아졌지만, 공격자가 실제로 노리는 지점은 과거와 크게 달라지지 않았다고 말했다.

공격자는 AI로 '만들고 맡긴다'

AI 시대 달라진 가장 큰 변화는 공격자가 AI를 적극적으로 활용하기 시작했다는 점이다.

최근에는 AI를 이용해 악성코드와 공격 스크립트를 빠르게 만들고, 정찰과 취약점 확인, 익스플로잇 코드 작성, 정보 분류와 반출 등 상당수 공격 과정을 자동화하는 수준까지 발전하고 있다. 아직 표적 선정과 주요 판단은 사람이 담당하지만, 사람이 목표를 정하면 이후 여러 단계를 AI 에이전트가 수행하는 형태로 빠르게 바뀌고 있다.

공격자들이 외부 AI 서비스 대신 로컬 AI 모델을 활용하려는 움직임도 나타나고 있다. 외부 AI 서비스를 이용할 경우 악성 행위가 서비스 제공자에게 탐지될 수 있기 때문이다.

방어자가 사용하는 AI도 공격 대상

AI를 활용하는 방어 측에도 새로운 문제가 생겼다.

한 수석은 "우리가 AI로 코드를 보기 시작하자, 코드가 그 AI에게 말을 걸기 시작했다"고 설명했다.

사람이 보면 단순한 문자열이나 주석이지만 AI가 읽으면 명령으로 해석되는 내용을 악성코드에 넣어 분석을 중단시키거나 거부하도록 만드는 공격이다.

가짜 시스템 메시지나 토큰 만료, 메모리 부족 등의 지시를 코드에 삽입해 AI 분석을 방해하는 사례도 나타나고 있다.

AI 개발도구와 에이전트 생태계도 공격 통로가 되고 있다.

공격자는 가짜 AI 도구 설치 페이지를 검색 상단에 노출하거나 에이전트 마켓의 악성 스킬, 복제 오픈소스 저장소, 개발도구 확장 프로그램 등을 이용해 개발자와 보안 분석가를 노리고 있다. 실제 도구는 정상적으로 설치되면서 동시에 악성코드가 실행될 수 있어 사용자가 알아차리기 어렵다.

AI 시대에도 '신뢰'를 노리는 공격은 그대로

한 수석은 AI 시대에도 공격의 본질은 크게 달라지지 않았다고 강조했다.

최근 워터링홀, 피싱, 자료 유출 사고를 보면 공격자는 먼저 피해 대상에 대한 정보를 수집하고, 피해자가 신뢰하는 사람과 사이트, 소프트웨어, 접속키를 이용해 침투한다.

워터링홀 공격에서는 피해자가 자주 방문하는 정상 사이트를 침해한 뒤 신뢰하고 설치한 금융 보안 소프트웨어의 취약점을 악용해 백도어를 설치한 사례가 소개됐다.

피싱 역시 더 정교해졌다.

과거 사고에서 유출된 이름과 생년월일, 연락처 등의 개인정보를 이용해 피해자에게 맞춘 메시지를 만들고, 피해자가 첨부파일을 의심하면 다시 안심시키는 메시지까지 보내 공격을 이어가는 방식이다.

자료 유출 사고에서는 개발자의 접속키를 미리 탈취한 뒤 정상적인 접근처럼 내부 시스템에 들어온 사례도 소개됐다. 한 개의 접속키로 여러 개발 프로젝트에 접근할 수 있었고, 운영환경 접속키와 데이터베이스 접속정보가 평문으로 저장돼 피해가 커졌다.

한 수석은 이런 공격을 두고 "우연히 걸린 것이 아니라 나를 알고, 나를 타깃으로 공격해 온 것"이라고 설명했다.

"신뢰 지점마다 통제하고, 침해 이후까지 준비해야"

대응의 핵심은 사람이 믿는 지점을 다시 점검하는 것이다.

사람에 대해서는 FIDO2 등 피싱 저항형 다중인증(MFA)을 적용하고, 중요한 요청은 별도 채널로 다시 확인해야 한다. 웹사이트는 제작·관리 위탁업체까지 자산 관리 대상에 포함하고, 필수 설치 소프트웨어도 버전과 지원종료(EOL), 업데이트 무결성을 관리해야 한다.

접속키와 자격증명은 코드와 설정에서 분리하고 발급·사용·폐기 이력을 남기는 것이 중요하다.

침해 이후 피해를 줄이는 회복탄력성도 강조했다.

망 분리와 최소권한으로 공격자의 내부 이동을 제한하고, 중요 로그를 중앙에 장기간 보관해야 한다. 백업은 운영환경과 분리해 불변(Immutable) 형태로 관리하고 실제 복구가 가능한지 정기적으로 확인해야 한다.

한 수석은 강연을 마무리하며 "AI는 우리의 문제 해결력을 넓혔고 공격자에게도 같은 것을 줬다. 그런데 바뀐 것은 문을 여는 속도지, 문이 있는 자리가 아니다"라고 말했다.

그는 "결국 AI 시대에도 보안의 핵심은 크게 달라지지 않았다. 공격 속도는 빨라졌지만 공격자는 여전히 사람이 신뢰하는 사람과 사이트, 소프트웨어, 접속키를 노린다. AI 기술 도입과 함께 이러한 신뢰 지점을 제대로 통제하고, 침해를 전제로 빠르게 복구할 수 있는 체계를 갖추는 것이 중요하다"고 강조했다.