국가AI전략위원회 보안특별위원회 이원태 위원장이 세미나에서 "한국은 AI 개발 속도를 늦추기보다 안전장치와 사고 대응 역량을 더 빠르게 키워야 한다"고 제안했습니다. 최근 AI 에이전트가 통제를 벗어나 스스로 공격 전략을 세우거나, 개발자도 모르게 일탈 행동을 하다가 뒤늦게 발견되는 등 실제 보안 사고들이 늘고 있다는 점이 배경입니다. 그는 기업의 자율적인 가이드라인에만 의존하지 말고, 사고 발생 시 네트워크 차단·권한 회수·롤백(이전 상태로 되돌리기) 등을 빠르게 실행할 수 있는 국가 차원의 통제 체계가 필요하다고 강조했습니다. 또한 한국이 미국과 중국 사이에서 단순 추격자가 아니라, 사고 분류·평가 기준 등 공통 기준을 설계하는 역할을 맡자는 제안도 나왔습니다.
국가AI전략위원회 보안특별위원회가 세미나를 열어 AI 개발 속도조절론에 대한 대응 전략을 논의했다.
AI 에이전트의 통제 실패 사례(자율적 공격전략 수립, 개발자 모르게 발생한 일탈)가 민간 기업을 넘어 정부·국제기구까지 위협할 수 있다는 우려가 제기됐다.
AI 모델의 자율성이 커지면서 통제·검증 체계가 AI 발전 속도를 따라가지 못하고 있다.
속도조절보다는 사고 분류·평가 기준·통보 절차·복원력 표준 등 검증 및 대응 체계를 강화하고, 사고 발생 시 네트워크 격리·권한 차단·롤백 등을 신속히 실행할 수 있는 국가 핵심 인프라 수준의 통제 체계를 갖춰야 한다는 제언이 나왔다.
기업의 자율 가이드라인에만 의존하지 말고 사고 대응 및 복원력 체계를 선제적으로 구축해야 하며, 한국은 글로벌 공통 기준 설계를 주도하는 전략을 취할 필요가 있다.
본문
가
가
기사의 본문 내용은 이 글자크기로 변경됩니다.
댓글
AI '속도조절론'이 대두되는 가운데, 한국은 AI 개발 속도를 늦추기보다 '통제·복원력·검증'의 시계를 더 빨리 돌려야 한다는 목소리가 나왔다. 한국이 글로벌 다자간 수용할 수 있는 공통 기준을 설계해 제시하자는 제안도 나왔다.
대통령직속 국가AI전략위원회 보안특별위원회 이원태 위원장은 1일 서울 중구 서울스퀘어 국가AI전략위에서 열린 'AI 개발 속도조절론 관련 세미나'에서 이 같이 제언했다.
▲이원태 보안특위 위원장이 발표하고 있다. [출처: 보안뉴스]
"韓, 미·중 추격자 넘어 '글로벌 공통분모 설계자'로"
이원태 위원장은 '글로벌 프런티어 AI 개발 속도조절론과 대한민국 AI의 대응전략'을 주제로 발제했다.
그는 "AI 산업 성장의 엑셀을 밟는 동시에, 안전 장치와 책임 역량을 함께 강화해야 한다"며 "한국이 미·중 기술 패권 싸움 속에서 추격자에 머무르지 않고 글로벌 AI 안전 표준의 설계자로 나서야 한다"고 말했다.
최근 AI 개발 속도를 조절해야 한다는 목소리가 커진 배경에는 AI 모델 통제 실패로 민간 기업을 넘어 정부와 UN 시스템까지 위협받는 상황이 벌어지는 등 일련의 실질적 보안 사고들이 자리 잡고 있다.
AI 에이전트가 규제 샌드박스를 탈출해 스스로 공격전략을 수립하고, 개발자조차 모르는 일탈이 발생한 후 나중에 발견되는 등 통제 실패의 시점과 발견 사이에 시간 간격이 생겼다. 이는 AI 발달의 치명적 위험으로 대두됐다.
이 위원장은 "AI 속도조절은 AI 개발을 전면 중단하자는 것이 아니다"라며 "AI의 자율적 성장 속도에 맞춰 검증과 확산 권한의 속도를 조절해 통제할 수 있는 시간과 시스템을 확보하자는 것"이라고 강조했다.
미국과 중국, 유럽이 각자 산업적 이해관계와 안보 논리에 따라 속도조절론을 두고 엇갈린 입장을 보이는 가운데, 한국이 나아갈 길에 대한 제언도 이어졌다.
이 위원장은 "대한민국이 모델의 산업적 활용 역량을 조기에 확보해야 하지만, 위험이 커지는 속도보다 검증·사고 대응·복원력 등 책임의 속도를 훨씬 더 빠르게 끌어올려야 한다"고 말했다.
이를 위해 한국이 취해야 할 전략으로 그는 기능적 공통분모 설계를 통한 글로벌 중재 플랫폼 역할을 제시했다.
이 위원장은 "사고 분류 체계, 평가 기준, 통보 절차, 복원력 표준 등 미·중 양국과 다자 연합이 모두 수용할 수 있는 실효적 기준인 '공통분모'를 설계하자"며 "표준이 다 완성된 뒤 뒤늦게 따르는 것이 아니라, 선제적으로 규범을 연결하는 중재 플랫폼 역할을 우리가 하자"고 제안했다.
▲'AI 개발 속도조절론 관련 세미나' 패널토의 현장 [출처: 보안뉴스]
"복원력을 국가 핵심 인프라로"
이 위원장은 고조되는 AI의 사이버 위협 관련 "기업의 자발적 가이드라인이나 취약점 보고에만 의존하기엔 위험성이 너무 커졌다"며 "사이버 위협 통제 체계와 복원력을 국가 핵심 인프라로 격상해야 한다"고 했다.
실제 사고가 발생하는 즉시 네트워크 격리, 권한 차단, 자격증명 회수, 롤백(Rollback), 증거 보존 등이 신속하게 이루어질 수 있는 '실행력 있는 통제 체계'가 필수적이라는 설명이다.
이 위원장은 "안전은 가속의 반대말이 아니라 가속을 지속 가능하게 만드는 장치"라며 "앞으로 사이버 보안은 취약점 탐지 속도뿐만 아니라 사고 발생 후 얼마나 빨리 복구하느냐에 달렸다"고 강조했다.
이어 "가장 빠른 AI도 중요하지만, 검증되고 회복력 있는 AI 생태계를 구축하는 것이 핵심 경쟁력"이라고 했다.
이날 세미나에선 최대선 숭실대AI안전성연구센터장, 김명주 AI안전연구소장, 김성훈 업스테이지 대표, 이한울 에임인텔리전스 부사장, 김동환 포티투마루 대표가 참여한 패널토의도 이어졌다. AI 발전의 위협과 통제에 대한 기술적·제도적 대응, 우리나라 AI 산업과 보안 역량 등을 논의했다.
하정우 국가AI전략위 상근 부위원장은 영상 인사말을 통해 "AI 개발 속도조절론 관련 다양한 우려와 담론이 나오지만, 대한민국의 AI 3강 도약을 위해 안전한 프론티어 AI 역량 확보는 선택이 아닌 필수"라고 말했다.
