중요기업ZDNet Korea·2026. 10. 01.
[AI는 지금] 앤트로픽 "中 GLM-5.3, 클로드급 해킹 능력…안전장치는 쉽게 뚫려"
앤트로픽이 중국 Z.ai의 오픈웨이트 AI 모델 'GLM-5.3'을 시험한 결과, 실제 해킹 공격을 수행하는 능력이 자사 최고 모델인 '클로드 미토스 프리뷰'에 거의 근접한 것으로 나타났습니다. 문제는 이 모델이 유해한 요청을 거부하도록 만든 안전장치가 매우 쉽게 뚫린다는 점입니다. 간단한 기법만으로 64~100% 확률로 우회가 가능했고, 모델 내부를 조작하는 '어블리터레이션(abliteration, 안전장치를 깎아내는 기법)'을 쓰면 단 몇천 달러, 2200개의 GPU(그래픽처리장치)를 1시간 돌리는 비용만으로 거부율을 90%대에서 2~12%까지 떨어뜨릴 수 있었습니다. GLM-5.3은 누구나 다운로드해 수정할 수 있는 오픈웨이트 방식이라, 강력한 해킹 능력을 가진 AI가 손쉽게 범죄에 악용될 수 있다는 우려가 커지고 있습니다. 다만 Z.ai 측은 자사 모델이 실제로는 오픈소스 프로젝트 389개를 방어하고 4249건의 취약점을 찾아내는 등 방어 목적으로도 널리 쓰이고 있다고 반박했습니다.
자세히 보기
