기타ZDNet Korea·2026. 09. 21.
AI 안전성, 지정학적 맥락보다 '언어'에 더 큰 영향…한국어 질문 시 유해성 낮아
한국전자통신연구원(ETRI) 산하 인공지능안전연구소와 스케일 AI가 공동으로 AI 모델의 다국어 안전성을 평가하는 벤치마크 'ROK-포트리스'를 개발했습니다. 연구 결과, AI에게 위험한 내용을 요청할 때 영어보다 한국어로 물으면 유해한 응답이 나올 가능성이 낮았으며, 이 언어 효과는 미국·한국 등 지정학적 맥락을 바꾸는 것보다 2.5배 더 크게 작용했습니다. 다만 역할극·가상 배경 같은 '포장'을 제거하고 직접 질문하면 한국어의 이 안전 이점이 대부분 사라졌고, 특히 오픈소스 모델은 오히려 한국어로 유해 요청에 응할 가능성이 높아졌습니다. 연구진은 영어 프롬프트를 단순 번역하는 방식만으로는 실제 서비스 환경의 AI 안전성을 제대로 평가할 수 없다고 결론지으며, AI 레드팀(취약점을 찾아 악용 가능성을 검증하는 활동)을 지속할 계획입니다.
자세히 보기