TORUN SECURITY NEWS

보안 뉴스

취약점·랜섬웨어·침해사고를 매일 큐레이션해 한글 요약과 함께 전합니다.

2026년 10월 14일 수요일 기준

← 뉴스 홈으로

Help Net Security · 프롬프트 인젝션 뉴스

주요 뉴스

이 범위에서 지금 주목할 이슈

중요Help Net Security

AI가 찾아내는 취약점이 바로 공격자들이 노리는 취약점이다

구글 위협 인텔리전스 그룹(GTIG)의 새 연구에 따르면, AI 연구 에이전트가 찾아낸 보안 취약점을 공격자들이 매우 빠르게 악용하고 있습니다. 일례로 AI가 발견한 BeyondTrust 제품의 취약점(CVE-2026-1731)은 공개된 지 단 4일 만에 실제 공격에 악용됐습니다. 전체 취약점 공개 건수는 2026년 들어 두 배로 늘었지만 실제 악용되는 비율은 1% 미만으로 낮은 반면, 제로데이(사전 공개 없이 바로 악용되는 취약점) 공격은 꾸준히 늘고 있습니다. 특히 AI가 찾아낸 취약점은 원격코드실행(RCE, 공격자가 원거리에서 시스템을 마음대로 조작할 수 있는 취약점)으로 이어질 확률이 훨씬 높아 위험도가 더 큽니다. AI 에이전트 오케스트레이션 도구나 LiteLLM 같은 AI 추론 소프트웨어 자체도 새로운 공격 표적으로 떠오르고 있습니다.

2026. 10. 01.

Help Net Security

AI 에이전트가 무슨 말을 하는지 감시하는 것을 멈추고, 무슨 행동을 하는지 감시하라

전체 목록

기업

Help Net Security·2026. 09. 09.

AI-Infra-Guard: AI 시스템을 위한 오픈소스 보안 스캐너

텐센트의 주작랩(Zhuque Lab)이 AI 시스템 전용 오픈소스 보안 스캐너 'AI-Infra-Guard'를 공개했습니다. 이 도구는 Ollama, vLLM, ComfyUI 같은 AI 서비스를 식별하고 1,600개 이상의 알려진 취약점(CVE)을 검사하며, MCP 서버와 에이전트 기능의 위험도도 평가합니다. 그러나 도구 자체에 로그인 기능이 없어 인터넷에 직접 노출할 경우 스캐너가 보유한 모든 AI 모델의 API 키가 외부에 노출될 수 있다는 심각한 위험이 있습니다. 또한, 악의적인 MCP 서버를 스캔할 때 '간접 프롬프트 인젝션(모델이 읽는 콘텐츠 안에 몰래 명령을 숨기는 공격)' 위협이 존재하며, 이를 완전히 차단하는 방법은 아직 없습니다. 이 도구를 사용하는 보안 담당자는 스캔 결과를 맹신하지 말고, 반드시 역방향 프록시(nginx 등)와 방화벽 규칙으로 접근을 통제해야 합니다.

#AI #API 키 #GitHub

기업

Help Net Security·2026. 09. 03.

AI 에이전트의 시스템 프롬프트는 보안 제어 수단이 아닙니다

AI 에이전트의 시스템 프롬프트는 보안 장치가 아닙니다. 사용자가 교묘한 말로 지시를 우회하면 에이전트는 권한 밖의 데이터까지 꺼내줄 수 있기 때문입니다. AWS와 SANS 연구자들은 접근 제어를 모델이 아닌 인프라 계층에 두어야 한다고 권고합니다. 즉, 사용자의 권한을 기반으로 데이터를 모델에 전달하기 전에 미리 필터링해야 합니다. IBM 연구에 따르면 통제되지 않는 '섀도 AI(Shadow AI, 조직이 파악하지 못한 채 운영되는 AI)'가 높은 수준인 조직은 침해 사고 시 평균 67만 달러를 추가로 지출한 것으로 나타났습니다.

#AI #AI 거버넌스 #AI 에이전트