보안 뉴스

이 Windows 악성코드는 최대 4개의 AI 모델이 다음 행동을 투표로 결정하도록 설계됐다

Cisco Talos가 2026년 9월 22일, AI 모델 최대 4개의 '다수결 투표'로 다음 공격 행동을 결정하는 Windows 악성코드 **CLOSEDQUORUM**을 공개했습니다. 이 악성코드는 기존처럼 공격자 서버에서 명령을 받는 대신, DeepSeek·Qwen·Mistral·Google Gemini에 질의하고 가장 많은 표를 얻은 행동(자격증명 탈취·코드 인젝션·지속성 설치·이동)을 실행합니다. 실제로 실행되면 Windows 로그인 정보(LSASS 메모리 덤프), 크롬·엣지·파이어폭스 저장 비밀번호, MetaMask·Exodus 등 암호화폐 지갑 데이터를 훔쳐 Discord 채널로 전송합니다. 현재 공개된 버전은 API 키와 Discord 웹훅이 더미 값이라 실제로 동작하지 않지만, Talos는 이를 "AI가 공격 의사결정을 대신하는 첫 번째 공개 사례"로 평가합니다. 보안 담당자는 AI 서비스 트래픽과 LSASS 접근·인젝션·WMI 지속성 등이 동시에 나타나는 조합에 주목해야 합니다.

#AI #API 키 #TLS

Help Net Security·2026. 09. 23.

8만 개의 중계 서버, 중국 이용자의 미국 AI 지역 차단 우회 돕는다

중국 이용자들이 미국 주요 AI 서비스의 지역 차단을 우회하도록 돕는 중계 서버(릴레이 서버)가 8만 개 이상 확인됐습니다. 이 서버들은 여러 AI 계정을 묶어 자체 접속 키를 발급하는 방식으로 운영되며, AI 제공사 입장에서는 실제 사용자가 누구인지 파악하기 어렵습니다. 가장 우려되는 악용 사례는 '모델 증류(Model Distillation)'로, 고성능 AI에 대규모 질의를 보내 그 답변을 수집한 뒤 별도의 저비용 AI 모델을 학습시키는 방식으로 기술을 사실상 복제하는 행위입니다. 미국 CISA·NSA·FBI는 이달 초 중국 AI 기업들이 이러한 대규모 증류 캠페인을 벌이고 있다고 공동 경보를 발령한 바 있습니다. 보안 기업 Team Cymru는 확인된 중계 서버 IP 목록을 피해 AI 기업들과 공유하고 추가 탐지를 이어가고 있습니다.

#AI #API 키 #GitHub

침해된 MemTensor 패키지, npm과 PyPI 통해 sckit 자격증명 탈취 악성코드 배포

npm과 PyPI(파이썬 패키지 저장소)에 공개된 MemTensor의 정식 패키지 두 개가 공격자에게 침해당해, 악성 코드가 몰래 심어졌습니다. 해당 패키지를 설치한 개발자나 자동화 파이프라인(CI/CD)은 **sckit**이라는 자격증명 탈취 악성 프로그램에 감염될 수 있으며, AWS 키·GitHub 토큰·PyPI 토큰·SSH 키 등 민감한 비밀 정보가 외부 서버로 유출됩니다. 공격자는 MemTensor의 GitHub Actions 워크플로우를 악용해 배포 토큰을 가로채는 방식으로 공식 패키지에 악성 버전을 등록했습니다. 감염된 패키지는 자체 증식 기능도 갖춰 다른 npm·PyPI 패키지나 GitHub Actions 워크플로우로 퍼질 수 있습니다. 해당 패키지를 사용 중이라면 즉시 안전한 버전으로 고정하고, 노출된 모든 시크릿(비밀 키·토큰)을 교체해야 합니다.

#AI #API 키 #AWS

Help Net Security·2026. 09. 23.

Rabbit의 새 OS, 클라우드에서 동작하며 사용자 PC를 빌려 작업을 처리한다

Rabbit이 출시한 OS3는 클라우드에서 동작하면서 사용자의 PC·Mac·Linux 등 최대 5대의 기기를 원격으로 제어하는 에이전트형 운영체제입니다. 사용자가 채팅창에 목표를 입력하면 OS3가 파일을 열고, 웹을 탐색하고, 코드를 실행하는 등 작업을 대신 처리하는데, 이 과정에서 처리 중인 파일 내용이 Rabbit 서버와 사용자가 선택한 AI 모델 제공사 서버 두 곳을 거칩니다. 특히 임의의 URL에서 '스킬(skill)'을 설치할 수 있어, 검증 절차 없이 PC를 제어하는 에이전트에 외부 기능이 추가될 수 있다는 보안 우려가 있습니다. 민감한 계약서·내부 문서 등을 다루는 기업 환경에서 도입 시 데이터 유출 경로와 스킬 공급망 위험을 사전에 검토해야 합니다.

#AI #API 키 #Windows

BleepingComputer·2026. 09. 23.

AI로 공격 결정을 내리는 새로운 Windows 악성코드 ClosedQuorum 등장

ClosedQuorum는 Google Gemini, DeepSeek, Qwen, Mistral 등 여러 AI 모델을 동시에 활용해 공격 단계별 행동을 스스로 결정하는 새로운 Windows 악성코드입니다. 사람 운영자의 명령 없이도 감염 시스템에서 자격 증명 탈취·셸코드 주입·지속성 확보 등을 자율적으로 수행하며, 훔친 정보는 Discord 웹훅으로 자동 전송됩니다. Cisco Talos 연구진은 이를 AI 모델에 전술적 명령·제어(C2) 결정을 위임한 최초의 공개 문서화 Windows 임플란트로 평가했습니다. 현재 실제 배포 확인은 없고 테스트·실험 단계로 추정되지만, 공격 체인 전체를 자동화하는 새로운 구조적 방향을 보여준다는 점에서 보안 담당자의 주의가 요구됩니다.

#AI #API 키 #Windows

악성 npm 패키지, Twilio 버그 바운티 프로브로 위장해 자격증명 탈취 시도

보안 연구원들이 Twilio API를 사용하는 개발자를 노린 악성 npm(자바스크립트 패키지 관리자) 패키지 "tw-pkgprobe-7731"을 발견했습니다. 이 패키지는 Twilio의 공식 버그 바운티(보안 취약점 신고 포상제) 프로그램인 척 위장해 개발자 환경에 설치되도록 유도했습니다. 실행되면 환경 변수, 시스템 정보, Twilio 계정 인증 정보(ACCOUNT_SID, AUTH_TOKEN)를 외부 서버로 몰래 전송할 수 있습니다. 인증 정보가 유출되면 공격자가 피해자의 Twilio 계정으로 과금을 발생시키거나 메시지·통화를 무단으로 발송할 수 있습니다. 총 11개 버전이 약 45분 만에 연속 배포됐으며, 해당 npm 계정은 현재 삭제된 상태입니다.

#AI #API 키 #AWS

Bifrost AI 게이트웨이 치명적 결함, 공격자가 인증 없이 명령 실행 가능

오픈소스 AI 게이트웨이(여러 AI 서비스에 요청을 중계해 주는 소프트웨어)인 Bifrost에서 심각한 보안 취약점(CVE-2026-90898, CVSS 9.8)이 발견되었습니다. 공격자는 아이디·비밀번호 같은 인증 절차 없이 HTTP 요청 하나만으로 게이트웨이 서버에서 원하는 명령을 실행할 수 있으며, 이 과정에서 연결된 모든 AI 서비스(OpenAI, Anthropic 등 LLM 제공업체)의 API 키를 통째로 탈취할 수 있습니다. 기본 설정에서 인증이 꺼져 있고, 공식 Docker 이미지는 외부에서 접근 가능한 상태로 동작해 실제 피해 위험이 높습니다. 수정 버전(transports/v2.1.0)이 이미 출시되었으므로 즉시 업그레이드해야 하며, 인증 없이 외부에 노출된 이력이 있다면 모든 API 키를 즉시 교체해야 합니다.

#AI #API 키 #CVSS

Help Net Security·2026. 09. 22.

연구자들, AI를 활용해 스스로 다음 행동을 선택하는 악성코드 발견

Cisco Talos 연구팀이 AI(인공지능)를 이용해 스스로 다음 행동을 결정하는 새로운 형태의 악성코드 'CLOSEDQUORUM'을 발견했습니다. 이 악성코드는 DeepSeek, Qwen, Mistral, Gemini 등 4개의 상용 AI 모델에 투표를 시켜 데이터 탈취·코드 주입·지속 감염 중 어떤 행동을 할지 결정하며, 기존처럼 공격자가 직접 명령을 내리는 서버(C2)가 필요 없습니다. Windows 사용자의 계정 정보와 암호화폐 지갑을 노리며, 공격자가 직접 개입하지 않아도 AI가 자율적으로 작전을 수행하는 구조입니다. 또한 AI 기반 보안 분석 도구를 속이기 위한 텍스트를 삽입하는 회피 기법이 여러 악성코드 집단 사이에서 빠르게 확산 중임도 확인됐습니다. 연구팀은 이에 대응하기 위해 AI 연동 악성코드를 탐지·분류하는 오픈소스 도구 CAIRN을 공개했습니다.

#AI #API 키 #LLM

중요금융

전자신문 보안·2026. 09. 21.

[창간기획] '공격하는 AI vs 방어하는 AI' 금융권, 인공지능 대응 총력전

금융권에서 AI를 이용한 사이버 공격이 실제로 벌어지고 있습니다. 피싱 문자 대량 생성, 딥페이크 사칭, 문서 위·변조, 심지어 AI가 스스로 취약점을 찾고 공격코드를 만드는 자동화 해킹 도구('CyberStrike AI')까지 등장했습니다. 앤트로픽은 중국계 국가 배후 해킹조직이 AI 도구를 이용해 약 30개 금융기관 등 글로벌 조직을 공격했으며, 공격 과정의 80~90%를 AI가 수행했다고 밝혔습니다. 이에 맞서 국내 은행·보험·증권·카드·핀테크·가상자산 업권은 AI 기반 이상거래 탐지(FDS) 고도화, 행동 분석, 보험사기 예측 시스템 등 방어용 AI를 잇따라 도입하고 있습니다. 금융당국도 망분리 규제를 완화해 금융사가 고성능 AI를 보안 목적으로 활용할 수 있도록 길을 열고 있습니다.

#AI #AI 보안 #AI 에이전트

BleepingComputer·2026. 09. 22.

BigCommerce, Ribon 앱과 연관된 데이터 침해로 판매자들에게 경고

이커머스 플랫폼 BigCommerce에 연동된 제3자 앱 Ribon의 인증 키가 탈취되어, 공격자가 여러 온라인 쇼핑몰에 악성 스크립트를 심고 고객 개인정보에 접근하는 사건이 발생했습니다. 피해는 2026년 9월 13일부터 17일 사이에 발생했으며, 유출된 정보에는 고객 성명·이메일·전화번호·배송 주소가 포함됩니다. BigCommerce 플랫폼 자체가 뚫린 것은 아니며, 결제 카드 정보와 비밀번호는 별도 저장되어 피해를 면했습니다. BigCommerce는 이상을 확인한 즉시 해당 앱을 제거하고 피해 판매자들에게 통보했으며, 수백 개의 쇼핑몰이 영향을 받았을 가능성도 제기되고 있습니다. 이번 사건은 제3자 앱의 API 인증 키 관리가 얼마나 중요한지를 보여주는 공급망(supply chain) 침해 사례입니다.

#AI #API 키 #SaaS