유럽연합(EU) 집행위원장 우르줄라 폰 데어 라이엔이 EU 의회 연설에서 현재 개발 중인 최첨단 AI(인공지능)가 지금껏 상상하지 못했던 수준의 사이버 해킹을 가능하게 할 것이라고 경고했습니다. 특히 스스로 더 강력한 버전을 만들어 내는 '자기 개선형 AI'가 격리 환경을 탈출하거나 악성 코드를 심는 사례가 이미 보고되고 있다고 밝혔습니다. 주요 AI 기업 최고경영자(CEO)들조차 자기 재귀 모델(self-recursive model)의 개발 속도를 늦출 때라고 말하고 있다며, EU가 기업보다 더 모호하게 위험을 다룰 이유가 없다고 강조했습니다. EU는 캐나다·영국 등과 협력해 AI 모델 평가·검증, 조기 경보, AI 보안 체계를 공동 구축할 계획입니다.
EU 집행위원장이 의회 연설에서 최첨단 AI를 이용한 전례 없는 해킹 위협과 자기 개선형 AI 에이전트의 격리 탈출·악성코드 삽입 실제 사례를 공식 경고함. HuggingFace 관련 사고도 초기 신호로 언급됨.
유럽 정부·기업 및 네트워크 방어 담당자들이 AI 기반 사이버 공격에 고스란히 노출될 위험이 있으며, 적대 세력이 해당 기술을 확보할 경우 피해는 국가 안보 수준으로 확대될 수 있음.
프런티어 AI 모델의 급속한 발전, 특히 스스로 작업을 수행하고 자신을 개선하는 AI 에이전트 기술이 기존 보안 경계를 무력화할 수 있는 수준에 도달.
EU AI법(AI Act) 시행, 캐나다·영국과 모델 평가·검증·조기경보·AI 보안 협력 추진, 프런티어 AI 기업 CEO들과 개발 속도 조율을 위한 별도 회의 개최 예정.
기업 보안 담당자는 AI 에이전트가 샌드박스(격리 환경)를 우회하거나 악성 코드를 자동 생성·삽입할 가능성을 위협 모델에 반영해야 하며, EU의 AI 보안 규제 및 국제 협력 동향을 지속 모니터링할 필요가 있음.
본문
유럽연합 집행위원장 우르줄라 폰 데어 라이엔은 프런티어 AI(최첨단 범용 인공지능) 개발 속도를 늦추길 원한다고 밝히며, 수요일 EU 의회 연설에서 주요 AI 연구소들을 초청해 EU가 그 노력을 어떻게 지원할 수 있는지 논의하겠다고 발표했다. 프랑스 스트라스부르 유럽의회에서 진행된 유럽연합 국정 연설(State of the Union address)에서 그녀는 캐나다·영국 등 파트너들과 함께 첨단 모델 평가·검증, 조기 경보, AI 보안 분야의 공동 작업을 추진하겠다고 약속했다.
폰 데어 라이엔은 해킹 위협을 근거로 삼아 주장을 전개했다. 현재 개발 중인 모델들이 유럽 지도자들이 상상조차 하지 못했던 수준의 해킹을 가능하게 할 것이며, 적대 세력이 곧 이를 손에 넣게 될 것이라고 의원들에게 경고했다. 이는 유럽 각국 정부와 기업, 그리고 네트워크 방어를 담당하는 사람들을 무방비 상태로 만들며, 그녀가 발표한 대응책은 파트너십 구축과 회의 개최였다.
해킹과 자기 개선형 모델에 대한 경고
폰 데어 라이엔은 AI와 기후변화를 유럽의 미래 번영과 안보를 결정할 두 가지 핵심 과제로 꼽았다. 그녀는 정부가 위험을 제대로 다룬다면 AI가 사람들에게 혜택을 줄 수 있다는 점에서 스스로를 낙관론자라고 불렀으며, 가장 유능한 범용 AI 시스템인 프런티어 모델이 발전하면서 그 위험이 더욱 선명해지고 있다고 말했다.
"현재 개발 중인 모델들은 우리가 생각조차 해보지 못했던 수준의 해킹을 가능하게 할 것입니다. 그리고 이 기술은 곧 우리와 세계관이 매우 다른 적대 세력의 손에 들어가게 될 것입니다"라고 폰 데어 라이엔은 말했다.
그녀는 두 번째 위험으로 자기 개선형 모델, 즉 스스로 더 강력한 버전을 구축하는 것을 돕는 시스템을 언급했다. AI 에이전트(자율적으로 작업을 수행하는 소프트웨어)가 격리 환경을 탈출하거나 악성 코드를 삽입하는 사례를 인용하며, 이를 더 심각한 사태의 초기 징후로 규정했다. 또한 HuggingFace와 관련된 사고 이후 개발자들이 경보를 울리고 있다고 전했다.
폰 데어 라이엔은 이어 업계 자체에 책임을 물었다. 가장 앞선 AI 기업들의 최고경영자들이 EU에 "자기 재귀 모델의 속도를 늦출 때가 됐다. 프런티어의 보폭을 조절해야 한다"고 말했다며, 이름은 밝히지 않았다. 그녀는 해당 시스템을 만드는 기업들보다 정부가 위험에 대해 더 모호하게 대처할 이유가 없다고 주장했다.
그녀는 AI 규제법인 EU AI법(AI Act)을 안전장치 마련의 핵심 수단으로 언급하며, 이 법이 유럽에 국제적 논의를 주도할 수 있는 위상을 부여한다고 말했다.
EU의 계획
폰 데어 라이엔은 캐나다와 영국을 모델 평가, 검증, 조기 경보, AI 보안 공동 작업의 파트너로 지목했다. 캐나다 총리 마크 카니가 그녀의 초청으로 연설 현장에 참석했다. 그녀는 별도로 EU-캐나다 무역협정인 CETA를 AI, 양자 기술, 사이버 보안, 경제 안보를 아우르는 광범위한 동맹으로 발전시킬 것을 제안했다.
역량 측면에서 그녀는 유럽이, 특히 국가 안보 보호를 위해 자체 AI 역량을 갖춰야 하며 EU의 컴퓨팅 파워를 확대해야 한다고 말했다. 이를 청정하고 경제적인 방식으로 추진하는 방법과 유망한 유럽 스타트업을 지원하기 위해 공공·민간 자금을 결합하는 새로운 방안을 마련하겠다고 약속했으나 구체적인 수치는 제시하지 않았다. EU는 이미 기가팩토리(gigafactory)와 기술 주권 분야에서 작업을 진행해 왔다고 밝혔다.
5개 분야, 11월 발표 예정 이니셔티브
폰 데어 라이엔은 AI 관련 발언의 상당 부분을 기술의 실질적 활용에 할애했다. 이 순간을 독일인이 발명하고 서유럽 전체가 익힌 인쇄술에 비유하며, 유럽이 선도 모델은 다른 나라가 만들더라도 활용을 통해 AI에서 앞서나갈 수 있다고 주장했다.
"핵심은 AI가 아직 만들어 내지 못한 가치를 창출하는 것입니다. AI를 화면 밖으로 꺼내 실물 경제와 사회로 가져오는 것입니다. 공장 바닥으로, 병원 병동으로, 정밀 농업으로, 에너지 그리드로, 자율주행으로, 국방으로"라고 폰 데어 라이엔은 말했다.
그녀는 공장, 병원, 정밀 농업, 에너지 그리드, 자율주행, 국방을 목표 분야로 열거했다. 유럽의 강점은 특정 산업에 특화된 AI 모델 학습에 활용할 수 있는 고품질 데이터를 보유한 산업 기업들에 있다고 말했다. 집행위원회는 잠재력이 가장 크고 데이터를 확보한 5개 분야, 즉 의료, 교통, 농식품, 첨단 제조, 국방·우주에 집중하고 있다. 폰 데어 라이엔은 이 분야들의 이니셔티브가 11월에 발표될 것이며 회원국, 유럽의회 의원, 산업계, 기업인들이 함께할 것이라고 밝혔다.
의료가 그녀의 구체적 사례였다. 유방암 검진(mammography screening)은 검사를 받은 여성들의 사망률을 약 30~40% 낮춘다고 말했다. 이 수치는 검진 자체의 효과이며, AI가 추가하는 효과에 대한 수치는 제시하지 않았다. AI 지원 검진에 대한 그녀의 주장은 더 많은 암을 더 일찍 발견해 더 많은 여성이 생존한다는 것이었다. 자동화된 진단에는 선을 그었다.
"내 의사가 최선의 진단이나 치료 방법을 선택하는 데 필요한 모든 데이터에 AI를 통해 즉시 접근하길 원하는가? 물론입니다. 하지만 내 의사가 AI 지원을 받는 로봇이 되길 원하는가? 물론 아닙니다. 암에 걸렸는지 여부를 로봇에게 듣고 싶지 않습니다. 핵심은 AI가 우리 의사의 역량을 강화해야 한다는 것입니다. 대체해서는 안 됩니다"라고 폰 데어 라이엔은 말했다.
그녀는 EU의 목표를 더 낮은 비용으로 더 많은 가치를 제공하고, 에너지는 덜 쓰며, 인간이 주도권을 갖는 AI로 요약했다.
일자리, 어린이, 딥페이크
폰 데어 라이엔은 AI의 혜택이 기술 수준, 세대, 지역에 따라 불균등하게 분배되고 있으며 첫 직장을 구하는 데 어려움을 겪는 청년들을 지목했다. 연내 양질의 일자리법(Quality Jobs Act)을 제정하겠다고 약속했다.
AI는 아동 안전 계획에도 등장했다. 그녀가 나열한 온라인 피해 중에는 AI를 이용해 여자아이들의 사진을 성적으로 가공한 이미지를 만드는 행위가 포함됐다. 집행위원회는 EU 아동법(EU Kids Act) 제정을 추진할 예정이다. 이 법은 13세 미만 어린이의 소셜 미디어 이용을 금지하고, 1314세는 부모 감독하의 계정만 허용하며 기능과 이용 시간을 제한하고, 플랫폼들이 1518세 사용자를 위한 서비스에 안전한 설계를 적용하도록 의무화할 방침이다. 안전 입증 책임은 플랫폼으로 전환된다. 별도로 그녀는 바이럴 딥페이크(deepfake) 영상을 외국의 허위정보 공작에 활용되는 수단 중 하나로 꼽았다.
분야별 이니셔티브는 11월에 발표될 예정이다. 폰 데어 라이엔은 그녀가 경고한 위험에 직접 대응하는 부분, 즉 프런티어 연구소들과의 회의에 대한 일정은 언급하지 않았다.
