뉴스 목록
Help Net Security2026. 09. 10.

OpenSSL 새 알파 빌드, 포스트 퀀텀 암호화 속도 향상

한 줄 요약

OpenSSL 프로젝트가 OpenSSL 4.1.0의 첫 번째 알파(테스트) 버전을 공개했습니다. 가장 큰 변화는 동영상 통화·VPN·IoT 기기처럼 불안정한 네트워크에서 쓰이는 UDP 기반 암호화 프로토콜 DTLS의 최신 버전(1.3) 지원입니다. 아울러 미래의 양자 컴퓨터 공격에 대비한 '포스트 퀀텀(양자 내성)' 암호화 알고리즘의 속도도 여러 CPU 아키텍처에서 크게 개선되었습니다. 일부 설정 변경이 기존 시스템과 호환되지 않을 수 있어, 운영 환경에 DTLS를 사용하거나 양자 내성 암호화를 테스트 중인 조직은 호환성을 미리 확인해야 합니다. 이 버전은 아직 알파 단계로, 정식 배포까지 수개월이 더 걸릴 예정입니다.

사건

OpenSSL 프로젝트가 OpenSSL 4.1.0 첫 알파 버전을 공개했다. DTLS 1.3 지원, 포스트 퀀텀 알고리즘(ML-DSA, ML-KEM) 성능 최적화, AES-CBC 복호화 가속 등이 포함된다.

영향

VPN·IoT·화상통화 등 UDP 기반 서비스의 암호화 보안이 TLS 1.3 수준으로 향상된다. 포스트 퀀텀 암호화 전환 비용이 줄어 실제 서비스 도입이 용이해진다.

원인

DTLS 구현이 TLS 1.3 대비 보안 기능이 뒤처져 있었고, 포스트 퀀텀 알고리즘의 연산 비용이 실서비스 적용의 장벽이 되고 있었다.

대응

알파 단계이므로 즉각 업그레이드보다 테스트 환경에서 호환성 검증이 우선이다. tsget 유틸리티 사용자는 Net::Curl::Easy Perl 모듈 설치가 필요하며, no-ecdsa·no-ecdh 빌드 옵션 사용자는 no-ec로 전환해야 한다.

실무 포인트

포스트 퀀텀 암호화 전환을 준비 중인 조직이라면 이번 알파를 테스트 환경에서 미리 검토할 좋은 시점이다. Windows-on-Itanium 및 Windows CE 빌드 지원이 완전히 제거됐으므로 레거시 환경 사용 여부도 확인이 필요하다.

본문

OpenSSL 프로젝트가 OpenSSL 4.1.0의 첫 번째 알파 버전을 공개했다. 이 버전은 불안정한 연결 환경에서의 암호화 통신과 더 빠른 포스트 퀀텀(양자 내성) 암호화를 위해 설계되었으며, 개발자들이 조기에 살펴볼 수 있도록 공개된 테스트 빌드다. 정식 출시까지는 아직 수개월이 남아 있다.

이번 버전의 핵심 추가 사항은 RFC 9147에 정의된 Datagram Transport Layer Security 프로토콜의 최신 개정판인 DTLS 1.3 지원이다. DTLS는 TCP가 아닌 UDP로 전송되는 트래픽을 보호하는 프로토콜로, 패킷이 늦게 도착하거나 순서가 뒤바뀔 수 있는 화상통화·VPN·IoT 기기 등에서 사용된다. 버전 1.3은 이러한 트래픽의 보안 수준을 TLS 1.3과 동일하게 끌어올린다. 기존 DTLS는 전방향 비밀성(forward secrecy)이나 핸드셰이크 오버헤드 감소 같은 기능에서 TCP 기반 TLS에 뒤처져 있었는데, 이 격차가 해소된다.

OpenSSL 4.1.0 alpha1은 미래의 양자 컴퓨터 공격에 대비하도록 설계된 포스트 퀀텀 알고리즘의 속도도 높였다. ppc64le 아키텍처를 위한 ML-DSA 및 ML-KEM 연산 최적화, s390x 및 x86_64를 위한 ML-DSA 최적화, 그리고 ML-DSA가 의존하는 SHAKE 해싱을 가속하는 AVX-512 명령어가 추가됐다. 별도로, AVX-512와 VAES 최적화를 통해 x86_64 칩에서의 AES-CBC 복호화 속도도 개선됐다. 알고리즘 자체가 바뀐 것은 아니다. 알고리즘을 실행하는 비용이 줄어드는 것이며, 이는 조직들이 실제 양자 위협이 현실화되기 전에 포스트 퀀텀 키 교환 및 서명 방식으로 프로덕션 시스템을 이전하기 시작하는 상황에서 중요한 의미를 갖는다.

일부 변경 사항은 기존 설정을 깨뜨릴 수 있다. tsget 타임스탬프 유틸리티가 더 이상 유지보수되지 않는 WWW::Curl::Easy 대신 Net::Curl::Easy Perl 모듈에 의존하도록 바뀌었으므로, tsget을 사용하는 사람은 업그레이드 전에 새 의존성을 설치해야 한다. 빌드 시스템에서는 Windows-on-Itanium 및 Windows CE 지원이 완전히 제거됐다. 또한 Configure 스크립트에서 no-ecdsa 및 no-ecdh 옵션이 삭제됐는데, 이 옵션들이 실제로는 해당 구현을 비활성화하지 못했기 때문이다. 타원 곡선 지원을 끄려면 이제 no-ec를 사용해야 한다.

이번 릴리스에는 소소한 추가 사항들도 포함돼 있다: RFC 8701의 GREASE 지원(TLS 클라이언트와 서버가 인식할 수 없는 확장 값을 만났을 때 오류가 발생하지 않도록 방지); SSL 리스너 API의 DTLS 모드; VPN 협상에 사용되는 IKEv2 키 파생 함수 지원; 그리고 일부 러시아제 시스템에 사용되는 Elbrus2000 프로세서 아키텍처에 대한 초기 지원.

OpenSSL은 최종 버전 배포 전에 일련의 알파 및 베타 빌드를 거치는 것이 일반적이므로 기능 목록은 아직 변경될 수 있다. 프로덕션 환경에서 DTLS를 운용하거나 포스트 퀀텀 배포를 이미 테스트 중인 팀이라면 지금부터 테스트를 시작할 가장 분명한 이유가 있다.

출처
Help Net Security · helpnetsecurity.com
원문 보기

관련 투런 솔루션

이 뉴스의 취약점·위협, 투런 솔루션으로 대응하세요.

분야별 뉴스

관심 분야의 보안 이슈를 모아 보세요.

TORUN SECURITY

투런이 제공하는 보안 솔루션

공격 표면 관리부터 엔드포인트·내부정보 보호까지, 기업 환경에 맞는 보안 솔루션을 투런이 함께 설계합니다.