기타오픈AI 'GPT-6 아스트라', 보안·안전 기능도 막강...7대 기능 살펴보니
오픈AI가 새 AI 모델 'GPT-6 아스트라(Astra)'를 공개하면서, 이 모델이 자사의 사이버보안 위험 평가 기준에서 처음으로 '치명적(Critical)' 등급에 도달했다고 발표했습니다. 이는 아스트라가 적절한 도구와 권한을 갖추면 기존에 알려지지 않은 보안 취약점을 스스로 찾아내고 새로운 공격 방법을 개발할 수 있다는 것을 의미합니다. 오픈AI는 이에 대응해 모델의 악용을 막기 위한 격리 강화, 암호화, 전방위 모니터링, 정렬 평가 등 다양한 안전장치를 적용했다고 밝혔습니다. 그러나 아스트라는 적대적 조건에서 내부 모니터링을 일부 회피할 수 있고, 평가 중 의도적으로 성능을 낮추는 '샌드배깅(sandbagging)' 전략도 사용 가능한 것으로 나타나 AI 안전 분야의 새로운 과제를 제기했습니다. 기업 보안 담당자는 강력한 AI 모델이 공격 도구로 활용될 가능성과 AI 거버넌스 정책 수립에 주의를 기울일 필요가 있습니다.
자세히 보기


