기업Microsoft, AI 모델 대상 보안·안전 규칙 수립
Microsoft AI가 AI 모델의 개발·배포 기준을 정한 '인본주의 AI 행동강령(Humanist AI Code of Conduct)' 초안을 공개하고 6주간 공개 의견 수렴을 시작했습니다. 강령은 공격적 사이버 작전(offensive cyberoperations), 화학·생물·방사성 무기 지원, 악성 딥페이크 등을 절대 금지 행위로 명시합니다. 반면 취약점 발견, 악성코드 분석, 개념 증명(PoC) 익스플로잇 개발·테스트 등 합법적인 방어적 사이버보안 작업은 허용됩니다. AI 모델은 반드시 인간의 통제 아래 놓여야 하며, 독자적으로 목표를 설정하거나 권한을 확장하는 행위는 금지됩니다. 이 강령은 의견 수렴 후 수정본을 발간할 예정이며, 2027년부터 모델 개발에 적용될 계획입니다.
자세히 보기









