AI 사이버 탈옥 위험 5단계 평가안 공개, 12월 21일까지 의견 수렴

요약

프런티어 모델 포럼(FMF)이 인공지능(AI)의 사이버 탈옥 기법을 위험도에 따라 5단계로 분류하는 평가안 버전 1.0을 공개했습니다. 이 평가안은 재현 가능한 개별 우회 사례를 기준으로 삼고 있습니다. FMF는 개발사, 보안 연구자, 정책 당국이 탈옥 사례를 비교하고 대응 우선순위를 논의할 공통 기준을 마련하는 것이 목적이라고 밝혔습니다. 평가 항목은 역량 향상, 역량 범위, 배포 용이성, 발견 용이성 네 가지로 구성됩니다. 역량 향상은 기존 모델 대비 추가되는 사이버 능력을, 역량 범위는 다양한 작업에 적용 가능한 정도를 평가합니다. 배포 용이성은 실제 공격 활용까지 필요한 수고를, 발견 용이성은 해당 기법을 찾아내기 쉬운 정도를 측정합니다. 이 네 가지 항목을 결합하여 위험도는 '무시할 만함'부터 '치명적'까지 5단계로 분류됩니다. 특히 역량 향상 점수가 0이면 다른 항목과 무관하게 최저 위험도로 분류하는 규칙이 적용됩니다. FMF는 이 평가안이 즉시 적용 가능한 운영 지침은 아니며, 버전 1.0에 대한 의견을 2026년 12월 21일까지 수렴할 예정입니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다. 투자 판단의 근거로 삼기 전에 원문을 확인하세요.