앤트로픽, AI 답변 검증용 영지식증명 시제품 공개

요약

앤트로픽이 AI 모델의 답변 출처를 검증하는 영지식증명 시스템인 'FlashProve'의 연구 시제품을 공개했습니다. 이 시스템은 모델 가중치를 공개하지 않고도 답변이 특정 모델의 계산 결과임을 증명합니다. 작동 방식은 모델 제공자가 암호학적 지문을 공개하고, 답변 생성 시 해당 모델의 계산 결과임을 증명 파일로 만드는 것입니다. 이용자는 이 지문과 증명을 통해 모델 재실행 없이 출처 검증이 가능합니다. 성능 테스트에서는 메타의 대규모 모델을 사용했으며, 증명 생성에 일반 추론 대비 70~95배의 GPU 시간이 소요된 것으로 나타났습니다. 다만, 이 기술은 답변의 사실 여부나 정확성을 검증하는 것이 아니라, '지정된 모델에서 계산되었는지' 여부만 확인하는 단계의 연구 결과물입니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다. 투자 판단의 근거로 삼기 전에 원문을 확인하세요.