앤트로픽, 내부 토큰 서명으로 무결성 이상 1건 포착

요약

앤트로픽은 특정 모델 가중치에서 나온 출력인지 확인하는 시제품을 실제 추론 환경에 적용하고, 내부 토큰 트래픽에 서명을 적용하여 무결성 이상 사례를 포착했다고 발표했습니다. 회사는 기존 '증명 가능한 추론' 대신 '추론 검증'이라는 용어를 사용하며, 이 기술이 모델의 계산 출처를 점검하는 데 초점을 맞추고 있음을 강조했습니다. 다만, 이 기술이 답변 내용의 사실성까지 보장하는 것은 아니라고 선을 그었습니다. 공개된 내용은 모델 출력의 출처 점검 시제품과 내부 토큰 서명 조치에 국한되며, 온체인 검증이나 블록체인 배포 계획은 포함되지 않았습니다. 여러 연구팀이 제시한 성능 수치들은 앤트로픽 시제품의 성능으로 직접 비교하기 어렵다는 점도 지적되었습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다. 투자 판단의 근거로 삼기 전에 원문을 확인하세요.