비탈릭 부테린, AI 능력 제한은 용도 기반이 낫다고 제언

요약

비탈릭 부테린은 인공지능(AI)의 위험한 능력 제한에 있어 이용자 신원 확인보다 사용 목적을 기준으로 삼는 것이 더 낫다고 주장했습니다. 그는 사이버 공격 능력을 의도적으로 제외한 학습 자료를 수용할 수 있다는 입장을 밝혔습니다. 한편, 키미 개발사 문샷AI는 사이버보안 관련 자료를 제거한 모델을 공개하며, 자체 시험에서 제한을 적용하지 않은 모델이 취약점 발견·악용 과제의 90.5%를 해결했다고 언급했습니다. 부테린은 강력한 AI 능력이 널리 쓰이기 전 사회적 시스템 보강이 필요하며, 형식 검증 같은 수학적 검증 적용을 제안했습니다. 그는 초기 대응 실패 시 모델 사용 제한이나 KYC(고객신원확인) 의무화가 가속화될 수 있다는 우려도 표명했습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다. 투자 판단의 근거로 삼기 전에 원문을 확인하세요.