AI 에이전트 작업 비용, 캐시 읽기 비용이 주요 변수

요약

Arena.ai가 분석한 바에 따르면, AI 에이전트가 작업을 수행할 때 이전에 처리한 맥락(캐시 읽기)을 다시 읽는 과정에서 상당한 비용이 발생합니다. 분석 결과, 상위 10개 에이전트의 경우 출력 토큰 1개를 생성하기 위해 약 93토큰의 맥락을 재읽는 것으로 나타났습니다. Arena.ai는 이 캐시 읽기 비용에 일반 입력 요금을 적용할 경우, 전체 작업 비용이 통상적으로 3.6배가 될 수 있다고 추산했습니다. 이는 실제 청구액이 아닌, 연구소 공개 가격표를 기반으로 한 추정치입니다. AI 모델의 비용 구조를 정확히 파악하려면 새 입력, 캐시 읽기, 캐시 쓰기, 출력에 대한 개별 요율을 모두 고려해야 합니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다. 투자 판단의 근거로 삼기 전에 원문을 확인하세요.