QJC · BLOG · TAG

#프롬프트-캐시

2 posts

2026.08.15[TUTORIAL]

NVIDIA NeMo Switchyard 라우팅, 2026 기준 도입 전 확인할 손익분기 조건 4개

NVIDIA NeMo Switchyard는 앱 코드를 그대로 두고 LLM 요청을 모델별로 나눠 보내는 오픈소스 라우터입니다. 비용 74퍼센트 절감과 정확도 6포인트 하락, judge 비용 21.2퍼센트, 손익분기 공식과 pre-alpha 한계까지 도입 전 확인할 기준을 정리했어요.

68 views#코딩 에이전트#프롬프트 캐시

2026.04.16[TREND]

Claude Code 캐시 TTL 변경과 구독자 쿼터 대란 — 무엇이 바뀌었나

Anthropic이 Claude Code의 캐시 TTL을 1시간에서 5분으로 변경하면서 발생한 쿼터 문제의 기술적 원인과 사용자 영향을 분석합니다.

4 views#쿼터#Claude Code 한도