Simon의 AI 시대에 살아남는 법

토큰예산

토큰예산 총 1개의 포스트
quantum2 시리즈 2편 — AI 폴백 서버와 토큰 예산 추적기
개발 일지

AI 폴백 서버와 직접 만든 하루 토큰 예산 추적기

무료 AI API 하나만 물려서 쓰면 반드시 하루 어딘가에서 한도에 걸린다. 이걸 해결하려고 만든 게 3단 폴백 구조의 작은 FastAPI 서버였다. 순서는 Cloudflare Workers AI → Groq → Gemini다. 처음엔 Gemini를 1순위로 뒀는데, 자동응답 기능이 Gemini의 하루 500회 한도를 낮 시간에 다 써버리면 정작 사람이 직접 명령어를 칠 때 쓸 한도가 안 남는 문제가 있었다. 그래서 “사실상 무제한"이라고 생각했던 Cloudflare Workers AI를 앞으로 보내고, 응답 형식이 엄격하게 필요한 자동응답 호출만 별도로 Groq부터 시작하도록 순서를 분기했다.

2026.09.23 08:02 조회수: – 댓글: –