`datasette-llm-limits` `0.1a0`, 사용자별 LLM 지출 상한 추가
Datasette에 붙인 LLM 기능에 사용자별·전역 예산 상한을 걸 수 있게 됐다. 프롬프트를 외부에 열어둔 서비스라면 바로 유용하고, 아니어도 비용 통제 방식은 복제할 가치가 충분하다.
datasette-llm과datasette-llm-accountant위에 붙는 구조라서, 사용량 집계가 이미 있다면 제한 정책만 얹으면 된다.- 설정 단위는 사용자별 또는 전역.
rolling-24h같은 기간창과amount_usd를 함께 써서 정책을 자른다. - 예시 정책은 사용자 1명당 24시간 $1.00 상한이다. 작은 SaaS의 AI 기능 과금 가드레일로 바로 옮겨쓰기 좋다.
- 핵심은 모델 품질이 아니라 폭주 방지다. 무료 티어 남용, 내부 툴 오남용, 실수성 비용 누수를 먼저 막아준다.