telexed ~ c / afdd4e78-a1eradar:40 · otherLIVE
← 피드로
NO.
#afdd4e78
분야
기타
출처
Simon Willison
게재
2026-05-15 00:42:09
중요도
★ 4/10 — radar 40

`datasette-llm-limits` `0.1a0`, 사용자별 LLM 지출 상한 추가

`datasette-llm-limits` `0.1a0` adds per-user LLM spend caps

Datasette에 붙인 LLM 기능에 사용자별·전역 예산 상한을 걸 수 있게 됐다. 프롬프트를 외부에 열어둔 서비스라면 바로 유용하고, 아니어도 비용 통제 방식은 복제할 가치가 충분하다.

[ 요점 ]
  1. datasette-llmdatasette-llm-accountant 위에 붙는 구조라서, 사용량 집계가 이미 있다면 제한 정책만 얹으면 된다.
  2. 설정 단위는 사용자별 또는 전역. rolling-24h 같은 기간창과 amount_usd를 함께 써서 정책을 자른다.
  3. 예시 정책은 사용자 1명당 24시간 $1.00 상한이다. 작은 SaaS의 AI 기능 과금 가드레일로 바로 옮겨쓰기 좋다.
  4. 핵심은 모델 품질이 아니라 폭주 방지다. 무료 티어 남용, 내부 툴 오남용, 실수성 비용 누수를 먼저 막아준다.
원문simonwillison.net/2026/May/15/datasette-llm-limits/#atom-everything원문 보기 →

// related