telexed ~ c / a7e834e9-68bradar:50 · agent_toolLIVE
← 피드로
NO.
#a7e834e9
분야
에이전트·도구
출처
Hacker News · Show HN AI
게재
2026-04-21 14:11:53
중요도
★ 5/10 — radar 50
`GoModel`, 경량 오픈소스 AI 게이트웨이
FIG-0071:1

`GoModel`, 경량 오픈소스 AI 게이트웨이

`GoModel`: lightweight open-source AI gateway in Go

앱 코드 손대지 않고 모델 교체, 팀별 비용 추적, 요청 흐름 디버깅, 캐시까지 한 레이어에 묶었다. 이미지가 약 17MB로 가벼워 대안 게이트웨이 찾는 상황이면 지금 검토할 만하다.

[ 요점 ]
  1. 클라이언트·팀 단위로 AI 사용량과 비용을 추적한다. 과금 분리나 내부 한도 관리가 필요한 서비스에 바로 맞는다.
  2. OpenAI, Anthropic 같은 제공자를 앱 코드 수정 없이 바꾼다. 모델 실험과 장애 우회가 게이트웨이에서 끝난다.
  3. 정확 일치 캐시와 시맨틱 캐시를 둘 다 넣었다. 반복 요청이 많은 워크로드라면 비용 절감 효과를 바로 노릴 수 있다.
  4. 도커 이미지가 약 17MB이고 비교 대상으로 든 LiteLLMamd64 기준 약 746MB다. 배포 부담이 확실히 낮다.
원문github.com/ENTERPILOT/GOModel/원문 보기 →

// related