#0412
AI 게이트웨이, 모델 선택권이 인프라 레이어로 이동
AI Gateways Turn Model Choice Into Infrastructure
50radar
모델 API 위에 라우팅·캐시·전환 계층이 따로 생기고 있다. OpenRouter 규모는 락인 약화를 보여주지만, 당장 도입보다 구조 변화 신호에 가깝다.
OpenRouter는 주당 20조+ 토큰을 처리하고, 단일 제공자 점유율은 23% 이하다. 수요가 이미 멀티모델로 분산됐다.- 게이트웨이의 차별점은 모델 접근권이 아니라 라우팅·캐시 적중률·장애 우회다. 비용 최적화 레이어가 된다.
- 수직형 게이트웨이가 더 현실적이다. 코딩·고객지원·에이전트별로 지연시간과 비용 정책을 다르게 잡을 수 있다.
- 하이퍼스케일러 번들은 리스크다. 클라우드가 라우팅을 기본 기능으로 묶으면 독립 게이트웨이 마진은 얇아진다.
출처: trends.vc/ai-gateways-cache-as-moat-vertical-gateways-hy원문 보기 →