LLM 게이트웨이는 대형 언어 모델 (LLM)의 오픈 소스 API 게이트웨이입니다. 애플리케이션과 다양한 LLM 제공자 사이의 미들웨어로 작동하여: - OpenAI, Anthropic, Google AI Studio 및 기타 여러 LLM 제공자로 요청을 라우팅할 수 있습니다. - 다양한 제공자에 대한 API 키를 한 곳에서 관리할 수 있습니다. - 모든 LLM 상호 작용에서 토큰 사용량과 비용을 추적할 수 있습니다. - LLM 사용량을 최적화하기 위해 성능 지표를 분석할 수 있습니다.