GPROXY

基于 Rust、Axum 和 Tokio 构建的高性能 LLM API 网关。仓库获得 200+ GitHub Stars。

协议兼容

同时兼容 OpenAI、Anthropic 和 Gemini 三套协议，支持多供应商路由与跨协议的请求/响应转换， 并提供可编程的流式处理。

治理能力

多租户用户与 API Key 管理、模型权限控制、RPM/RPD/token 三级限速、USD 配额、 凭据故障转移、熔断与用量审计，附带内置 Web 管理控制台。

部署形态

基于 SeaORM 支持 SQLite、PostgreSQL 和 MySQL，提供原生二进制、Docker 与 WASM/Edge 三种部署方式。