开源 LLM API 网关,把各家大模型统一成 OpenAI 格式,支持二次分发
songquanpeng 开源的 LLM API 管理与分发系统,MIT 协议,标语 "通过标准的 OpenAI API 格式访问所有的大模型,开箱即用"。支持 30+ 渠道接入,如 OpenAI(含 Azure)、Claude(含 AWS)、Gemini、 DeepSeek、通义千问、文心一言、豆包、ChatGLM 等,可用负载均衡方式 访问多个渠道;令牌支持过期时间、额度、允许的 IP 与模型范围, 另有兑换码充值与渠道批量创建。部署为单可执行文件或 Docker 镜像, GitHub 37.1k stars。README 提示按《生成式人工智能服务管理暂行办法》 勿对中国地区公众提供未经备案的生成式 AI 服务;最新 Release v0.6.10 与最新提交均为 GitHub 显示的 last year(2026-10 核实)。



暂无相关文章。