接入与使用
什么是大模型 API 网关?
了解大模型 API 网关的作用、适用边界,以及 Lumoswitch 如何把模型接入、路由、访问 Key 与用量管理集中到一个入口。
由 路墨 Lumoswitch 产品团队维护
简要回答
大模型 API 网关为客户端提供统一入口,把模型接入、路由、访问 Key、限额、用量和账单集中到同一套管理边界中。
大模型 API 网关解决什么问题?
当一个应用需要使用多个模型服务时,客户端若分别保存每个上游的地址、密钥和模型名称,切换和治理都会变得分散。大模型 API 网关提供一个面向客户端的稳定入口,把模型资源、路由规则、访问 Key、用量账单和调用观测集中管理。
Lumoswitch 在请求链路中负责什么?
Lumoswitch 的控制面用于维护模型资源、候选路由、访问 Key、平台模型价格和用量记录;独立推理运行时负责已开放协议入口的请求处理和上游调用。客户端使用管理员或团队配置好的 Base URL、访问 Key 与对外模型 ID,不需要直接绑定每个上游的配置。
多个国内大模型 API 可以统一接入吗?
可以管理当前已适配的 DeepSeek、通义千问、豆包、Kimi 等渠道,也可以配置符合要求的 OpenAI 兼容服务。最终可用模型取决于当前部署、上游凭据、模型配置和管理员发布状态,不能把渠道适配等同于所有模型默认可用。
Lumoswitch 是基础大模型提供商吗?
不是。Lumoswitch 用于接入和管理已配置的模型服务与平台模型,不训练或声称自有基础大模型。实际可调用的模型、价格、额度和接口能力以当前部署中已发布的资源及控制台展示为准。
什么场景适合使用大模型 API 网关?
它适合需要统一接入多个模型渠道、为不同应用分配独立访问 Key、控制模型范围和速率,或在上游异常时准备候选资源的团队。若只是个人项目临时调用单个模型服务,直接使用该服务的 API 往往更简单。