one-api
B20/40推理 / 服务洞察置信度:中LLM API 管理 & 分发系统,支持 OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节豆包、ChatGLM、文心一言、讯飞星火、通义千问、360 智脑、腾讯混元等主流模型,统一 API 适配,可用于 key 管理与二次分发。单可执行文件,提供 Docker 镜像,一键部署,开箱即用。LLM API management & key redistribution system, unifying multiple providers under a single API. Single binary, Docker-ready, with an English UI.
Executive Insight
one-api 属于「推理 / 服务」方向,综合分 20/40(B)。当前最强项是 LLM 集成、评估与验证、Agent 自主性,短板集中在 记忆系统、Agent 自主性。
核心优势
- - LLM 集成达到 5/5(Level 5),说明该项目在这一能力上较成熟。
- - 评估与验证达到 4/5(Level 4),说明该项目在这一能力上较成熟。
- - Agent 自主性达到 2/5(Level 2),说明该项目在这一能力上较成熟。
能力短板
- - 记忆系统仅 1/5,当前更像“可用基础版”,需要补齐工程化能力。
- - Agent 自主性仅 2/5,当前更像“可用基础版”,需要补齐工程化能力。
适用场景
- - 模型服务托管
- - 多模型推理网关
落地风险与建议
- - 该条目为启发式分析,建议在核心决策前做一次仓库级人工复核。
- - 人机协作机制偏弱,生产环境需增加人工审批或灰度发布闸门。
- - 补会话摘要与长期记忆存储,减少上下文丢失。
- - 围绕 Agent 自主性 先做最小闭环,再扩展高级能力。
Intelligence Profile
Dimensions
LLM 集成
Level 5
Level 5: 多模型路由 + 自适应选择
Agent 自主性
Level 2
Level 2: 多步执行(人工每步确认)
记忆系统
Level 1
Level 1: 当前会话
工具使用
Level 2
Level 2: 多工具 + 路由
知识检索 (RAG)
Level 2
Level 2: Embedding + 向量检索
多模态
Level 2
Level 2: 图片输入 + 文本输出
评估与验证
Level 4
Level 4: 自我评估 + 重试
人机协作
Level 2
Level 2: AI 执行 + 人工审批
Architecture
LLM API 管理 & 分发系统,支持 OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节豆包、ChatGLM、文心一言、讯飞星火、通义千问、360 智脑、腾讯混元等主流模型,统一 API 适配,可用于 key 管理与二次分发。单可执行文件,提供 Docker 镜像,一键部署,开箱即用。LLM API management & key redistribution system, unifying multiple providers under a single API. Single…
GitHub Live Metrics
Loading live metrics...