← All projects

Openllmetry

B21/40评估 / 观测洞察置信度：中

Open-source observability for LLMs.

★ 4,500PythonCreated 2023-09-01GitHub →
observabilityopentelemetryllm

Executive Insight

Openllmetry 属于「评估 / 观测」方向，综合分 21/40（B）。当前最强项是 评估与验证、Agent 自主性、记忆系统，短板集中在 多模态、LLM 集成。

核心优势

  • - 评估与验证达到 5/5（多 Agent 互审 + 迭代优化），说明该项目在这一能力上较成熟。
  • - Agent 自主性达到 3/5（ReAct 循环（自主工具调用）），说明该项目在这一能力上较成熟。
  • - 记忆系统达到 3/5（向量检索 + 语义记忆），说明该项目在这一能力上较成熟。

能力短板

  • - 多模态仅 0/5，当前更像“可用基础版”，需要补齐工程化能力。
  • - LLM 集成仅 2/5，当前更像“可用基础版”，需要补齐工程化能力。

适用场景

  • - 上线前质量评估
  • - 线上行为监控和追踪

落地风险与建议

  • - 该条目为启发式分析，建议在核心决策前做一次仓库级人工复核。
  • - 围绕 多模态 先做最小闭环，再扩展高级能力。
  • - 围绕 LLM 集成 先做最小闭环，再扩展高级能力。

Intelligence Profile

LLM 集成Agent 自主性记忆系统工具使用知识检索 (RAG)多模态评估与验证人机协作

Dimensions

LLM 集成

多轮对话 + Prompt 工程

Level 2: 多轮对话 + Prompt 工程

Heuristic from category — verify manually

Agent 自主性

ReAct 循环（自主工具调用）

Level 3: ReAct 循环（自主工具调用）

Heuristic from category — verify manually

记忆系统

向量检索 + 语义记忆

Level 3: 向量检索 + 语义记忆

Heuristic from category — verify manually

工具使用

Function Calling / Tool Use

Level 3: Function Calling / Tool Use

Heuristic from category — verify manually

知识检索 (RAG)

Embedding + 向量检索

Level 2: Embedding + 向量检索

Heuristic from category — verify manually

多模态

纯文本

Level 0: 纯文本

Heuristic from category — verify manually

评估与验证

多 Agent 互审 + 迭代优化

Level 5: 多 Agent 互审 + 迭代优化

Heuristic from category — verify manually

人机协作

审批流 + 权限分级

Level 3: 审批流 + 权限分级

Heuristic from category — verify manually

Architecture

eval-obs (catalog seed)

Open-source observability for LLMs.

GitHub Live Metrics

Loading live metrics...