跳转至

查看器


应用创建成功后,系统会将每次 LLM 请求(从输入提示 input 到生成输出 output)作为一个日志事件集中到 LLM 监测查看器中。您可以通过强大的日志查询方式,搜索、筛选和分析单个或全部应用的所有 Trace 或 Span 数据。

描述
Span 代表 LLM 应用中的单个操作。每一次对模型的调用、每一次向量数据库查询、或每一次 API 请求都是一个独立的 Span。它记录了该操作的详细信息,如开始时间、耗时、状态(成功/失败)、使用的模型、消耗的 Token 数等。
Trace 一个 Trace 记录了 LLM 应用中一个外部请求(例如用户提问)在系统中执行的完整端到端路径。它通过一个全局唯一的 ID 进行标识,并将该请求过程中产生的所有 Span 组织成一个具有层级和时序关系的树状结构。简而言之,它可能包含 “接收请求 > 查询数据库 > 调用 LLM > 返回结果” 这一系列 Span。

查看模式

基于列表和图表的形式,LLM 监测查看器提供多种专业分析视图。

展示当前工作空间内,某应用下所有 Trace 或 Span 的最新指标数据,包括输入、输出、总 Token 数、耗时等。


基于 countlastfirstcount_distinct 运算模式,在 by 条件下筛选数据:

  • 排行榜
  • 时序图
  • 饼图
  • 矩形树图
  • 分组表格图

详情页

进入详情页,左侧展示由应用产生的单条 Span 及 Trace,右侧展示对应预览及属性信息。

预览

包括节点类型、节点名称、执行耗时、Token 消耗、执行状态、执行详情。

状态展示

执行状态(status 可能产生原因
成功:Success
失败:Error LLM 调用超时、工具返回异常等
警告:Warning 输出内容触发敏感词检测但未中断执行等

执行详情

展示 LLM 应用中的 Input(输入)和 Output(输出),前者包含了所有用于构建最终发送给模型请求的要素,后者则展示根据输入生成的结果。

属性信息

当前 Span 或 Trace 包含的相关字段信息。

更多阅读

文档评价

文档内容是否对您有帮助? ×