跳转至

EdgeFlow 方式尾采样

EdgeFlow 部署在 DataKit 与 Dataway 之间,按 trace_id 汇集链路的 Span,再依据 EdgeFlow 本地 DSL 规则决定保留或丢弃。DataKit 的 Aggregator 负责分组打包与发送,实际采样条件、采样率和等待时间以 EdgeFlow 已应用的规则为准。

本文配置 tracing 尾采样,示例优先保留错误链路、丢弃心跳和 404 链路,对其余链路采样 10%。SDK 或采集端已经丢弃的 Span 无法恢复。

前提与安装资源

版本要求:DataKit 2.11 及以上、EdgeFlow 1.0.1。主机安装包适用于 Linux AMD64;本文通过 EdgeFlow 本地 rules validate、rules test、rules apply 命令管理采样规则。

安装资源 下载地址
EdgeFlow 主机安装包(Linux AMD64) 下载安装包
EdgeFlow 容器镜像 pubrepo.guance.com/guance/edgeflow:1.0.1

准备原 Dataway 地址、工作空间 token、独立管理 token 和可写的状态目录。确认 DataKit 可以访问 EdgeFlow 的数据端口,EdgeFlow 可以访问原 Dataway;示例使用内网 HTTP 地址。主机安装示例使用 Linux/systemd;Docker 安装需可用的 Docker Engine 和持久数据卷。先备份 DataKit 配置与已有规则。

操作顺序:选择接入方式 → 安装 EdgeFlow → 应用本地 DSL 规则 → 配置 DataKit → 验证采样结果。主机与 Docker 安装二选一。

选择接入方式

对比项 全代理模式 单采样模式
[dataway].urls 指向 EdgeFlow 保留原 Dataway
[aggregator].endpoints 为空,复用普通出口 指向独立 EdgeFlow 节点
tracing 经 EdgeFlow 采样后发往 Dataway 由 Aggregator 发往 EdgeFlow,采样后发往 Dataway
普通日志、指标等 经 EdgeFlow 转发 直接发往原 Dataway
部署 一个接入链路使用单实例 可使用多个独立实例,按 trace 分配
故障影响 影响该普通出口的全部数据 主要影响链路采样,其他数据保持原出口

本文仅添加 tracing tail 规则;已有聚合、路由规则或专用 Sink 的处理范围需单独核对。

全代理:DataKit → 单实例 EdgeFlow → 原 Dataway

单采样:DataKit ── 普通日志、指标 ─────────→ 原 Dataway
           └── Aggregator → EdgeFlow A/B ──→ 原 Dataway

全代理模式使用单实例。 普通请求可包含多个 trace,不能用随机负载均衡把请求分散到多个 EdgeFlow 实例。

单采样多节点要求所有 DataKit 使用数量和顺序一致的 endpoint 列表,每个地址只对应一个固定实例。每个 EdgeFlow 实例使用独立状态目录或数据卷,并应用相同的本地 DSL 规则。不能用随机负载均衡替代按 trace 分配,也不能让多个节点共用状态目录。

改变 endpoint 数量或顺序会改变 trace 归属,应统一安排切换和在途数据排空。节点间不自动同步规则或接管已有链路状态。

主机安装

以下占位值需替换为实际值:<DATAWAY_HOST> 为原 Dataway 主机,<EDGEFLOW_HOST> 为 EdgeFlow 主机,<WORKSPACE_TOKEN> 为工作空间 token,<ADMIN_TOKEN> 为管理凭据。示例工作空间名称为 demo,数据端口为 9529,管理端口为仅本机可访问的 9530。

安装二进制与目录

下载并解压 Linux AMD64 安装包,检查实际版本:

curl -fL 'https://static.guance.com/edgeflow/edgeflow-linux-amd64.tar.gz' -o edgeflow-linux-amd64.tar.gz
mkdir -p edgeflow-package
tar -xzf edgeflow-linux-amd64.tar.gz -C edgeflow-package
cd edgeflow-package
./edgeflow --version

下载地址不含版本号,安装前确认二进制版本与本文使用的 1.0.1 一致。然后执行:

sudo useradd --system --user-group --home-dir /var/lib/edgeflow --shell /usr/sbin/nologin edgeflow
sudo install -m 0755 ./edgeflow /usr/local/bin/edgeflow
sudo install -d -m 0755 /etc/edgeflow /etc/edgeflow/rules
sudo install -d -o edgeflow -g edgeflow -m 0750 /var/lib/edgeflow

用户已存在时跳过 useradd;升级时保留原配置和状态目录。

运行配置与凭据

使用 sudoedit /etc/edgeflow/edgeflow.toml 创建运行配置:

listen = "0.0.0.0:9529"
admin_listen = "127.0.0.1:9530"
upstream_url = "http://<DATAWAY_HOST>:9528"
admin_token_env = "EDGEFLOW_ADMIN_TOKEN"

[state]
mode = "memory_spill"
path = "/var/lib/edgeflow/edgeflow.state"
max_bytes = 10737418240

[workspaces.demo]
token_env = "EDGEFLOW_DEMO_TOKEN"

upstream_url 保留原 Dataway 协议和端口,不附加写入 API 路径或 ?token=...,也不能指回 EdgeFlow。工作空间 token 通过环境变量单独提供,必须是原 Dataway 可接受的有效 token;管理 token 使用自行生成的随机字符串,与工作空间 token 分开设置,用于管理本地规则。

demo 是 EdgeFlow 内的工作空间标识,需与命令中的 --workspace demo 一致。增加工作空间时,为其添加 [workspaces.<名称>]、独立的 token_env 和对应环境变量,每个 token 只能配置到一个工作空间。各工作空间的规则需分别应用;同一工作空间在所有节点上使用相同标识和 token。

使用 sudoedit /etc/edgeflow/edgeflow.env 保存凭据,值中有特殊字符时按 systemd 环境文件规则正确引用:

EDGEFLOW_ADMIN_TOKEN=<ADMIN_TOKEN>
EDGEFLOW_DEMO_TOKEN=<WORKSPACE_TOKEN>
sudo chmod 0644 /etc/edgeflow/edgeflow.toml
sudo chmod 0600 /etc/edgeflow/edgeflow.env

启动服务

创建 /etc/systemd/system/edgeflow.service:

[Unit]
Description=EdgeFlow tail sampling
Wants=network-online.target
After=network-online.target

[Service]
User=edgeflow
Group=edgeflow
StateDirectory=edgeflow
WorkingDirectory=/var/lib/edgeflow
EnvironmentFile=/etc/edgeflow/edgeflow.env
ExecStart=/usr/local/bin/edgeflow --config /etc/edgeflow/edgeflow.toml run
Restart=on-failure
TimeoutStopSec=180

[Install]
WantedBy=multi-user.target
sudo systemctl daemon-reload
sudo systemctl enable --now edgeflow
sudo systemctl status edgeflow --no-pager
sudo journalctl -u edgeflow -n 100 --no-pager
curl -fsS http://127.0.0.1:9529/healthz

确认服务正常后,继续准备并应用本地规则。健康检查成功不代表已经配置采样。

Docker 安装

在 Docker 主机上准备独立目录:

mkdir -p edgeflow-docker/rules
cd edgeflow-docker

创建 edgeflow.toml 和 edgeflow.env,内容参照运行配置与凭据,将 state.path 改为 /app/data/edgeflow.state。upstream_url 必须能从容器网络访问;管理地址保持 127.0.0.1:9530。规则文件保存在当前目录的 rules/ 下。Docker 的环境文件按 KEY=value 填写,值外不添加 shell 引号。

chmod 0644 edgeflow.toml
chmod 0600 edgeflow.env
chmod 0755 rules
docker volume create edgeflow-state
docker pull pubrepo.guance.com/guance/edgeflow:1.0.1
docker run -d --name edgeflow --restart unless-stopped --stop-timeout 180 \
  --env-file ./edgeflow.env \
  -p 9529:9529 \
  -v "$PWD/edgeflow.toml:/app/edgeflow.toml:ro" \
  -v "$PWD/rules:/app/local-rules:ro" \
  -v edgeflow-state:/app/data \
  pubrepo.guance.com/guance/edgeflow:1.0.1 run
docker logs --tail 100 edgeflow
curl -fsS http://127.0.0.1:9529/healthz

镜像使用非 root 用户运行。新建命名卷由镜像内的数据目录初始化;复用现有卷时,确保容器用户具有读写权限。仅暴露数据端口 9529,在容器内运行本地规则 CLI。

主机安装与 Docker 安装二选一,不要让两个进程争用同一端口或状态目录。多节点单采样部署时,每个节点使用独立容器、数据卷和固定可达地址,并分别应用同一份 DSL 文件。继续准备并应用本地规则。

准备并应用本地规则

edgeflow.toml 是运行配置;下面的 tracing.dsl 是实际采样规则。编辑 DSL 文件后必须执行 rules apply,仅保存文件不会更新运行中的规则。

一次 rules apply 会替换指定工作空间的整份 DSL 规则,不是追加一条规则。 以下示例用于尚未配置业务规则的工作空间。已有聚合、路由或采样规则时,先备份当前完整 DSL,将需要保留的规则合并到同一文件,再校验和应用;不能直接用本文示例覆盖。

规则示例

主机保存为 /etc/edgeflow/rules/tracing.dsl;Docker 安装保存为安装目录下的 rules/tracing.dsl:

version 1;

schema tracing {
  field.trace_id: string;
  field.resource: string;
  field.duration: number;
  tag.status: string;
  tag.http_status_code: string;
}

tail "trace_sampling" on tracing {
  group by field.trace_id;
  idle 10s max_wait 1m decision_ttl 5m;

  keep when any(tag.status == "error");
  drop when any(field.resource in ["/health", "/healthz", "/ready", "/readyz", "/heartbeat"]);
  drop when any(tag.http_status_code == "404");
  sample 0.1 otherwise seed "edgeflow-tracing-v1";
}

规则按顺序判断,第一条命中的动作决定整条已汇集链路的去留。因此错误链路即使命中心跳或 404,也优先保留。如需无条件删除心跳或 404,将对应 drop 放到错误保留规则之前。

any(...) 表示任意 Span 命中即可,不等同于“入口 Span 命中”。示例使用 DataKit 常见的字段位置;上线前核对真实数据中的 tag. / field.、类型和取值。resource 可能是 GET /health 或路由模板,应调整列表。HTTP 状态码若是数值字段,需要同时修改 schema 和条件。

可选慢链路保留规则放在错误保留之后、丢弃规则之前:

keep when any(field.duration > 1000000);

这里将 duration 声明为 number,按 DataKit 标准 tracing 的微秒数值比较,1000000 为 1 秒。它表示某个 Span 超过 1 秒,不表示整条链路首尾跨度超过 1 秒。若 Pipeline 改写了单位,应同步调整。

主机上校验和应用

先离线校验和预演;默认内置样本只用于快速检查,业务规则应另用真实脱敏样本验证:

sudo chmod 0644 /etc/edgeflow/rules/tracing.dsl
edgeflow rules validate /etc/edgeflow/rules/tracing.dsl
edgeflow rules test /etc/edgeflow/rules/tracing.dsl --workspace demo --format json

以下命令通过临时 systemd 单元加载已有凭据文件,在 EdgeFlow 主机本地应用规则,避免把 token 写入命令行。首次应用使用 --if-match 0:

sudo systemd-run --quiet --wait --pipe --collect \
  --property=EnvironmentFile=/etc/edgeflow/edgeflow.env \
  /usr/local/bin/edgeflow --config /etc/edgeflow/edgeflow.toml \
  rules apply /etc/edgeflow/rules/tracing.dsl --workspace demo --if-match 0 --format json

确认输出 ok: true,记录 revision 和 hash。已有规则的更新不要继续使用 0,参见更新与回退。

容器内校验和应用

将 DSL 文件保存为 Docker 安装目录下的 rules/tracing.dsl。该目录已只读挂载到容器;编辑主机文件后,在容器内校验和应用:

chmod 0644 rules/tracing.dsl
docker exec edgeflow edgeflow rules validate /app/local-rules/tracing.dsl
docker exec edgeflow edgeflow rules test /app/local-rules/tracing.dsl --workspace demo --format json
docker exec edgeflow edgeflow --config /app/edgeflow.toml \
  rules apply /app/local-rules/tracing.dsl --workspace demo --if-match 0 --format json

容器已通过 --env-file 注入所需凭据。首次应用后,更新时使用当前 revision 或省略 --if-match。多节点分别执行上述步骤,确认各实例应用同一文件并返回相同 hash;各实例的 revision 独立,不要求数值相同。

先应用 EdgeFlow 规则,再切换 DataKit 数据出口。保存 DSL 原文件及历史版本,容器的数据卷不应成为唯一备份。

配置 DataKit Aggregator

详细参数参见 DataKit Aggregator。这里只设置数据接入,不在 DataKit 中维护 EdgeFlow 的实际业务采样策略。

选择连接配置

主机默认主配置为 /usr/local/datakit/conf.d/datakit.conf。在已有配置段中修改字段,不要重复添加配置段或覆盖整个文件。

单采样模式保留原 [dataway].urls:

[dataway]
urls = ["http://<DATAWAY_HOST>:9528?token=<WORKSPACE_TOKEN>"]

[aggregator]
endpoints = [
  "http://edgeflow-a:9529?token=<WORKSPACE_TOKEN>",
  "http://edgeflow-b:9529?token=<WORKSPACE_TOKEN>"
]
timeout = "30s"
max_raw_body_size = 1048576
use_local_config = true
local_config_dir = "/usr/local/datakit/conf.d/aggr"
local_metric_config_file = "aggr.toml"
local_tail_sampling_config_file = "tail-sampling.toml"

单节点只保留一个 endpoint;将主机名替换为实际可达地址。Kubernetes 中的 DataKit 也应使用能够从 Pod 网络访问的 EdgeFlow 主机地址或 DNS。endpoint 使用带 token 的服务根地址,不附加 API 路径。同一个 DataKit 的 endpoint 列表中,各地址使用同一个工作空间 token,并与原 [dataway].urls 的工作空间一致;不要在该列表中混用不同工作空间。

全代理模式使用相同 Aggregator 参数,但修改以下两项:

[dataway]
urls = ["http://<EDGEFLOW_HOST>:9529?token=<WORKSPACE_TOKEN>"]

[aggregator]
endpoints = []

此配置片段仅展示差异;仍需保留前一个完整示例中的其他 Aggregator 字段。空 endpoint 列表复用普通 Dataway 出口,该模式只配置一个 EdgeFlow 地址。

创建接入用规则文件

主机上创建 /usr/local/datakit/conf.d/aggr/;Kubernetes 环境在操作机准备以下两个文件。

aggr.toml 保持空聚合规则集:

default_window = "15s"
action = ""
delete_rules_point = false
aggregate_rules = []

已有聚合业务时不要直接覆盖原文件,因为聚合任务也会使用 Aggregator endpoint。

tail-sampling.toml 用于启用 tracing 分组发送:

version = 1

[trace]
data_ttl = "1m"
group_key = "trace_id"

[[trace.sampling_pipeline]]
name = "send-traces-to-edgeflow"
type = "condition"
condition = '{ 1 = 1 }'
action = "keep"

这里的 keep 不表示 EdgeFlow 保留全部链路;实际去留由已应用的 tracing.dsl 决定。此 TOML 的 version、data_ttl 与 EdgeFlow 的规则 revision、等待时间不是同一套参数。不要添加 [logging] 或 [rum],以保持本次仅处理 tracing 的范围。

Kubernetes 中配置 DataKit

以下假定 DataKit 位于 datakit 命名空间,DaemonSet 名称为 datakit。先备份现有配置。由部署工具或 GitOps 管理时,应修改原配置源并发布。本节只配置已有的 DataKit,不安装 EdgeFlow。

创建 ConfigMap:

kubectl -n datakit get daemonset datakit -o yaml > datakit-daemonset-backup.yaml
kubectl -n datakit create configmap edgeflow-tail-ingestion \
  --from-file=aggr.toml=./aggr.toml \
  --from-file=tail-sampling.toml=./tail-sampling.toml \
  --dry-run=client -o yaml | kubectl apply -f -

创建连接地址 Secret,下面为双节点单采样示例,保存为 datakit-edgeflow-endpoints.yaml 后执行 kubectl apply -f datakit-edgeflow-endpoints.yaml:

apiVersion: v1
kind: Secret
metadata:
  name: datakit-edgeflow-endpoints
  namespace: datakit
type: Opaque
stringData:
  endpoints: "http://<EDGEFLOW_A_HOST>:9529?token=<WORKSPACE_TOKEN>,http://<EDGEFLOW_B_HOST>:9529?token=<WORKSPACE_TOKEN>"

将下面片段合并到 DataKit 容器已有的 env、volumeMounts 中,保留原 ENV_DATAWAY,同名变量只保留一项:

env:
  - name: ENV_AGGREGATOR_ENDPOINTS
    valueFrom:
      secretKeyRef:
        name: datakit-edgeflow-endpoints
        key: endpoints
  - name: ENV_AGGREGATOR_TIMEOUT
    value: "30s"
  - name: ENV_AGGREGATOR_MAX_RAW_BODY_SIZE
    value: "1048576"
  - name: ENV_AGGREGATOR_USE_LOCAL_CONFIG
    value: "true"
  - name: ENV_AGGREGATOR_LOCAL_CONFIG_DIR
    value: "/usr/local/datakit/conf.d/aggr"
  - name: ENV_AGGREGATOR_LOCAL_METRIC_CONFIG_FILE
    value: "aggr.toml"
  - name: ENV_AGGREGATOR_LOCAL_TAIL_SAMPLING_CONFIG_FILE
    value: "tail-sampling.toml"
volumeMounts:
  - name: edgeflow-tail-ingestion
    mountPath: /usr/local/datakit/conf.d/aggr/aggr.toml
    subPath: aggr.toml
    readOnly: true
  - name: edgeflow-tail-ingestion
    mountPath: /usr/local/datakit/conf.d/aggr/tail-sampling.toml
    subPath: tail-sampling.toml
    readOnly: true

在 spec.template.spec.volumes 中合并:

volumes:
  - name: edgeflow-tail-ingestion
    configMap:
      name: edgeflow-tail-ingestion

全代理模式将 Secret 中的地址改为单个 http://<EDGEFLOW_HOST>:9529?token=<WORKSPACE_TOKEN>,并将第一项环境变量名改为 ENV_DATAWAY。移除重复的 ENV_DATAWAY 和原 ENV_AGGREGATOR_ENDPOINTS,同时确认主配置中的 aggregator.endpoints = [];空环境变量不会清除文件内已有的 endpoint 列表。

启用 DataKit 配置

主机执行:

sudo systemctl restart datakit
sudo systemctl status datakit --no-pager

Kubernetes 环境更新配置源后执行:

kubectl -n datakit rollout restart daemonset/datakit
kubectl -n datakit rollout status daemonset/datakit

DataKit 本地接入配置变更后重启 DataKit;subPath 挂载也需要重建 Pod 才能读到新文件。仅修改 EdgeFlow 采样策略时,在 EdgeFlow 各节点应用 DSL 即可,无需为此修改 DataKit 配置。

规则参数与采样口径

参数 示例 含义
version 1 DSL 语法版本,不是每次修改时递增的规则版本
group by field.trace_id 按完整链路分组;加入 service 会把跨服务链路拆组
idle 10s 距该分组最后一次收到数据的静默时间,必须大于 0
max_wait 1m 从首次收到该分组数据开始的最长汇集时间,必须大于 idle
decision_ttl 5m 决策保留时间,必须大于 0;期间迟到的同组数据复用已有决定
sample 0.1 普通链路的采样比例,范围为 [0,1]
seed edgeflow-tracing-v1 稳定概率采样的种子,同一策略保持一致
revision 应用后返回 当前实例的规则修订号,用于更新时的并发检查

上述时间按 EdgeFlow 收到数据的时间计算。满足 idle 或 max_wait 中任一条件即可结束汇集,并非每条链路都等待 1 分钟。应根据 Span 上报间隔和链路时长调整,避免过早结束。

decision_ttl 不会延长汇集时间。已有丢弃决定时,保留期内迟到的错误 Span 也会沿用丢弃决定;保留期结束后,同一 trace 的后续数据可能重新分组并作出不同决定。

错误保留优先,10% 只作用于未命中前面规则的 trace。假设 10,000 条链路中错误规则保留 500 条、后续丢弃规则删除 1,500 条,再对剩余 8,000 条采样约 800 条,总保留约 13%。应按不同 trace_id 统计,不能用 Span 数或字节数代替。

要求所有链路统一采样 10% 时,将 tail 内的三条条件动作移除,仅保留 sample ... otherwise;错误链路也会参与采样。不要叠加第二条同类别 tail 规则。

验证采样结果

先用唯一且可检索的 trace ID 验证确定性规则,再用大量不同 trace 验证比例。

场景 主示例预期
含错误 Span 保留整条已汇集链路
无错误、命中心跳路径 丢弃
无错误、包含 404 丢弃
同时满足错误和 404 错误规则优先,保留
大量普通链路 按 trace 统计,约保留 10%
同一 trace 来自不同 DataKit 单采样多节点时汇集到同一实例
普通日志、指标 按所选模式经 EdgeFlow 转发或直达原 Dataway

等待超过汇集时间和实际投递延迟后检查平台结果。HTTP 成功和健康检查都不能替代规则验收。上线前还应验证迟到 Span、下游中断及恢复,确认失败回退是否改变保留比例。

更新、回退与运维

更新与回退本地规则

  1. 保存该工作空间当前完整 DSL 文件、已应用的 revision 和 hash。
  2. 修改本地文件,运行 validate 和 test。
  3. 使用同一 rules apply 命令,将首次的 --if-match 0 替换为该实例当前 revision;也可省略该参数,由 CLI 读取当前版本并检查并发更新。
  4. 确认返回成功,在每个节点应用同一文件并检查 hash,再验证业务结果。

相同内容重复应用不会增加 revision。版本冲突时先核对现有规则,不要直接覆盖其他人的变更。回退使用保存的旧 DSL 重新应用;语法版本仍保持 version 1;。

已有分组可能仍按原规则完成处理,更新后需要观察在途数据。只修改 DSL 文件或只重启 DataKit 不会更新 EdgeFlow 规则。

修改运行配置或凭据

运行配置、凭据和采样规则的生效方式不同:

修改内容 生效操作
EdgeFlow DSL 在对应工作空间、每个节点执行 rules apply,无需重启 DataKit
主机上的 edgeflow.toml 或 edgeflow.env 保存后执行 sudo systemctl restart edgeflow;修改服务单元时先执行 sudo systemctl daemon-reload
Docker 的 edgeflow.toml 或 edgeflow.env 在原安装目录停止并移除旧容器,再按 Docker 安装中的 docker run 命令重建;保留并复用原数据卷
DataKit 主配置或本地接入文件 按启用 DataKit 配置重启服务或重建 Pod

Docker 重建可先执行 docker stop edgeflow、docker rm edgeflow,不要删除 edgeflow-state 数据卷。仅执行 docker restart 不会加载修改后的 --env-file;重建也能确保重新读取替换后的挂载配置文件。重启后检查服务状态和采样结果。新增工作空间需在启动成功后单独应用规则,再接入该工作空间的数据。

恢复原数据通道

全代理模式恢复原 [dataway].urls;单采样模式清除自定义 Aggregator endpoints。两种模式均需撤销此次启用的 tracing 接入配置,恢复原有配置后重启 DataKit,并确认普通 tracing 写入恢复。不要仅设置 use_local_config = false,这会切换配置来源。

停止 EdgeFlow 前预留排空时间并保留状态目录。旧节点可能继续投递已接收的数据,应考虑重复与延迟。

存储与故障观察

memory_spill 优先使用内存,按需将数据暂存磁盘;正常停机保存状态。异常退出可能丢失已经接收但尚未发出的数据,即使使用持久数据卷也不能消除这一风险。本文主机和 Docker 示例均使用该模式;业务若要求异常退出后仍不丢失已接收数据,需要另行确认持久化部署方案。

state.max_bytes 是逻辑状态额度,不是实际磁盘使用的硬上限。容量需包含积压、链路状态、快照、索引和余量;例如原始正文以 2 MiB/s 积压 30 分钟就约需 3.52 GiB。

以下限制可在 edgeflow.toml 的 [limits] 中调整,未填写时使用默认值。表中容量为字节数,不能作为进程总内存上限:

参数 默认值 达到限制时的影响
max_compressed_body 16777216(16 MiB) 超限请求被拒绝
max_decompressed_body 67108864(64 MiB) 解压后超限请求被拒绝
max_active_groups 200000 已达到分组数上限时,新分组的数据直接保留转发
max_group_bytes 8388608(8 MiB) 单条链路累计数据超限时,保留已有及本次数据;后续数据在决策保留期内继续保留

DataKit 的 max_raw_body_size = 1048576 控制单个发送包的大小,不能限制整条链路累计大小。不要只按 10% 采样率估算容量:待决策数据仍占用空间,触发上述直接保留行为后,保留比例也会升高。

通过进程日志、磁盘、内存、/readyz 和 /metrics 观察状态。edgeflow_engine_fail_open_total 的 reason="active_groups"、reason="group_bytes" 可用于观察容量不足导致的直接保留。DataKit 的 aggr_tail_sampling_fallback_package_total、aggr_tail_sampling_fallback_point_total 可帮助观察发送失败后的回退规模。

单采样模式回退普通出口时可能直接发送未采样数据,使实际保留量上升;部分请求已成功时也可能重复。全代理模式的普通出口仍为 EdgeFlow,回退不能绕过该节点故障。

常见问题

现象 检查方向
修改规则后未变化 是否执行本地 rules apply、workspace 是否正确、各节点是否应用同一文件;是否仍在观察旧分组
应用失败 DSL 语法、CLI 进程是否加载管理 token、EdgeFlow 是否运行、--if-match 是否为当前 revision
心跳或 404 仍被保留 是否先命中错误或慢链路保留;字段位置、类型、资源名是否与示例一致
采样率不是 10% 错误优先保留、样本量、trace 与 Span 口径、失败回退、容量超限后的直接保留
链路不完整 SDK 头部采样、采集过滤、trace ID 传播、节点分配和迟到 Span
数据端鉴权失败 endpoint 中的 token 与 EdgeFlow 工作空间 token 是否一致
413 或持续 5xx 包大小限制、网络、磁盘额度、内存及下游状态

相关文档:数据聚合与尾采样概述、DataKit Aggregator、Dataway 尾采样。

文档评价

文档内容是否对您有帮助?