管理 Pipelines¶
列表操作¶
单条操作¶
点击 Pipeline 文件右侧操作下的按钮即可针对该条数据编辑/删除/启用/禁用。
注意
- 编辑 Pipeline 文件后,默认生效时间为 1 分钟;
- 删除 Pipeline 文件后,无法恢复,需要重新创建;若存在同名的官方库 Pipeline 文件,DataKit 会自动匹配官方库 Pipeline 文件进行文本处理;
- 禁用 Pipeline 文件后,可通过启用重新恢复;若存在同名的官方库 Pipeline 文件,DataKit 会自动匹配官方库 Pipeline 文件进行文本处理。
批量操作¶
可针对多条 Pipeline 文件批量启用、禁用、导出、删除。
注意:该功能仅对工作空间拥有者、管理员、标准成员显示,只读成员不显示。
导入¶
可通过导入 JSON 文件的方式创建 Pipeline。
注意:导入的 JSON 文件需要是来自观测云的配置 JSON 文件。
Pipeline 官方库¶
观测云为日志数据提供标准的 Pipeline 官方库,帮助您快速结构化您的日志数据。
在观测云工作空间日志 > Pipelines,点击 Pipeline 官方库即可查看内置标准的 Pipeline 官网文件库,包括 nginx、apache、redis、elasticsearch、mysql 等。
选择打开任意一个 Pipeline 文件,如 apache.p
,可以看到内置的解析规则。如果需要自定义修改,可以点击右上角的 克隆按钮。
注意
- Pipeline 官方库文件不支持修改;
- Pipeline 官方库自带多个日志样本测试数据,在克隆前可选择符合自身需求的日志样本测试数据;
- 克隆的 Pipeline 修改保存后,日志样本测试数据同步保存。
根据所选日志来源自动生成同名 Pipeline 文件名称,点击确定后,即可创建一个自定义 Pipeline 文件。
注意:DataKit 会自动获取官方库 Pipeline 文件,若克隆的自定义 Pipeline 文件与官方 Pipeline 同名,此时 DataKit 会优先自动获取新建的自定义 Pipeline 文件配置;若克隆的自定义 Pipeline 文件与官方 Pipeline 不同名,则需要在对应采集器的 Pipeline 修改对应的 Pipeline 的文件名称。
注意事项¶
Pipeline 可以对 DataKit 采集的数据执行如下操作:
-
新增、删除、修改
field
和tag
的值或数据类型; -
将
field
变更为tag
; -
修改指标集名字;
-
丢弃当前数据(
drop()
); -
终止 Pipeline 脚本的运行(
exit()
)。
在用 Pipeline 对不同数据类型进行处理时,会对原有的数据结构产生影响,建议通过调试确认数据处理结果符合预期后再进行使用。