日志索引¶
通过创建并管理多个索引,系统自动根据设定的筛选条件将日志数据归档到相应的索引中。此外,您还能为每个索引定制数据存储策略,以有效控制和降低存储成本,实现数据管理的灵活性与经济效益的双重优化。
在日志索引下,您可以:
注意
默认情况下,日志多索引无法新建,请联系客户经理申请开通此功能。
开始新建¶
- 进入日志 > 索引 > 新建索引页面;
- 自定义索引的名称;
- 添加过滤条件:支持
in
、not in
等筛选方式; - 配置数据存储策略,选择标准存储时长、低频存储时长、归档存储时长;
- 输入关键字段。
注意
部署版用户在此处可自定义输入数据存储策略时长,范围:1d ~ 1800d。
索引规则
- 索引名称必须唯一,以字母开头,仅包含小写字母、数字或 “_” 字符,不可修改且已删除的索引名称不可再创建;
- 默认索引:所有日志默认存入名为
default
的索引中,该索引仅支持修改关键字段; - 日志流向:设置多索引后,日志流入第一个匹配的索引,同一条日志不会跨索引重复保存;
- 索引数量限制:包括
default
索引在内,最多存在 6 个索引,即自定义索引最多能创建 5 个; - 成员权限:标准成员和只读成员只有查看权限,管理员和拥有者可以编辑、删除、拖拽排序。
关键字段¶
在索引的维度下设置专属关键字段,确保日志数据的展示不受显示列配置影响,最终呈现在日志查看器 > 堆叠模式,便于高效分辨和分析不同日志索引下的数据。
定义规则¶
- 以逗号
,
作为分隔符; message
中列出字段为索引中所配置的关键字段,格式为key:value
,若value
无值,则显示“-”;- 索引中配置过关键字段的日志数据不受显示项影响,仅针对
message
列。
一键获取¶
- 当数据归档到该索引时,点击按钮,系统会自动提取最近一天上报数据中的关键字段;此时输入框内容将被新获取的
key
覆盖; - 若当前索引无数据上报,则点击按钮后,输入框内容不会发生变化。
注意
若索引下的字段数量过多,输入框仅提取前 50 条关键字段。
显示示例¶
- 定义
default
的关键字段为key1,source,key2,key3,pod_name,container_name,host,service
; - 在查看器,选中仅查看
default
索引的数据; - 效果如下图:
绑定外部索引¶
绑定成功后可在工作空间查询和分析外部索引数据。
目前支持的外部索引包括:
SLS Logstore
Elasticsearch
OpenSearch
日志易
火山引擎 TLS
注意
- 绑定的索引仅支持删除,取消绑定后无法查询该索引下的日志;
- 其他索引不能与日志索引重名,也不能与历史日志索引重名。
字段映射¶
由于观测云和外部索引的标准字段可能不一致,为确保功能正常使用,提供字段映射功能。
为了在观测云快捷查看和分析外部索引的日志数据,观测云提供字段映射的功能,在绑定外部索引时可直接为日志的字段进行映射。
字段 | 说明 |
---|---|
time |
日志志的上报时间,SLS Logstore 默认映射 date 字段为 time ,Elasticsearch、OpenSearch 可按实际数据填写;若无此字段,日志查看器中数据将乱序展示。 |
_docid |
日志的唯一 ID。映射后可查看绑定日志详情。若原字段不唯一,刷新详情页后取时间最早的一条日志展示。若无此字段,日志详情页会有部分内容缺失。 |
message |
日志的内容。映射后可查看绑定日志内容,并通过 message 字段聚类分析日志数据。 |
更多详情,可参考 日志查看器聚类分析。
您也可以在外部索引列表中点击修改,进入需要修改字段映射的索引进行修改。
注意
- 每个索引的映射规则不相通,各自独立保存;
- 若某条日志存在
_docid
字段,又映射了相同字段,则原日志中的_docid
不生效。
管理索引¶
您可通过以下操作对索引列表进行管理。
-
禁用索引后,后续日志不会再进入该索引,会继续匹配流入其他索引进行保存,若无匹配其他索引,则保存在默认
default
索引中; -
启用索引后,后续日志会重新进入该索引进行保存。
点击编辑图标,可编辑已创建的日志索引。在下图中,当前索引 index.da
新建成功后,source
为 datakit
的日志数据上报时,会匹配流入到第一个符合的索引进行保存。
注意
变更存储策略会删除索引中的数据,请谨慎操作。
点击可查看针对该索引的所有操作日志。
点击 图标,可删除已创建的日志索引。
注意
删除后,该索引中的日志数据也会被删除,若无其他匹配索引,后续上报的日志数据会保存在默认索引 default
中。
若被删除的索引已被授权给其他工作空间查询,删除后对方空间将不能再继续查询该索引。
删除日志索引后,可按需创建同名索引。
点击 图标,可上下拖拽已创建的日志索引。
注意
日志会流入第一个匹配到的索引中,改变索引顺序可能会导致日志更改流向。