数据转发至 TiDB Cloud Lake¶
将 TiDB Cloud Lake 选为转发目的地后,观测云会按照转发规则生成独立的 Parquet Batch,通过系统托管中转存储加载到指定的 Database.TargetTable,用于长期 SQL 与业务关联分析。
前提条件¶
开始配置前,请确认:
- Lake DSN:已获取,且包含有效的 Database 和 Warehouse。还没有?请先获取 Lake DSN;
- 转发规则:已完成规则名称与过滤条件的设置;
- SQL 用户权限:目标表已存在时需要写入权限;目标表不存在时还需要在目标 Database 中创建表的权限。
权限建议
建议使用数据转发专用 SQL 用户,并仅授予目标 Database 和目标表所需的写入、建表权限。不要使用拥有全局管理权限的个人账号。
开始配置¶
第一步:选择转发目的地¶
在选择转发目的地中,从分析平台分组选择 TiDB Cloud Lake。
选择后,以下配置由系统固定:
| 配置项 | 固定值 | 说明 |
|---|---|---|
| 转发目的地类型 | 分析平台(AP) | 将观测数据加载到 TiDB Cloud Lake,用于长期 SQL 与业务关联分析 |
| 存储格式 | Parquet | 默认存储格式 |
| 访问类型 | SQL 连接认证 | 使用 Lake DSN 验证身份并执行加载 |
| 中转存储 | 系统托管 | 无需填写 Bucket、Region、对象路径、IAM Role 或 Access Keys |
第二步:填写连接信息¶
| 配置项 | 是否必填 | 说明 |
|---|---|---|
| Lake DSN | 是 | 粘贴从 TiDB Cloud Lake Connect 页面复制的完整 DSN |
| 数据库(Database) | 自动 | 从 Lake DSN 路径自动解析,只读展示,不支持单独修改 |
| 仓库(Warehouse) | 自动 | 从 Lake DSN 参数自动解析,只读展示,不支持单独修改 |
| 目标表(Target Table) | 是 | 仅填写表名;实际加载目标为 Database.TargetTable |
| 数据等待时间 | 是 | 可选 15 分钟、30 分钟或 1 小时,默认 1 小时 |
填写 Lake DSN 后,先确认 Database 和 Warehouse 已自动解析,再填写 Target Table。
系统托管存储
系统按当前规则生成独立 Parquet Batch,并加载到 Database.TargetTable。目标表不存在时,将在完成规则创建时按当前转发数据类型的系统托管结构自动创建。
第三步:测试连接¶
点击测试连接。系统会验证:
- Lake DSN 的格式与认证信息;
- Database 和 Warehouse 是否有效;
- 网络是否可连接;
- 目标表是否存在;
- 目标表已存在时,SQL 用户是否具有写入权限,以及表结构是否兼容;
- 目标表不存在时,SQL 用户是否具有在目标 Database 中创建表的权限。
测试完成后,页面会根据检查结果提示目标表状态、权限检查结果和需要处理的问题。
测试连接不会创建目标表
测试连接会检查目标表的存在性、相关权限和结构兼容性,但不会创建目标表。目标表不存在时,系统只会提示检查结果;真正的建表操作在完成规则创建时执行。
第四步:设置数据查看权限¶
沿用数据转发规则的权限设置:
- 不限制:工作空间成员均可查看转发数据;
- 仅指定成员可查看:仅指定角色或成员可查看。
第五步:完成规则创建¶
完成规则创建时,系统会重新检查连接信息和目标表状态,并按以下方式处理:
再次检查 SQL 用户写入权限和表结构兼容性。检查失败时,规则仍会创建并启用,但规则列表会显示【!】提示。请根据提示修复写入权限或表结构问题。
按当前转发数据类型的系统托管结构创建目标表。无建表权限或创建失败时,规则仍会创建并启用,但规则列表会显示【!】提示。请根据提示修复权限或建表问题。
规则创建完成并启用后,命中规则的数据会按数据等待时间封存为 Parquet Batch,再加载到目标表。
数据等待时间¶
数据等待时间影响文件封存和加载批次频率:
| 选项 | 适用场景 |
|---|---|
| 15 分钟 | 希望更快在 Lake 中查询到新数据,可接受更频繁的加载任务 |
| 30 分钟 | 在时效与加载频率之间取得平衡 |
| 1 小时 | 默认值,适合长期归档和批量分析 |
数据转发不是逐条实时写入。启用规则后,需要等待首个批次封存并加载完成。
在 TiDB Cloud Lake 中验证¶
- 等待至少一个数据等待周期;
- 打开 TiDB Cloud Lake;
- 使用规则中的 Database、Warehouse 和 Target Table 执行只读查询;
- 检查是否已出现命中转发条件的数据。
可先使用限制行数的查询进行验证:
请将示例中的 Database 和 Target Table 替换为实际值。
配置结果¶
配置成功后,应满足:
- 规则状态为已启用;
- Database 和 Warehouse 与 Lake DSN 一致;
- 目标表存在且可写入;
- 至少一个 Parquet Batch 加载成功;
- 可在 TiDB Cloud Lake 中查询到命中规则的数据。
注意事项¶
- 数据集不是 TiDB Cloud Lake 连接必填项,不在转发目标配置中单独填写;转发数据范围由规则的数据类型和过滤条件确定。
- 更改 Target Table 只影响后续加载,不会迁移已经写入旧表的数据。
- 修改 TiDB Cloud Lake SQL 用户密码后,需要重新获取 Lake DSN 并编辑规则。
- 规则加载失败时,系统会保留失败原因并重试;修复权限、连接或表结构后可重新执行。
如果测试连接、完成规则创建或加载失败,请参考TiDB Cloud Lake 常见问题。