跳转至

数据转发至 TiDB Cloud Lake


将 TiDB Cloud Lake 选为转发目的地后,观测云会按照转发规则生成独立的 Parquet Batch,通过系统托管中转存储加载到指定的 Database.TargetTable,用于长期 SQL 与业务关联分析。

前提条件

开始配置前,请确认:

  • Lake DSN:已获取,且包含有效的 Database 和 Warehouse。还没有?请先获取 Lake DSN
  • 转发规则:已完成规则名称与过滤条件的设置
  • SQL 用户权限:目标表已存在时需要写入权限;目标表不存在时还需要在目标 Database 中创建表的权限。
权限建议

建议使用数据转发专用 SQL 用户,并仅授予目标 Database 和目标表所需的写入、建表权限。不要使用拥有全局管理权限的个人账号。

开始配置

第一步:选择转发目的地

选择转发目的地中,从分析平台分组选择 TiDB Cloud Lake

选择后,以下配置由系统固定:

配置项 固定值 说明
转发目的地类型 分析平台(AP) 将观测数据加载到 TiDB Cloud Lake,用于长期 SQL 与业务关联分析
存储格式 Parquet 默认存储格式
访问类型 SQL 连接认证 使用 Lake DSN 验证身份并执行加载
中转存储 系统托管 无需填写 Bucket、Region、对象路径、IAM Role 或 Access Keys

第二步:填写连接信息

配置项 是否必填 说明
Lake DSN 粘贴从 TiDB Cloud Lake Connect 页面复制的完整 DSN
数据库(Database) 自动 从 Lake DSN 路径自动解析,只读展示,不支持单独修改
仓库(Warehouse) 自动 从 Lake DSN 参数自动解析,只读展示,不支持单独修改
目标表(Target Table) 仅填写表名;实际加载目标为 Database.TargetTable
数据等待时间 可选 15 分钟、30 分钟或 1 小时,默认 1 小时

填写 Lake DSN 后,先确认 Database 和 Warehouse 已自动解析,再填写 Target Table。

系统托管存储

系统按当前规则生成独立 Parquet Batch,并加载到 Database.TargetTable。目标表不存在时,将在完成规则创建时按当前转发数据类型的系统托管结构自动创建。

第三步:测试连接

点击测试连接。系统会验证:

  • Lake DSN 的格式与认证信息;
  • Database 和 Warehouse 是否有效;
  • 网络是否可连接;
  • 目标表是否存在;
  • 目标表已存在时,SQL 用户是否具有写入权限,以及表结构是否兼容;
  • 目标表不存在时,SQL 用户是否具有在目标 Database 中创建表的权限。

测试完成后,页面会根据检查结果提示目标表状态、权限检查结果和需要处理的问题。

测试连接不会创建目标表

测试连接会检查目标表的存在性、相关权限和结构兼容性,但不会创建目标表。目标表不存在时,系统只会提示检查结果;真正的建表操作在完成规则创建时执行。

第四步:设置数据查看权限

沿用数据转发规则的权限设置:

  • 不限制:工作空间成员均可查看转发数据;
  • 仅指定成员可查看:仅指定角色或成员可查看。

第五步:完成规则创建

完成规则创建时,系统会重新检查连接信息和目标表状态,并按以下方式处理:

再次检查 SQL 用户写入权限和表结构兼容性。检查失败时,规则仍会创建并启用,但规则列表会显示【!】提示。请根据提示修复写入权限或表结构问题。

按当前转发数据类型的系统托管结构创建目标表。无建表权限或创建失败时,规则仍会创建并启用,但规则列表会显示【!】提示。请根据提示修复权限或建表问题。

规则创建完成并启用后,命中规则的数据会按数据等待时间封存为 Parquet Batch,再加载到目标表。

数据等待时间

数据等待时间影响文件封存和加载批次频率:

选项 适用场景
15 分钟 希望更快在 Lake 中查询到新数据,可接受更频繁的加载任务
30 分钟 在时效与加载频率之间取得平衡
1 小时 默认值,适合长期归档和批量分析

数据转发不是逐条实时写入。启用规则后,需要等待首个批次封存并加载完成。

在 TiDB Cloud Lake 中验证

  1. 等待至少一个数据等待周期;
  2. 打开 TiDB Cloud Lake;
  3. 使用规则中的 Database、Warehouse 和 Target Table 执行只读查询;
  4. 检查是否已出现命中转发条件的数据。

可先使用限制行数的查询进行验证:

SELECT *
FROM database_name.target_table
LIMIT 10;

请将示例中的 Database 和 Target Table 替换为实际值。

配置结果

配置成功后,应满足:

  • 规则状态为已启用;
  • Database 和 Warehouse 与 Lake DSN 一致;
  • 目标表存在且可写入;
  • 至少一个 Parquet Batch 加载成功;
  • 可在 TiDB Cloud Lake 中查询到命中规则的数据。

注意事项

  • 数据集不是 TiDB Cloud Lake 连接必填项,不在转发目标配置中单独填写;转发数据范围由规则的数据类型和过滤条件确定。
  • 更改 Target Table 只影响后续加载,不会迁移已经写入旧表的数据。
  • 修改 TiDB Cloud Lake SQL 用户密码后,需要重新获取 Lake DSN 并编辑规则。
  • 规则加载失败时,系统会保留失败原因并重试;修复权限、连接或表结构后可重新执行。

如果测试连接、完成规则创建或加载失败,请参考TiDB Cloud Lake 常见问题

文档评价

文档内容是否对您有帮助? ×