You are viewing an old version of this page. View the current version.

Compare with Current View Page History

« Previous Version 5 Next »

Coordinator

coordinator主要与ClusterPlanRouter和ClusterPlanExecutor进行交互,接收和处理thrift模块的rpc调用

物理计划类型

转发至ConfigNode

  • 建/删除存储组

  • 创建/删除TTL

  • 创建/删除时间序列

  • 配置加载(loadConfigurationPlan

  • 权限相关

  • 创建/删除模板(待定

  • 创建/删除udf

  • 设置系统模式

  • 创建快照

  • MergePlan/FlushPlan/ClearCachePlan(由ConfigNode发送给所有VSG)

该部分操作需要首先转发给Config集群,之后根据Config集群节点返回结果进行后续处理


本地执行操作

  • LoadDataPlan

  • OperateFilePlan

  • KillQueryPlan

  • local的LoadConfigurationPlan

该类操作无需转发,直接在本地执行


常规写入操作

  • 所有insertPlan(InsertRowPlan, InsertRowsPlan, InsertRowsOfOneDevice, InsertTablet, InsertMultiTablet)

  • AlterTimeseries


该部分操作首先需要根据分区表对写入操作进行拆分,之后发送给对应的vsg,流程参考上面的给出的写入流程。


查询操作(Query)

查询操作通常需要进行拆分和结果集的合并,这里不多做赘述,输入到coordinator中处理的查询应当是以物理计划的形式。

数据/元数据分片和负载均衡相关的物理计划(未整理)


缓存设计

客户端缓存

在客户端缓存每个device对应的partitionGroup的leader,减少集群节点内部的转发次数

对应的endpoint保存在rpc调用的返回值TSStatus中

客户端缓存相关的文档

Map<DeviceId, Endpoint>


数据分区表缓存

  • 数据分区表缓存在每个Datanode,用于缓存保存时间分片的物理节点。数据分区表缓存在查询和写入过程中都需要用到,若无缓存,则需要向ConfigNode请求对应数据分区表项。

  • 数据结构

    • Map<存储组, Map<设备组, Map<时间段, List<VSG 共识组>>>>

    • Map<VSG 共识组, List<物理节点>>

  • 更新方式

    • 实时负载均衡:某节点上压力过大,需要进行设备组的迁移

    • 构建DataPartitionrRequest向ConfigNode申请数据分区表项,通过一次rpc(confignode不需要同步)

    • 删除存储组(缓存失效)

    • 负载均衡(缓存失效)


元数据分区表缓存

  • 元数据分区表存在于每个Datanode中,在写入或查询时,本地元数据缓存miss时,需要向MManager请求元数据,此时需要元数据分区表定位元数据所在的MManager位置。

  • 数据结构

    • Map<存储组, Map<设备组, MManager共识组>>

    • Map<MManager共识组, List<物理节点>>

  • 更新方式

    • 迁移设备组的元数据到其他MManager共识组

    • 构建MetaDataPartitionRequest向ConfigNode申请元数据分区表项,通过一次rpc得到对应的分区表项

    • 删除存储组(缓存失效)

    • 元数据负载均衡


元数据缓存

元数据缓存基于IoTDB中的数据模型,以树型的形式进行组织。

  • 元数据缓存用于保存

  • 数据结构

    • 树型结构(元数据模块开发)

  • 更新方式

    • 删除时间徐磊

    • 删除存储组

  • No labels