跳转至

1.2.3.3.3 配置部署 Metaservice

MSDoris 存算分离组件 MetaService 的简称,提供元数据管理和查询服务。 DorisDisaggregatedClulster 中配置字段为 metaService

1 最简配置

MS 服务属于无状态服务,通常采用主备模式部署。最简单配置如下:

Bash
1
2
3
4
5
6
7
spec:
  metaService:
    image: {msImage}
    fdb:
      configMapNamespaceName:
        name: {foundationdbConfigmap}
        namespace: {namespace}

其中 {msImage} 为想要部署的 MS 服务的版本。 {foundationdbConfigmap}K8s 部署的 FDB 服务提供的访问 configmap{namespace}K8s 部署的 FDB 服务所在的 Namespace

2 配置资源

MS 服务添加资源使用限制。以 4c 4Gi 配置为例:

Bash
 1
 2
 3
 4
 5
 6
 7
 8
 9
10
spec:
  metaService:
    image: {msImage}
    replicas: 2
    requests:
      cpu: 4
      memory: 4Gi
    limits:
      cpu: 4
      memory: 4Gi

将修改后的配置更新到需要部署的存算分离元数据管理资源中。

3 配置 FDB

FDB 集群在同一套 K8s 集群上搭建,并且能够获取其所在的 namespaceconfigmap ,则使用如下配置:

Bash
1
2
3
4
5
6
7
spec:
  metaService:
    image: {msImage}
    fdb:
      configMapNamespaceName:
        name: {foundationdbConfigmap}
        namespace: {namespace}

FDB 是物理机部署,则可以通过为 metaService 配置 FDB endpointFDB 的访问字符串)的方式来实现 FDB 的访问。配置如下:

Bash
1
2
3
4
5
spec:
  metaService:
    image: {msImage}
    fdb:
      address: {fdb_endpoint}

4 定制化配置文件

K8s 上通过 ConfigMap 挂载配置文件。 Doris-Operator 对于存算分离组件之间相互感知的配置进行了自动化处理,在部署 MS 服务使用定制化配置文件时 FDB 的相关的配置请不要配置。

使用 ConfigMap 挂载配置文件部署 MS 服务:

ConfigMap

Bash
 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
apiVersion: v1
data:
  doris_cloud.conf: |
    # // meta_service
    brpc_listen_port = 5000
    brpc_num_threads = -1
    brpc_idle_timeout_sec = 30
    http_token = greedisgood9999

    # // doris txn config
    label_keep_max_second = 259200
    expired_txn_scan_key_nums = 1000

    # // logging
    log_dir = ./log/
    # info warn error
    log_level = info
    log_size_mb = 1024
    log_filenum_quota = 10
    log_immediate_flush = false
    # log_verbose_modules = *

    # //max stage num
    max_num_stages = 40
kind: ConfigMap
metadata:
  name: doris-metaservice
  namespace: default

使用上述 ConfigMapMS 配置如下:

Bash
1
2
3
4
5
6
spec:
  metaService:
    image: {msImage}
    configMaps:
    - name: doris-metaservice
      mountPath: /etc/doris

实际部署中,按照需要配置 ConfigMap 的名称以及命名空间,并将配置信息按照上述样例格式配置到需要部署的存算分离元数据管理资源中。 MS 服务使用的启动配置文件名称 doris_cloud.conf ,因此挂载启动配置的 ConfigMapkey 也必须是 doris_cloud.conf 。启动配置必须挂载到 /etc/doris 目录下,即 mountPath/etc/doris

Tip

MS 服务需要使用 FDB 作为后端元数据存储,部署 MS 服务必须部署 FDB 服务。