Youluo's Blog

安装目标

部署 SeaTunnel Engine 分离模式集群
部署MinIO，用于checkpoint storage
部署Prometheus和Grafana
部署 SeaTunnel web

环境说明

CentOS Linux release 7.4.1708 x86_6
SeaTunnel 2.3.8
jdk-8u371-linux-x64
MySQL8.0.27（ SeaTunnel web需要）

部署规划

#	ip	角色
1	11.123.247.80	Master（负责作业调度、RESTful API、任务提交、存储Imap数据）、Client、MinIO
2	11.123.247.107	worker（负责任务执行）
3	11.123.247.72	worker（负责任务执行）
4	11.123.247.217	Prometheus+Grafana、SeaTunnel web

SeaTunnel安装步骤

准备工作

安装JDK

#1、#2、#3 机器执行

shell

mkdir -p /opt/yeyouluo/ssa/
tar -zxvf jdk-8u371-linux-x64.tar.gz -C /opt/yeyouluo/ssa/

echo '' >> /etc/profile
echo '# JDK环境' >> /etc/profile
echo "export JAVA_HOME=/opt/yeyouluo/ssa/jdk1.8.0_371" >> /etc/profile
echo 'export CLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar' >> /etc/profile
echo 'export PATH=$JAVA_HOME/bin:$PATH' >> /etc/profile

source /etc/profile

安装MinIO

#1 机器执行
注：checkpoint实际并未生效

shell

# 创建目录
cd /opt/yeyouluo/soc/
mkdir minio
cd minio && mkdir {bin,data,lib,logs}
# 下载包
cd lib && wget https://dl.min.io/server/minio/release/linux-amd64/minio

# 编写启动脚本
cd ../bin
cat<<'EOF'>minio-start.sh
#!/bin/bash

export MINIO_ACCESS_KEY=minio
export MINIO_SECRET_KEY=minio@123
export MINIO_HOME="$(cd "`dirname "$0"`"/..; pwd)"
chmod +x ${MINIO_HOME}/lib/minio
nohup ${MINIO_HOME}/lib/minio server --console-address ":19000" --address ":19090" ${MINIO_HOME}/data > ${MINIO_HOME}/logs/minio.log 2>&1 &

EOF

chmod +x minio-start.sh
netstat -lunpt | grep 19000

浏览器访问 http://11.123.247.80:19000/ ，帐号密码为 minio/minio@123
创建2个bucket，名字分别为 seatunnel 和 imap

下载SeaTunnel

#1、#2、#3 机器执行

shell

cd /data01/tools/
export version="2.3.8"
wget "https://archive.apache.org/dist/seatunnel/${version}/apache-seatunnel-${version}-bin.tar.gz"
tar -xzvf "apache-seatunnel-${version}-bin.tar.gz" -C /opt/yeyouluo/ssa/

cd /opt/yeyouluo/ssa/
mv apache-seatunnel-${version} seatunnel

准备连接器插件

#1、#2、#3 机器执行

在开发机器准备好连接器插件，上传到目录 /opt/yeyouluo/ssa/seatunnel/connectors
- 在开发机也下载好相同的版本，可以通过配置 config/plugin_config来指定所需的插件。
- sh bin/install-plugin.sh

验证：

shell

cd /opt/yeyouluo/ssa/seatunnel
bin/seatunnel-connector.sh -l

预期输出如下：

shell

# bin/seatunnel-connector.sh -l
Transform
Copy DynamicCompile FieldMapper Filter FilterRowKind JsonPath Embedding LLM Replace Split Sql
Source
Elasticsearch FtpFile FakeSource Redis LocalFile Http SftpFile Clickhouse Kafka Jdbc
Sink
Elasticsearch FtpFile Redis Console LocalFile Http SftpFile Clickhouse ClickhouseFile Kafka Jdbc

配置 SEATUNNEL_HOME

#1、#2、#3 、#4 机器执行（如果#4不配置，则SeaTunnel web会报错 SEATUNNEL_HOME 变量不存在）

添加 /etc/profile.d/seatunnel.sh 文件来配置 SEATUNNEL_HOME 。/etc/profile.d/seatunnel.sh 的内容如下：

shell

cat<<'EOF'>/etc/profile.d/seatunnel.sh
export SEATUNNEL_HOME=/opt/yeyouluo/ssa/seatunnel
export PATH=$PATH:$SEATUNNEL_HOME/bin
EOF

预期：

shell

source /etc/profile.d/seatunnel.sh
echo $SEATUNNEL_HOME

配置 Master 节点 JVM 选项

Master节点的JVM参数在 $SEATUNNEL_HOME/config/jvm_master_options文件中配置。

#1 机器执行

shell

# JVM Heap
-Xms2g
-Xmx2g

# JVM Dump
-XX:+HeapDumpOnOutOfMemoryError
-XX:HeapDumpPath=/opt/yeyouluo/ssa/seatunnel/dump/zeta-server

# Metaspace
-XX:MaxMetaspaceSize=2g

# G1GC
-XX:+UseG1GC

Worker节点的JVM参数在 $SEATUNNEL_HOME/config/jvm_worker_options文件中配置。
worker节点共有2台，均需修改。#2、#3 机器执行。
shell
```
# JVM Heap
-Xms2g
-Xmx2g

# JVM Dump
-XX:+HeapDumpOnOutOfMemoryError
-XX:HeapDumpPath=/opt/yeyouluo/ssa/seatunnel/dump/zeta-client
```

配置 SeaTunnel Engine

在 seatunnel.yaml 中进行配置。

修改checkpoint storage

在 #1 master节点修改（其他worker主机也可以修改，但不会生效）

yaml

seatunnel:
    engine:
        checkpoint:
            interval: 6000
            timeout: 7000
            storage:
                type: hdfs
                max-retained: 3
                plugin-config:
                    storage.type: s3
                    s3.bucket: seatunnel
                    fs.s3a.access.key: minio
                    fs.s3a.secret.key: minio@123
                    fs.s3a.aws.credentials.provider: org.apache.hadoop.fs.s3a.SimpleAWSCredentialsProvider

类加载器类加载器缓存模式
#1、#2、#3 机器执行。当运行作业中使用的 Source/Sink 连接器类型不是太多时，更为有效。
yaml
```
seatunnel:
  engine:
    classloader-cache-mode: true
```
IMap持久化配置
#1、#2、#3 机器执行。但worker无效。
TODO

使用telemtry

仅 master需要更改

yaml

    telemetry:
      metric:
        enabled: true

最后，完整的配置文件 seatunnel.yaml如下：

yaml

seatunnel:
  engine:
    history-job-expire-minutes: 1440
    backup-count: 1
    queue-type: blockingqueue
    print-execution-info-interval: 60
    print-job-metrics-info-interval: 60
    classloader-cache-mode: true
    slot-service:
      dynamic-slot: true
    checkpoint:
      interval: 10000
      timeout: 60000
      storage:
        type: hdfs
        max-retained: 3
        plugin-config:
          storage.type: s3
          s3.bucket: seatunnel
          fs.s3a.access.key: minio
          fs.s3a.secret.key: minio@123
          fs.s3a.aws.credentials.provider: org.apache.hadoop.fs.s3a.SimpleAWSCredentialsProvider
    telemetry:
      metric:
        enabled: true

配置 SeaTunnel Engine 网络服务

所有 SeaTunnel Engine 网络相关的配置都在 hazelcast-master.yaml和 hazelcast-worker.yaml 文件中.

Master节点网络配置 hazelcast-master.yaml:

yaml

hazelcast:
  cluster-name: seatunnel
  network:
    rest-api:
      enabled: true
      endpoint-groups:
        CLUSTER_WRITE:
          enabled: true
        DATA:
          enabled: true
    join:
      tcp-ip:
        enabled: true
        member-list:
          - 11.123.247.80:5801
          - 11.123.247.107:5802
          - 11.123.247.72:5802
    port:
      auto-increment: false
      port: 5801
  properties:
    hazelcast.invocation.max.retry.count: 20
    hazelcast.tcp.join.port.try.count: 30
    hazelcast.logging.type: log4j2
    hazelcast.operation.generic.thread.count: 50
    hazelcast.heartbeat.failuredetector.type: phi-accrual
    hazelcast.heartbeat.interval.seconds: 2
    hazelcast.max.no.heartbeat.seconds: 180
    hazelcast.heartbeat.phiaccrual.failuredetector.threshold: 10
    hazelcast.heartbeat.phiaccrual.failuredetector.sample.size: 200
    hazelcast.heartbeat.phiaccrual.failuredetector.min.std.dev.millis: 100

Worker节点网络配置 hazelcast-worker.yaml:

yaml

hazelcast:
  cluster-name: seatunnel
  network:
    join:
      tcp-ip:
        enabled: true
        member-list:
          - 11.123.247.80:5801
          - 11.123.247.107:5802
          - 11.123.247.72:5802
    port:
      auto-increment: false
      port: 5802
  properties:
    hazelcast.invocation.max.retry.count: 20
    hazelcast.tcp.join.port.try.count: 30
    hazelcast.logging.type: log4j2
    hazelcast.operation.generic.thread.count: 50
    hazelcast.heartbeat.failuredetector.type: phi-accrual
    hazelcast.heartbeat.interval.seconds: 2
    hazelcast.max.no.heartbeat.seconds: 180
    hazelcast.heartbeat.phiaccrual.failuredetector.threshold: 10
    hazelcast.heartbeat.phiaccrual.failuredetector.sample.size: 200
    hazelcast.heartbeat.phiaccrual.failuredetector.min.std.dev.millis: 100

配置作业生成单独的日志文件

要为每个作业输出单独的日志文件，您可以更新 log4j2.properties 文件中的以下配置：

properties

...
rootLogger.appenderRef.file.ref = routingAppender
...

appender.file.layout.pattern = %d{yyyy-MM-dd HH:mm:ss,SSS} %-5p [%-30.30c{1.}] [%t] - %m%n
...

此配置为每个作业生成单独的日志文件，例如：

text

job-xxx1.log
job-xxx2.log
job-xxx3.log
...

启停 SeaTunnel Engine

启动master节点

#1 主机上操作

以通过守护进程使用 -d 参数启动。

shell

mkdir -p $SEATUNNEL_HOME/logs
./bin/seatunnel-cluster.sh -d -r master

日志将写入 $SEATUNNEL_HOME/logs/seatunnel-engine-master.log

启动worker节点

#2 、#3主机上操作

可以通过守护进程使用 -d 参数启动。

shell

mkdir -p $SEATUNNEL_HOME/logs
./bin/seatunnel-cluster.sh -d -r worker

日志将写入 $SEATUNNEL_HOME/logs/seatunnel-engine-worker.log

查看状态

shell

netstat -lunpt | grep 58

停止

在master（#1）机器上执行：

shell

$SEATUNNEL_HOME/bin/stop-seatunnel-cluster.sh

配置 SeaTunnel Client

在 #1、#2、#3 主机上进行

修改 hazelcast-client.yaml。cluster-name与 SeaTunnel Engine 具有相同的 cluster-name；network需要将所有 SeaTunnel Engine Master节点的地址添加到这里。

yaml

hazelcast-client:
  cluster-name: seatunnel
  properties:
    hazelcast.logging.type: log4j2
  connection-strategy:
    connection-retry:
      cluster-connect-timeout-millis: 3000
  network:
    cluster-members:
      - 11.123.247.80:5801

提交作业

shell

./bin/seatunnel.sh --config $SEATUNNEL_HOME/config/v2.batch.config.template --async -n first_job

第一次提交后，失败了，重新提交问题不再复现。

SeaTunnel 监控配置

Prometheus配置

#4 主机上操作

#4 上安装Prometheus，过程略。

#4 上，将 SeaTunnel 实例指标导出添加到 /etc/prometheus/prometheus.yml

yaml

global:
  scrape_interval: 15s
scrape_configs:
  - job_name: 'seatunnel'
    scrape_interval: 5s
    metrics_path: /hazelcast/rest/instance/metrics
    static_configs:
      - targets: [ '11.123.247.80:5801' ]

重启Prometheus :

shell

cd /opt/yeyouluo/ssa/docker-apps/prometheus/
docker compose restart prometheus

配置Grafana

问题：导入Grafana模板后，监控页面没有正确显示。

原因：Grafana JSON模板不对。

解决办法如下：

从源码中拉取最新的json：https://github.com/apache/seatunnel/blob/2.3.8-release/docs/zh/seatunnel-engine/telemetry/grafana-dashboard.json
将json中的 promethus id 都替换为正确的id（正确的id可以从其他监控中去找）

SeaTunnel运维

命令行工具

具体参考 https://seatunnel.apache.org/zh-CN/docs/2.3.8/seatunnel-engine/user-command

查看作业列表

shell

./bin/seatunnel.sh -l

该命令会输出所有当前集群中的作业列表（包含运行完成的历史作业和正在运行的作业）

查看作业状态

shell

./bin/seatunnel.sh -j <jobId>

该命令会输出指定作业的状态信息

获取正在运行的作业监控信息

shell

./bin/seatunnel.sh --get_running_job_metrics

该命令会输出正在运行的作业的监控信息

获取指定作业监控信息

--metrics参数可以获取指定作业的监控信息

shell

./bin/seatunnel.sh --metrics <jobId>

暂停作业

shell

./bin/seatunnel.sh -s <jobId>

该命令会暂停指定作业，注意，只有开启了checkpoint的作业才支持暂停作业(实时同步作业默认开启checkpoint，批处理作业默认不开启checkpoint需要通过在 env 中配置checkpoint.interval来开启checkpoint)。

暂停作业是以split为最小单位的，即暂停作业后，会等待当前正在运行的split运行完成后再暂停。任务恢复后，会从暂停的split继续运行。

恢复作业

shell

./bin/seatunnel.sh -r <jobId> -c $SEATUNNEL_HOME/config/v2.batch.config.template

该命令会恢复指定作业，注意，只有开启了checkpoint的作业才支持恢复作业(实时同步作业默认开启checkpoint，批处理作业默认不开启checkpoint需要通过在 env 中配置checkpoint.interval来开启checkpoint)。

恢复作业需要指定jobId和作业的配置文件。

运行失败的作业和通过 seatunnel.sh -s <jobId>暂停的作业都可以通过该命令恢复。

取消作业

shell

./bin/seatunnel.sh -can <jobId1> [<jobId2> <jobId3> ...]

该命令会取消指定作业，取消作业后，作业会被停止，作业的状态会变为 CANCELED。

支持批量取消作业，可以一次取消多个作业。

被cancel的作业的所有断点信息都将被删除，无法通过 seatunnel.sh -r <jobId>恢复。

RESTful API

具体参考 https://seatunnel.apache.org/zh-CN/docs/2.3.8/seatunnel-engine/rest-api

返回Zeta集群的概览

shell

curl -XGET http://11.123.247.80:5801/hazelcast/rest/maps/overview

返回当前节点的线程堆栈信息

shell

curl -XGET http://11.123.247.80:5801/hazelcast/rest/maps/thread-dump

返回所有作业及其当前状态的概览

shell

curl -XGET http://11.123.247.80:5801/hazelcast/rest/maps/running-jobs

返回作业的详细信息

shell

curl -XGET http://11.123.247.80:5801/hazelcast/rest/maps/job-info/:jobId

# 例如
curl -XGET http://11.123.247.80:5801/hazelcast/rest/maps/job-info/908974689525694470

返回所有已完成的作业信息
shell
```
curl -XGET http://11.123.247.80:5801/hazelcast/rest/maps/finished-jobs/:state
```
state可以是 FINISHED,CANCELED,FAILED,UNKNOWABLE。

返回系统监控信息

shell

curl -XGET http://11.123.247.80:5801/hazelcast/rest/maps/system-monitoring-information

提交作业
批量提交作业
停止作业
批量停止作业
加密配置
更新运行节点的tags

使用SeaTunnel web进行监控

SeaTunnel web部署

从源码构建部署包

【MacOS本地】源码下载地址：https://github.com/apache/seatunnel-web/releases/tag/1.0.2
【MacOS本地】解压&构建
shell
```
tar -zxvf seatunnel-web-1.0.2.tar.gz
cd seatunnel-web-1.0.2
sh build.sh code
mvn spotless:apply
```
等待约7分钟后，构建完成。构建好的部署包在 seatunnel-web-dist/target/apache-seatunnel-web-1.0.2.tar.gz。
【MacOS本地】上传到服务器 #4

解压

shell

tar zxvf apache-seatunnel-web-1.0.2.tar.gz

初始化db（实际在mysql所在主机执行）
- 修改 script/seatunnel_server_env.sh，改为MySQL的正确配置
- 执行脚本 sh apache-seatunnel-web-${project.version}/script/init_sql.sh
更改web 配置
- 编辑 apache-seatunnel-web-${project.version}/conf/application.yml 填写文件中的数据库连接信息和 DS 接口相关信息。
- 编辑 seatunnel-server/seatunnel-app/src/main/resources/application.yml ，添加 jwt.secretKey 值。例如：https://github.com/apache/seatunnel。（注意：这个 jwt.secretKey 不能太短，否则会报错）
- Copy $SEATUNNEL_HOME/config/hazelcast-client.yaml to apache-seatunnel-web-${project.version}/conf/
- 将文件复制到 apache-seatunnel-2.3.8/connectors/plugin-mapping.properties apache-seatunnel-web-${project.version}/conf/ 目录。

启动

shell

cd apache-seatunnel-web-${project.version}
source /etc/profile
source /etc/profile.d/seatunnel.sh
sh bin/seatunnel-backend-daemon.sh start

访问 http://11.123.247.217:8801/ ，默认用户名和密码是 admin/admin。

卸载

停止 $SEATUNNEL_HOME/bin/stop-seatunnel-cluster.sh
查看状态 netstat -lunpt | grep 58

待决问题

[ ] IMap持久化 -- 只有一个master节点
[ ] checkpoint存储在S3并未生效
[ ] kafka有bug，已自行打了一个新jar包来替换

参考资料

官方文档 | 部署 SeaTunnel Engine 分离模式集群

安装目标 ​

环境说明 ​

部署规划 ​

SeaTunnel安装步骤 ​

准备工作 ​

安装JDK ​

安装MinIO ​

下载SeaTunnel ​

准备连接器插件 ​

配置 SEATUNNEL_HOME ​

配置 Master 节点 JVM 选项 ​

配置 SeaTunnel Engine ​

配置 SeaTunnel Engine 网络服务 ​

配置作业生成单独的日志文件 ​

启停 SeaTunnel Engine ​

启动master节点 ​

启动worker节点 ​

查看状态 ​

停止 ​

配置 SeaTunnel Client ​

提交作业 ​

SeaTunnel 监控配置 ​

Prometheus配置 ​

配置Grafana ​

SeaTunnel运维 ​

命令行工具 ​

查看作业列表 ​

查看作业状态 ​

获取正在运行的作业监控信息 ​

获取指定作业监控信息 ​

暂停作业 ​

恢复作业 ​

取消作业 ​

RESTful API ​

使用SeaTunnel web进行监控 ​

SeaTunnel web部署 ​

从源码构建部署包 ​

卸载 ​

待决问题 ​

参考资料 ​

安装目标

环境说明

部署规划

SeaTunnel安装步骤

准备工作

安装JDK

安装MinIO

下载SeaTunnel

准备连接器插件

配置 SEATUNNEL_HOME

配置 Master 节点 JVM 选项

配置 SeaTunnel Engine

配置 SeaTunnel Engine 网络服务

配置作业生成单独的日志文件

启停 SeaTunnel Engine

启动master节点

启动worker节点

查看状态

停止

配置 SeaTunnel Client

提交作业

SeaTunnel 监控配置

Prometheus配置

配置Grafana

SeaTunnel运维

命令行工具

查看作业列表

查看作业状态

获取正在运行的作业监控信息

获取指定作业监控信息

暂停作业

恢复作业

取消作业

RESTful API

使用SeaTunnel web进行监控

SeaTunnel web部署

从源码构建部署包

卸载

待决问题

参考资料