网站建设文本居中代码,哪个网站开发软件,深圳哪家网站建设公司好,已有网站域名 怎么做网站TiDB数据库从入门到精通系列之一#xff1a;TiDB数据库的软硬件环境要求和系统配置检查 一、软件和硬件配置要求1.操作系统及平台要求2.服务器建议配置3.网络要求4.磁盘空间要求 二、TiDB 环境与系统配置检查1.在 TiKV 部署目标机器上添加数据盘 EXT4 文件系统挂载参数2.设置 … TiDB数据库从入门到精通系列之一TiDB数据库的软硬件环境要求和系统配置检查 一、软件和硬件配置要求1.操作系统及平台要求2.服务器建议配置3.网络要求4.磁盘空间要求 二、TiDB 环境与系统配置检查1.在 TiKV 部署目标机器上添加数据盘 EXT4 文件系统挂载参数2.设置 TiDB 节点的临时空间推荐3.检测及关闭目标部署机器的防火墙4.检测及安装 NTP 服务5.检查和配置操作系统优化参数6.执行以下命令验证透明大页的状态7.执行以下命令验证数据目录所在磁盘的 I/O 调度器8.执行以下命令查看 cpufreq 模块选用的节能策略9.执行以下命令修改 sysctl 参数10.执行以下命令配置用户的 limits.conf 文件 三、手动配置 SSH 互信及 sudo 免密码四、安装 numactl 工具 一、软件和硬件配置要求
TiDB 作为一款开源一栈式实时 HTAP 数据库可以很好地部署和运行在 Intel 架构服务器环境、ARM 架构的服务器环境及主流虚拟化环境并支持绝大多数的主流硬件网络。作为一款高性能数据库系统TiDB 支持主流的 Linux 操作系统环境。
1.操作系统及平台要求
针对不同操作系统和 CPU 架构的组合TiDB 提供不同级别质量标准的支持。
在以下操作系统以及对应的 CPU 架构组合上TiDB 可满足企业级生产质量的要求产品特性经过全面且系统化的验证 2.服务器建议配置
TiDB 支持部署和运行在 Intel x86-64 架构的 64 位通用硬件服务器平台或者 ARM 架构的硬件服务器平台。对于开发、测试及生产环境的服务器硬件配置不包含操作系统 OS 本身的占用有以下要求和建议 3.网络要求
TiDB 作为开源一栈式实时 HTAP 数据库其正常运行需要网络环境提供如下的网络端口配置要求管理员可根据实际环境中 TiDB 组件部署的方案在网络侧和主机侧开放相关端口 4.磁盘空间要求 客户端 Web 浏览器要求 TiDB 提供了基于 Grafana 的技术平台对数据库集群的各项指标进行可视化展现。采用支持 Javascript 的微软 IE、Google Chrome、Mozilla Firefox 的较新版本即可访问监控入口。
二、TiDB 环境与系统配置检查
1.在 TiKV 部署目标机器上添加数据盘 EXT4 文件系统挂载参数
生产环境部署建议使用 EXT4 类型文件系统的 NVME 类型的 SSD 磁盘存储 TiKV 数据文件。这个配置方案为最佳实施方案其可靠性、安全性、稳定性已经在大量线上场景中得到证实。
使用 root 用户登录目标机器将部署目标机器数据盘格式化成 ext4 文件系统挂载时添加 nodelalloc 和 noatime 挂载参数。nodelalloc 是必选参数否则 TiUP 安装时检测无法通过noatime 是可选建议参数。
注意 如果你的数据盘已经格式化成 ext4 并挂载了磁盘可先执行 umount /dev/nvme0n1p1 命令卸载从编辑 /etc/fstab 文件步骤开始执行添加挂载参数重新挂载即可。
以 /dev/nvme0n1 数据盘为例具体操作步骤如下
1.查看数据盘
fdisk -lDisk /dev/nvme0n1: 1000 GB2.创建分区
parted -s -a optimal /dev/nvme0n1 mklabel gpt -- mkpart primary ext4 1 -1注意 使用 lsblk 命令查看分区的设备号对于 nvme 磁盘生成的分区设备号一般为 nvme0n1p1对于普通磁盘例如 /dev/sdb生成的分区设备号一般为 sdb1。
3.格式化文件系统
mkfs.ext4 /dev/nvme0n1p14.查看数据盘分区 UUID
本例中 nvme0n1p1 的 UUID 为 c51eb23b-195c-4061-92a9-3fad812cc12f
lsblk -fNAME FSTYPE LABEL UUID MOUNTPOINT
sda
├─sda1 ext4 237b634b-a565-477b-8371-6dff0c41f5ab /boot
├─sda2 swap f414c5c0-f823-4bb1-8fdf-e531173a72ed
└─sda3 ext4 547909c1-398d-4696-94c6-03e43e317b60 /
sr0
nvme0n1
└─nvme0n1p1 ext4 c51eb23b-195c-4061-92a9-3fad812cc12f5.编辑 /etc/fstab 文件添加 nodelalloc 挂载参数
vi /etc/fstabUUIDc51eb23b-195c-4061-92a9-3fad812cc12f /data1 ext4 defaults,nodelalloc,noatime 0 26.挂载数据盘
mkdir /data1 \
mount -a7.执行以下命令如果文件系统为 ext4并且挂载参数中包含 nodelalloc则表示已生效
mount -t ext4/dev/nvme0n1p1 on /data1 type ext4 (rw,noatime,nodelalloc,dataordered)
2.设置 TiDB 节点的临时空间推荐
TiDB 的部分操作需要向服务器写入临时文件因此需要确保运行 TiDB 的操作系统用户具有足够的权限对目标目录进行读写。如果 TiDB 实例不是以 root 权限启动则需要检查目录权限并进行正确设置。 TiDB 临时工作区 哈希表构建、排序等内存消耗较大的操作可能会向磁盘写入临时数据用来减少内存消耗提升稳定性。写入的磁盘位置由配置项 tmp-storage-path 定义。在默认设置下确保运行 TiDB 的用户对操作系统临时文件夹通常为 /tmp有读写权限。 Fast Online DDL 工作区 当变量 tidb_ddl_enable_fast_reorg 被设置为 ONv6.5.0 及以上版本中默认值为 ON时会激活 Fast Online DDL这时部分 DDL 要对临时文件进行读写。临时文件位置由配置 temp-dir 定义需要确保运行 TiDB 的用户对操作系统中该目录有读写权限。以默认目录 /tmp/tidb 为例
注意 如果业务中可能存在针对大对象的 DDL 操作推荐为 temp-dir 配置独立文件系统及更大的临时空间。
sudo mkdir /tmp/tidb如果目录 /tmp/tidb 已经存在需确保有写入权限。
sudo chmod -R 777 /tmp/tidb3.检测及关闭目标部署机器的防火墙
本段介绍如何关闭目标主机防火墙配置因为在 TiDB 集群中需要将节点间的访问端口打通才可以保证读写请求、数据心跳等信息的正常的传输。在普遍线上场景中数据库到业务服务和数据库节点的网络联通都是在安全域内完成数据交互。如果没有特殊安全的要求建议将目标节点的防火墙进行关闭。否则建议按照端口使用规则将端口信息配置到防火墙服务的白名单中。
1.检查防火墙状态以 CentOS Linux release 7.7.1908 (Core) 为例
sudo firewall-cmd --state
sudo systemctl status firewalld.service2.关闭防火墙服务
sudo systemctl stop firewalld.service3.关闭防火墙自动启动服务
sudo systemctl disable firewalld.service4.检查防火墙状态
sudo systemctl status firewalld.service4.检测及安装 NTP 服务
TiDB 是一套分布式数据库系统需要节点间保证时间的同步从而确保 ACID 模型的事务线性一致性。目前解决授时的普遍方案是采用 NTP 服务可以通过互联网中的 pool.ntp.org 授时服务来保证节点的时间同步也可以使用离线环境自己搭建的 NTP 服务来解决授时。
采用如下步骤检查是否安装 NTP 服务以及与 NTP 服务器正常同步
1.执行以下命令如果输出 running 表示 NTP 服务正在运行
sudo systemctl status ntpd.servicentpd.service - Network Time Service
Loaded: loaded (/usr/lib/systemd/system/ntpd.service; disabled; vendor preset: disabled)
Active: active (running) since 一 2017-12-18 13:13:19 CST; 3s ago若返回报错信息 Unit ntpd.service could not be found.请尝试执行以下命令以查看与 NTP 进行时钟同步所使用的系统配置是 chronyd 还是 ntpd
sudo systemctl status chronyd.servicechronyd.service - NTP client/server
Loaded: loaded (/usr/lib/systemd/system/chronyd.service; enabled; vendor preset: enabled)
Active: active (running) since Mon 2021-04-05 09:55:29 EDT; 3 days ago若发现系统既没有配置 chronyd 也没有配置 ntpd则表示系统尚未安装任一服务。此时应先安装其中一个服务并保证它可以自动启动默认使用 ntpd。
如果你使用的系统配置是 chronyd请直接执行步骤 3。
2.执行 ntpstat 命令检测是否与 NTP 服务器同步
注意Ubuntu 系统需安装 ntpstat 软件包。
ntpstat如果输出 synchronised to NTP server表示正在与 NTP 服务器正常同步
synchronised to NTP server (85.199.214.101) at stratum 2
time correct to within 91 ms
polling server every 1024 s以下情况表示 NTP 服务未正常同步
unsynchronised以下情况表示 NTP 服务未正常运行
Unable to talk to NTP daemon. Is it running?3.执行 chronyc tracking 命令查看 Chrony 服务是否与 NTP 服务器同步。
chronyc tracking如果该命令返回结果为 Leap status : Normal则代表同步过程正常。
Reference ID : 5EC69F0A (ntp1.time.nl)
Stratum : 2
Ref time (UTC) : Thu May 20 15:19:08 2021
System time : 0.000022151 seconds slow of NTP time
Last offset : -0.000041040 seconds
RMS offset : 0.000053422 seconds
Frequency : 2.286 ppm slow
Residual freq : -0.000 ppm
Skew : 0.012 ppm
Root delay : 0.012706812 seconds
Root dispersion : 0.000430042 seconds
Update interval : 1029.8 seconds
Leap status : Normal如果该命令返回结果如下则表示同步过程出错
Leap status : Not synchronised如果该命令返回结果如下则表示 Chrony 服务未正常运行
506 Cannot talk to daemon如果要使 NTP 服务尽快开始同步执行以下命令。可以将 pool.ntp.org 替换为你的 NTP 服务器
sudo systemctl stop ntpd.service \
sudo ntpdate pool.ntp.org \
sudo systemctl start ntpd.service如果要在 CentOS 7 系统上手动安装 NTP 服务可执行以下命令
sudo yum install ntp ntpdate \
sudo systemctl start ntpd.service \
sudo systemctl enable ntpd.service5.检查和配置操作系统优化参数
在生产系统的 TiDB 中建议对操作系统进行如下的配置优化
关闭透明大页即 Transparent Huge Pages缩写为 THP。数据库的内存访问模式往往是稀疏的而非连续的。当高阶内存碎片化比较严重时分配 THP 页面会出现较高的延迟。将存储介质的 I/O 调度器设置为 noop。对于高速 SSD 存储介质内核的 I/O 调度操作会导致性能损失。将调度器设置为 noop 后内核不做任何操作直接将 I/O 请求下发给硬件以获取更好的性能。同时noop 调度器也有较好的普适性。为调整 CPU 频率的 cpufreq 模块选用 performance 模式。将 CPU 频率固定在其支持的最高运行频率上不进行动态调节可获取最佳的性能。
采用如下步骤检查操作系统的当前配置并配置系统优化参数
1.执行以下命令查看透明大页的开启状态。
cat /sys/kernel/mm/transparent_hugepage/enabled[always] madvise never注意 [always] madvise never 表示透明大页处于启用状态需要关闭。
2.执行以下命令查看数据目录所在磁盘的 I/O 调度器。假设在 sdb、sdc 两个磁盘上创建了数据目录。
cat /sys/block/sd[bc]/queue/schedulernoop [deadline] cfq
noop [deadline] cfq注意 noop [deadline] cfq 表示磁盘的 I/O 调度器使用 deadline需要进行修改。
执行以下命令查看磁盘的唯一标识 ID_SERIAL。
udevadm info --name/dev/sdb | grep ID_SERIALE: ID_SERIAL36d0946606d79f90025f3e09a0c1f9e81
E: ID_SERIAL_SHORT6d0946606d79f90025f3e09a0c1f9e81注意 如果多个磁盘都分配了数据目录需要多次执行以上命令记录所有磁盘各自的唯一标识。
4.执行以下命令查看 cpufreq 模块选用的节能策略。
cpupower frequency-info --policyanalyzing CPU 0:
current policy: frequency should be within 1.20 GHz and 3.10 GHz.The governor powersave may decide which speed to use within this range.注意 The governor “powersave” 表示 cpufreq 的节能策略使用 powersave需要调整为 performance 策略。如果是虚拟机或者云主机则不需要调整命令输出通常为 Unable to determine current policy。
5.配置系统优化参数 使用 tuned推荐 a.执行 tuned-adm list 命令查看当前操作系统的 tuned 策略。
tuned-adm listAvailable profiles:
- balanced - General non-specialized tuned profile
- desktop - Optimize for the desktop use-case
- hpc-compute - Optimize for HPC compute workloads
- latency-performance - Optimize for deterministic performance at the cost of increased power consumption
- network-latency - Optimize for deterministic performance at the cost of increased power consumption, focused on low latency network performance
- network-throughput - Optimize for streaming network throughput, generally only necessary on older CPUs or 40G networks
- powersave - Optimize for low power consumption
- throughput-performance - Broadly applicable tuning that provides excellent performance across a variety of common server workloads
- virtual-guest - Optimize for running inside a virtual guest
- virtual-host - Optimize for running KVM guests
Current active profile: balancedCurrent active profile: balanced 表示当前操作系统的 tuned 策略使用 balanced建议在当前策略的基础上添加操作系统优化配置。
b.创建新的 tuned 策略。
mkdir /etc/tuned/balanced-tidb-optimal/
vi /etc/tuned/balanced-tidb-optimal/tuned.conf[main]
includebalanced[cpu]
governorperformance[vm]
transparent_hugepagesnever[disk]
devices_udev_regex(ID_SERIAL36d0946606d79f90025f3e09a0c1fc035)|(ID_SERIAL36d0946606d79f90025f3e09a0c1f9e81)
elevatornoopincludebalanced 表示在现有的 balanced 策略基础上添加操作系统优化配置。
c.应用新的 tuned 策略。
tuned-adm profile balanced-tidb-optimal6.执行以下命令验证透明大页的状态
cat /sys/kernel/mm/transparent_hugepage/enabledalways madvise [never]7.执行以下命令验证数据目录所在磁盘的 I/O 调度器
cat /sys/block/sd[bc]/queue/scheduler[noop] deadline cfq
[noop] deadline cfq8.执行以下命令查看 cpufreq 模块选用的节能策略
cpupower frequency-info --policyanalyzing CPU 0:
current policy: frequency should be within 1.20 GHz and 3.10 GHz.The governor performance may decide which speed to use within this range.9.执行以下命令修改 sysctl 参数
echo fs.file-max 1000000 /etc/sysctl.conf
echo net.core.somaxconn 32768 /etc/sysctl.conf
echo net.ipv4.tcp_tw_recycle 0 /etc/sysctl.conf
echo net.ipv4.tcp_syncookies 0 /etc/sysctl.conf
echo vm.overcommit_memory 1 /etc/sysctl.conf
sysctl -p10.执行以下命令配置用户的 limits.conf 文件
cat EOF /etc/security/limits.conf
tidb soft nofile 1000000
tidb hard nofile 1000000
tidb soft stack 32768
tidb hard stack 32768
EOF三、手动配置 SSH 互信及 sudo 免密码
对于有需求通过手动配置中控机至目标节点互信的场景可参考本段。通常推荐使用 TiUP 部署工具会自动配置 SSH 互信及免密登录可忽略本段内容。
1.以 root 用户依次登录到部署目标机器创建 tidb 用户并设置登录密码
useradd tidb \
passwd tidb2.执行以下命令将 tidb ALL(ALL) NOPASSWD: ALL 添加到文件末尾即配置好 sudo 免密码
visudotidb ALL(ALL) NOPASSWD: ALL3.以 tidb 用户登录到中控机执行以下命令。将 10.0.1.1 替换成你的部署目标机器 IP按提示输入部署目标机器 tidb 用户密码执行成功后即创建好 SSH 互信其他机器同理。新建的 tidb 用户下没有 .ssh 目录需要执行生成 rsa 密钥的命令来生成 .ssh 目录。如果要在中控机上部署 TiDB 组件需要为中控机和中控机自身配置互信。
ssh-keygen -t rsa
ssh-copy-id -i ~/.ssh/id_rsa.pub 10.0.1.14.以 tidb 用户登录中控机通过 ssh 的方式登录目标机器 IP。如果不需要输入密码并登录成功即表示 SSH 互信配置成功。
ssh 10.0.1.1[tidb10.0.1.1 ~]$5.以 tidb 用户登录到部署目标机器后执行以下命令不需要输入密码并切换到 root 用户表示 tidb 用户 sudo 免密码配置成功。
sudo -su root[root10.0.1.1 tidb]#四、安装 numactl 工具
本段主要介绍如何安装 NUMA 工具。在生产环境中因为硬件机器配置往往高于需求为了更合理规划资源会考虑单机多实例部署 TiDB 或者 TiKV。NUMA 绑核工具的使用主要为了防止 CPU 资源的争抢引发性能衰退。
注意
NUMA 绑核是用来隔离 CPU 资源的一种方法适合高配置物理机环境部署多实例使用。通过 tiup cluster deploy 完成部署操作就可以通过 exec 命令来进行集群级别管理工作。
安装 NUMA 工具有两种方法
方法 1登录到目标节点进行安装以 CentOS Linux release 7.7.1908 (Core) 为例。
sudo yum -y install numactl方法 2通过 tiup cluster exec 在集群上批量安装 NUMA。
使用 TiUP 安装 TiDB 集群参考使用 TiUP 部署 TiDB 集群完成 tidb-test 集群的部署。如果本地已有集群可跳过这一步。
tiup cluster deploy tidb-test v6.1.0 ./topology.yaml --user root [-p] [-i /home/root/.ssh/gcp_rsa]执行 tiup cluster exec 命令以 sudo 权限在 tidb-test 集群所有目标主机上安装 NUMA。
tiup cluster exec tidb-test --sudo --command yum -y install numactl
