rsync全球产线同步到中国产线任务描述1天之内全球产线的文件存储同步到中国产线背景90%以上全球产线的文件,中国产线已经存在,只是文件名和文件大小不同,但时间戳不同,快速,多功能的优秀工具,可以实现增量本地或远程数据镜像和同步备份。适用于多个平台。从软件名称可以看出是远程同步(remotesync)的意思。它可以在本地主机的不同分区或目录之间,以及两个本地和远程主机之间快速同步数据,并实现远程备份等功能。同步备份时,默认情况下,rsync使用其独特的“快速检查”算法,只同步大小或最后修改时间发生变化的文件或目录(也可以根据权限、所有权等的变化进行同步,参数需要指定)。甚至只同步文件中变化的内容部分,从而实现快速同步数据的功能。数据初始化方案一:完全初始化由于网速限制,传输2T数据需要几十天,所以没有掉落$方案二:更新已有文件的元数据哪些文件不需要更新默认:在源目录和目标目录,跳过文件名,文件大小,文件更新时间。执行时间:27分钟--ignore-times:源目录和目标目录,不跳过那些时间和大小相同的文件--size-only:在源目录和目标目录中,只有相同大小的文件(文件名、文件大小)被跳过。执行时间:7分钟checksum:根据checksum计算文件是否相同。执行时间:3小时+考虑到安全和速度,默认模式是最合适的,所以需要更新国内产线的时间戳和全球一致,所以需要更新文件将现有文件的名称和文件大小设置为相同的时间戳/centos7/rsync@10.254.162.xxx:/repo.xxx/xxxxprod/centos7/--existing:只更新DST中已经存在的那些文件,不备份那些新建的文件-a:归档模式,即DST中的文件保留元数据(包括时间戳)--progress:显示传输过程--exclude:不同步部分文件--rsync-path:指定rsync命令在远程服务器上的路径信息。(指定远程机器运行的rsync)定时任务同步基本命令rsync-aHAXxv--numeric-ids--update--progress--rsync-path="sudorsync"--exclude".*/"/repo.xxx/xxxxprod/centos7/rsync@10.254.162.xxx:/repo.xxx/xxxxprod/centos7/H:保留硬链接A:保留ACLsX:保留外部属性x:不跨越文件系统边界(don'tcrossfile-systemboundaries)v:printverboserecords--numeric-ids:don'tmapuid/gidvaluesbyuser/groupname_--update:ifDSTfilesareupdated,Thenskip(跳过较新的文件接收器)性能改进rsync-aHAXxv--numeric-ids--update--progress--rsync-path="sudorsync"--exclude".*/"-e"ssh-T-carcfour-oCompression=no-x"/repo.xxx/xxxxprod/centos7/rsync@10.254.162.254:/repo.xxx/xxxxprod/centos7/e:指定使用rsh、ssh方式进行数据同步sshT:禁止分发伪终端(关闭pseudo-tty以减少目的地的cpu负载。)carcfour:使用最弱但最快的加密算法arcfour,需要服务器支持oCompression=no:关闭SSH压缩(TurnoffSSHcompression.)x:禁用X11GUI转发(如果X转发默认开启,则关闭。)自动重传#!/bin/bashwhile[1]dorsync-avz--partialsourcedestif["$?"=“0”];thenecho"rsynccompletednormally"exitelseecho"Rsyncfailure.Backingoffandretrying..."sleep180fidone参考教程rsyncwikirsyncdocumentsrsync-copying-over-timestamps-onlyrsyncalgorithmsh中的-T参数是什么?我可以召集的最快的远程目录rsyncoverssharchival(40MB/sover1gbNICs)Rsync详细
