当前位置: 首页 > Linux

clouderamanager5.13.1离线安装记录

时间:2023-04-06 18:36:25 Linux

官网介绍了三种安装方式,A方式用于非生产环境自动安装,B方式打包安装,C方式tar包安装由于习惯等因素,我选择了使用tar包安装。现将安装过程中遇到的问题记录下来,供有需要的朋友参考。具体操作过程参考官方文档https://www.cloudera.com/docu...以及以下参考文章:http://www.cnblogs.com/jasond...http://blog.csdn.net/a921122/...注:文中部分图片来自安装的5.13.0版本,但操作是一样的,请不要纠结于这些细节。大体流程如下:一、准备工作:1、修改主机名,设置集群主机修改主机名,并使其生效。修改:vimetc/sysconfig/network使其生效:sourceetc/sysconfig/network统一设置集群主机(修改集群中各节点的hosts文件):vim/etc/hosts2.时间同步使用ntp使集群中各节点时间一致的服务。两种同步方式:2.1.分别与时间服务器同步。2.2.主从模式:设置其中一个为主,同步外部时间,其他保持与主时间同步。如果条件允许最好使用后者。3、设置防火墙网上的做法一般都是关闭防火墙,实际应用中不能直接关闭。可以设置防火墙规则来消除内网之间的隔离。使用哪种方法取决于您自己的情况。3.1:关闭防火墙立即生效,重启后恢复:`serviceiptablesstop`永久生效:`chkconfigiptablesoff`3.2:设置防火墙规则,允许内网间访问。修改:在/etc/sysconfig/iptables中添加`-AINPUT-s192.168.1.0/24-jACCEPT`,将192.168.1.0/24改为自己的网段/子网掩码。重启防火墙:`serviceiptablesrestart`4、设置集群免密码登录4.1查看本地是否可以免密码登录执行:sshlocalhost,如果不需要输入密码,可以免密码登录4.2创建登录公钥和私钥执行:`ssh-keygen-tdsa-P''-f~/.ssh/id_dsa`公钥放在id_dsa.pub,私钥放在id_dsa4.3本地免密登录将公钥追加到认证信息中:`cat~/.ssh/id_dsa.pub>>~/.ssh/authorized_keys`4.4跨主机免密登录在host28上执行:`scp~/.ssh/id_dsa.pubroot@host29:~/.ssh/`,输入host29的密码,在host29上执行:`cat~/.ssh/id_dsa.pub>>~/.ssh/authorized_keys`将公钥追加到认证信息4.5在所有节点上执行以上操作4.6失败记录:全部设置好后,还是没有密码登录不了。检查logless/var/log/secure失败原因:Authenticationrefused:badownershipormodesfordirectory/root找到问题,发现根文件夹的所有者和用户组已经改变了执行命令:chownroot.root/root/改回来5.安装jdk注意安装oraclejdk,不是openjdk。具体操作参考https://segmentfault.com/a/11...2.安装cm1并下载去官网下载安装包。官网地址:https://www.cloudera.com/docu...在下载页面找到环境对应的安装包地址:wgethttps://archive.cloudera.com/cm5/cm/5/cloudera-manager-el6-cm5.13.1_x86_64.tar.gz2,解压并移动到安装目录解压tar包:tar-zxvfcloudera-manager-el6-cm5.13.1_x86_64.tar.gz解压后,有两个目录cloudera和cm-5.13.1把这两个目录移动到安装目录下,比如/opt:mvclouderacm-5.13.1/opt/3。准备cdh安装包(一共三个文件)下载地址:http://archive.cloudera.com/c...wgethttp://archive.cloudera.com/cdh5/parcels/latest/CDH-5.13.1-1.cdh5.13.1.p0.2-el6.parcelwgethttp://archive.cloudera.com/cdh5/parcels/latest/CDH-5.13.1-1.cdh5.13.1.p0.2-el6.parcel.sha1wgethttp://archive.cloudera.com/cdh5/parcels/latest/manifest.json将安装包放在/opt/cloudera/parcel-repo/目录下:`mvCDH-5.13.1-1.cdh5.13.1.p0.2-el6.parcelCDH-5.13.1-1.cdh5.13.1.p0.2-el6.parcel.shamanifest.json/opt/cloudera/parcel-repo/`并修改CDH的名字-5.13.1-1.cdh5.13.1.p0.2-el6.parcel.sha1为CDH-5.13.1-1.cdh5.13.1.p0.2-el6.parcel.sha,否则无法识别,我当我选择CDH版本时看不到它:`mvCDH-5.13.1-1.cdh5.13.1.p0.2-el6.parcel.sha1CDH-5.13.1-1.cdh5.13.1.p0.2-el6.parcel.sha`4。准备mysqlconnector官网:https://dev。mysql.com/downloads/connector下载:`wgethttps://dev.mysql.com/get/Downloads/Connector-J/mysql-connector-java-5.1.45.tar.gz`解压:`tar-zxvfmysql-connector-java-5.1.45.tar.gz放在/usr/shara/java目录下(先检查目录是否存在,不存在则创建目录):`cpmysql-connector-java-5.1.45-bin.jar/usr/share/java/mysql-connector-java.jar`或者放在目录/opt/cm-5.13.1/share/cmf/lib/前者在安装hive时可以直接使用,后者会找不到,需要再次执行命令:`cp/opt/cm-5.13.1/share/cmf/lib/mysql-connector-java-5.1.45-bin.jar/opt/cloudera/parcels/CDH-5.13.1-1.cdh5.13.1.p0.2/lib/hive/lib/`5,配置代理:vim/opt/cm-5.13。1/etc/cloudera-scm-agent/config.iniserver_host是cm服务器的主机名或者ipserver_port是服务器的通讯端口,默认是71826,复制agent到其他节点scp-r/opt/cm-5.13.1host30:/opt7,在所有节点上创建用户cloudera-scmuseradd--system--home=/opt/cm-5.13.1/run/cloudera-scm-server--no-create-home--shell=/bin/false--comment“ClouderaSCM用户”cloudera-scm8。设置数据库信息8.1在mysql上新建一个数据库:cmf(clouderamanagedatabase)、hive(hivedatabase)、amon(clouderaAcrivityMonitor使用)、rman(clouderaReportsManager使用)8.2设置cmf连接信息:`/opt/cm-5.13.1/share/cmf/schema/scm_prepare_database.shmysql-hhost29--scm-hosthost28cmfusrnamepassword命令说明:/opt/cm-5.13.1/share/cmf/schema/scm_prepare_database.shdatabasetype-hdatabasehost--scm-hostcmhost数据库名称用户名密码具体参数可以在官网找到【https://www.cloudera.com/documentation/enterprise/latest/topics/cm_ig_installing_configuring_dbs.html#concept_i2r_m3m_hn__section_qjj_pyp_bm][3]8.3查看配置文件,发现信息已经写入:`vimcm-5.13.1/etc/cloudera-scm-server/db.properties`9.启动服务器:/opt/cm-5.13.1/etc/init.d/cloudera-scm-serverstart启动代理:/opt/cm-5.13.1/etc/init.d/cloudera-scm-agentstart三、安装集群1、登录cm在浏览器中输入http://192.168.5.28:7180登录cm(ip替换为cm服务器主机ip,端口为服务器的http服务端口,默认为7180),用户名和密码都是admin2,选择要安装的cm版本免费版和试用版都有。如果不使用高级功能,试用期满了也没有影响,可以继续使用。3、集群安装完成后,各节点正常启动,在当前管理的主机列表中可以看到对应的节点。选择你要使用的节点即可,基本全选。选择CDH版本。你放在/opt/cloudera/parcel-repo/下的parcel包会显示在这里。如果没有显示,查看CDH-5.13.1-1.cdh5.13.1.p0.2-el6.parcel.sha1是否没有改名为CDH-5.13.1-1.cdh5.13.1.p0。2-el6.parcel.sha,修改后重启server服务和agent服务。这里的第一次和第二次警告可以根据页面提示的设置方法进行设置。第三个警告是jdk版本不对,不能用openjdk,需要oraclejdk。在每个节点上设置:执行:`echo10>/proc/sys/vm/swappiness`编辑文件sysctl.conf:`vim/etc/sysctl.conf`,添加或修改vm.swappiness=0执行:echonever>/sys/kernel/mm/transparent_hugepage/defragechonever>/sys/kernel/mm/transparent_hugepage/enabled编辑文件rc.local:`vim/etc/rc.local`如果安装过程中断,继续再次安装时,主机可能会被管理:此时停止所有cm服务,删除cmf数据库,重新初始化cmf数据库。删除数据库:进入mysql,执行dropdatabasecmf;卸载挂载点:umountcm-5.13.1/run/cloudera-scm-agent/process清除所需节点的agentuuid信息:rm-rfcm-5.13.1/lib/cloudera-scm-agent/*注意:一定要先卸载挂载点,否则会提示无法删除:rm:cannotdelete"cm-5.13.1/run/cloudera-scm-agent/process":deviceorresourceBusytochoosetheservice安装,可以直接选择分组安装,也可以自定义安装填写预建数据库信息后继续操作,保持默认选项即可。注意:如果修改hdfs存储文件夹,请确保该文件夹已经存在,并保证访问权限。否则hdfs会启动失败,报错文件夹不存在。三、安装或使用过程中遇到的问题1、本主机上没有运行portmap或rpcbind服务。请先启动portmap或rpcbind服务,然后再尝试在此主机上启动NFS网关角色。在安装了NFSGateway的节点上安装rpcbind:安装:`yuminstallrpcbind`启动:`servicerpcbindstart`2.在安装了HiveMetastoreServer服务的机器上运行:cp/opt/cm-5.13.1/share/cmf/lib/mysql-connector-java-5.1.45-bin.jar/opt/cloudera/parcels/CDH-5.13.1-1.cdh5.13.1.p0.2/lib/hive/lib/