1、智慧警务项目部署运维手册XX科技股份有限公司编制目录一、文章编写目的5二、前置准备52.1 配置网络ip52.2 编写相关操作脚本91. 批量执行命令脚本92. 批量重命名脚本113. 批量拷贝脚本134. cm_migrate,sh155. format2.sh166. mountDisk.sh167. network,sh178. node,1.ist189. node,txt182.3hostname及hosts配置181.配置每台节点的hostname182.配置节点ip、hostname映射192.4 禁用SE1.inux192.5 关闭防火墙212.6 设置Swappiness21
2、2.7 关闭透明大页面222.8 配置操作系统本地yum源232.9 安装http服务252. 10集群时钟同步281.所有机器卸载ChrOny282 .所有机器安装nip283 .node1.机器配置时钟与自己同步284 .集群其它节点，配置找node1.机器去同步295 .重启所有机器的ntp服务296 .验证始终同步，在所有节点执行nipq-P命令，如下使用脚本批量执行292. 11安装NariaDB30三、C1.ouc1.eraManager安装372.1 配置本地CM源373. 2安装CIOUderaManagerServer40四、CDH安装424. 1CDH集群安装向导425.
3、2集群设置安装向导45五、HBASE安装465.1 准备工作：465.2 安装：461. 下载hbase1.3.2462. 解压463. 配置环境变量/.base_profi1.e464. hbase-env.sh配置javahomeWZK475. hbase-site.xm1.配置参数4711etcsysconfignetwork-scriptsifcfg-*会出现如下内容（ifcfg-ens后面的名字可能不同）-rw.1rootroot6168月1319:25etcsysconfig/network-scripts/ifcfg-ens1.6777736-rw-r-r.1rootroot25
4、41月32018etcsysconfignetwork-scriptsifcfg-1.o输入如下命令Vietcsysconfignetwork-scriptsifcfgens16777736出现下图界面rootwork-scripts#viifcfg-eno1.6777736#网络类型（通常是Ethernet）TYPE=rEthernetw#IP的配置方法noneStatic1.bootpdhcpj（引导时不使用协议I静态分配IpIbootp协议IDHCP协议）bootproto=,dhcpDEFROUTE=yes”IPV4_FAI1.URE_FATA1.=noIPV6INIT=yesIPV6
5、A1.T0C0NF=yesIPV6_DEFRoUTE=yesIPV6FAI1.UREFT1.=noNAME=eno1.6777736#随机idUUID=6d21f413-619d-4283-9ba2-e1.a724c1.c593DEVICE=eno1.6777736。系统启动的时候网络接口是否有效（ycsno）ONBOOT=yesPEERDNS=yes”PEERROUTES=yes*IPV6_PEERDNS=yesIPV6一PEERRo1.TES=yesIPV6_PRIVACY=*no需要修改的地方有：BOOTPROTO=StaticWhcp改为static（修改）0NB00T=yes#开机
6、启用本配置，一般在最后一行（修改）IPADDR=192.168.139.101#静态IP（增加）GATEWAY=I92.168.139.2#默认网关，虚拟机安装的话，通常是2,也就是VMnet8的网关设置（增加）NETMSK=255.255.255.0#子网掩码（增加）DNS1=192.168.139.2ffDNS配置，虚拟机安装的话,DNS就网关就行，多个DNS网址的话再增加（增加）这里注意，因为律态ip地址设置为192.168.139.101,因此默认网关和DNS地址前面部分，即192.168.139必须相同,不然会出现无法Ping通的情况SVICE=ethOHWADDr=OO:0C：29
7、14：8B：FATYPE=EthernetUID=63af865f-878d-4d93-8284-85d60af589bbIDNBOOT=yes1NM_CONTRO1.1.ED=yesbPRQTQ=staticI1.PAK=1.Z.1.b.1.IUU5ATEWAY=192,168.1.2)NS1=114.114.114.114)NS2=8.8.8.8重启网络服务使ip生效servicenetworkrestart如果报错，reboot重启虚拟机三台节点配置的ip分别为：192.168.1.131,192.168.1.132.192.168.1.133注意:每台节点克隆后需要删除每台节点e1.
8、cudevru1.es.d70-PCrSiStCnt-net.ru1.es文件，清除mac地址。重启每台节点即可。节点克隆后还可以使用以下方式修改mac地址ginfo_5.16.11.cm5161.p.1.e1.7.x86_64.rpmrw-r-r-1rootroot71204325Nov2714:40jdk-6u31-1.inu-amd64.rpm-rw-rr1rootroot142039186Nov2714:40orac1.e-j2sdk1.7-1.7.0+updatc67-1.x8664.rpmErootQnode1.cm5.16.1#CreaterePO.Spawningworker0
9、WiIh2pkgsSpawningworker1with2pkgsSpawningworker2with2pkgsSpawningworker3withIPkgSWorkersFiniShCdSavingPrimarymetadataSavingfi1.e1.istsmetadataSavingothermetadataGeneratingsq1iteDBsSq1.iteDBscomp1.ete如果createrepo命令没有，使用yum下载配置IWb服务器将上述cdh5.16cm5.16目录移动到varwwwhtm1.目录下，使得用户可以通过HTTP访问这些rpm包。rootSnode1.1
10、1vcm5.16/cdh5.16/varwwhtm1.验证浏览器能否正常访问制作C1.ouderaManager的repo源yum-yinsta1.1.c1.oudera-managei-server初始化数据库root0node1.yum.repos,d#/usrsharecmf/schema/scm_prepare_database.shmysq1.cmcmpasswordJAVAH()MIusrjavajdk1.7.067-cIoudcraVerifyingthatwecanwritetoetcc1oudera-scm-serverCreatingSCMConfigurationfi1.
11、einetcc1.oudera-scm-serverExecuting：usrjavajdk1.7.O67-c1.oudcra/bin/java-cpusrshare/java/mysq1-connector-java,jar：usrsharejavaorac1.e-connector-java.jar：usrsharejava/postgresq1.connector-java,jarusrsharecmf/schema/.1.ib*com.cIoudera.enterprise,dbuti1.DbCommandExecutoretcc1.oudera-scm-serverdb.proper
12、tiescom.cIoudcra.cmf.db.mainDbCommandExecutorINFOSuccessfu1.Iyconnectedtodatabase.A1.Idone,yourSCMdatabaseisconfiguredcorrect1.y!6.2版本命令/opt/cIoudera/cmschemascm_prepare_database.shmysq1.cmcmpassword启动CIOUderaManagerServerSystemc1.1.startC1.OUdera-SCm-SerVer检查端口是否监听netstat-Inptgrep7180错误：无须任何处理C一f1.
13、1.出现以上情况,使用以下命令yum-yinsta1.1net-too1.s通过http:192.168.139.101:7180/Cmf/1Ogin访问CM四、CDH安装1.1 CDH集群安装向导1 .admin/admin登录到CM2 .同意IiCCnSC协议，点击继续3 .选择60试用，点击继续的o4 .点击“继续”Umno5 .输入主机ip或者名称，点击搜索找到主机后点击继续ifi6 .点击“继续”注意这里列出来的CDH版本都是系统最开始默认的，来自于CIoUdera公网的下载源仓库，这里我们需要先将CDH的安装源修改一下。7 .使用parce1.选择，点击“更多选项”，点击“-”删除
14、其它所有地址,输入http:192.168.139.101cdh5.16.2,点击“保存更改”g”M3,219aiNQ保存更改后，这时回到上个页面会看到我们之前准备好的http的CDH5.16.1的源，如果显示不出来，可能http源配置有问题,请参考前面步骤仔细进行检查。8 .选择自定义存储库，输入Cm的http地址IUUteHJCNACMtMn力IhM了*MSfUu*c*1*r*1.*cMMMrMNMOmMSeeW.力一双，CCFgnK1.畔IHtMHS,运&训，的Ffft1.2 .点击“继续”，进入集群角色分配3 .点击“继续”，进入下一步，测试数据库连接4.测试成功，点击“继续”，进入目
15、录设置，此处使用默认默认目录,根据实际情况进行目录修改ODODOO4 .hbase-env.sh配置java_h(e和ZKambowhadoopNode1Conf$vi$HBASEHOME/conf/hbase-env.shexportJAVAHOME=homcw1.appjdk1.8.O121exportHAD00P_H0ME=/home/w1./app/hadoop-2.7.3exportHBASEMANAGESZK=fa1.sc#禁用Hbasc使用内置zookeperexportHBASE_BACK1.JP_MASTERS=SHBASE-HOME)confbackup-masters#配
16、置HA的第二个节HMaster节点新建一个$HBASE_HSIE/COnf/backup-masters文件viSHBASEJIOME/conf/backup-masters把备用的HMaStCr节点添加：hadoopNodc25 .hbase-site.xm1.配置参数hbase.roo1.dirhdfsc1.uster1.dghbasehbasc.c1.uster,distributcdtruehbase.zookeeper,quorumhadoopNode1,hadoopNode2,hadoopNode3,hadoopNode4.hadoopNode5hbase.zookeeper,pr
17、operty.dataDirhomeambowzkdatahdata6 .配Jtregionserver（配置每一个机器名子节点名不要配主节名）在hbaseCOnf/下新建regionserver文件，添加如入内容hadoopNodc3hadoopNode4hadoopNode57 .scp-rhbase到其他节点amboWWhadOOPNode1.confSscp-rapphbase-1. 3.2ambowhadoopNode5：appambowhadoopNodc1confSscp-rapphbasc-1.3.2ambowhadoopNode4：vappambowhadoopNode1co
18、nfSscprapphbase1.3.2ambowhadoopNodc3：appambHr0hadoopNode1confSscp-rapphbase-1.3.2ambowhadoopNode2：Vapp/ambowhadoopNode1.confSscp/.bashprofi1.eambow0hadoopNodc5:amboWWhadoOPNode1.confSscp/.bash_profi1.eambowhadoopNode4：ambowhadoopNodc1confSscp/.bash_profi1eambowhadoopNode3：ambowhadoopNode1confJSscp/.
19、bashprofi1.eambowQhadoopNodc2:各节点重新加载：sourceV.bash_profiIe启动hdfsstart-dfs.sh六、F1.ume安装6.1 安装1 .解压tar-ZXVfaPaChc-fIumcT.6.O-bin.tar.gzambowhadoopNode3f1.umeT.6.0$tar-zxvfapache-fIume-1. 6.O-bin.tar.gz-C7app2 .然后进入f1.ume的目录，修改Conf下的f1.umc-cnv.sh,配置JAVAJIOMEexportJVAJIOME=homeambowappjdk1.8.O1213 .配置.b
20、ash-ProfiIe文件exportF1.1.fE-HOME=homeambowappf1.ume-1.6.OexprotPATH=$PATH:$F1.UMEJioME/bin七、Kafka安装：7.1安装I.下载Apachekafka官方：http：/kafka.apache,o1.wn1.oads.htm1.Sca1.a2.11-kafka_2.11-0.10.2.0.tgz(asc,md5)注:当SCaIa用的是2.11那Kafka选择kafka_2.11-0.102.O.10.2才是Kafka的版本Kafka集群安装：1 .安装JDK&配置JAVAIOME2 .安装Zookeeper
21、参照ZOokeCPCr官网搭建一个ZK集群，并启动ZK臬群。3 .解压Kafka安装包ambowhadoopNode1ambow$tar-zxvfkafka_2.11一O.10.2.1.tgz-CVapp/4.配置环境变量exportKKAH()ME-homcambowapp/kafka2.11-0.10.2.1exportPTH=PTH:$KAFKAK)ME/bin5.修改配置文件config/server.propertiesviserver,properties#为依次增长的：0、1、2、3、4,集群中节点唯一idbroker,id-0#删除主题的配置，默认是fa1.se生产环境设为fa
22、1.sede1.ete,topic,enab1.e=true#监听的主机及端口号各节点改为本机相应的hostName1isteners=P1.AINTEXT：/hadoopNode1：9092邓afka的消息数据存储路径1.og.dirs-7homcambowkafka1.)ataIogs#创建主题的时候，默认有1个分区num.partitions=3#指定ZooKeeper集群列表，各节点以逗号分zookeeper,connect-hadoopode1.:2181,hadoopNode2:2181,hadoopNode3:2181,hadoopNode4：2181.hadoopNode5:2
23、1816 .分发至各个节点ambowhadoopNode1app$scp-rkafka2.11-0.10.2.1ambowhadoopNode5：VappambowhadoopNode1app$scp-rkafka2.11-0.10.2.1ambowhadoopNode4：appambowhadoopNode1app$scp-rkafka_2.11-0.10.2.1ambowhadoopNode3：VappambowhadoopNode1app$scp-rkafka2.11-0.10.2.1ambowhadoopNode2：VappambowhadoopNode1app$scp-r7.bash
24、profi1.eambowMIadoOPNode5：、ambowhadoopNode1app1$scp-r/.bashprofiIcambowhadoopNodc4:ambowhadoopNode1app：$scp-r.bash_profiIeambowWhadOOPNode3：,、ambowhadoopNode1app：$scp-r.bash_profi1.eambowhadoopNode2：source/.bash_profiIe7 .修改各个节点的配置文件：为依次增长的：0、1、2、3、4,集群中节点唯一idbroker,id-0力监听的主机及端口号各节点改为本机相应的hos1.Name1isteners-P1.AINTEXThadoopNode1：90928 .各台节点上启动Kafka服务ambowhadoopNode1app$kafka-server-start.sh$KAFK.*1.1.OME/config/server.properties&注：要先启动各节点ZOOkeePerZkServ1.et.shstartambowhadoopNodc1app$kafka-SCrVer-Stop.sh
