一、 获得推送证书及密码 Pushcart.p12 密码：xxxx 二、 找到任意一台linux主机，新建目录mkdir –p /apps/pushcart,将Pushcart.p12上传到主机的/apps/pushcart目录 Cd /apps/pushcart openssl pkcs12 -in Pushcart.p12 -out Pushcart.pem 回车 输入推送证书密码Enter Import Password：xxxx 回车 再次输入密码Enter PEM pass phrase:：meixin …
1、跟踪发现日志，如下： 2、经查询分析为内存不足导致： 见：https://blog.csdn.net/qq_41428711/article/details/86484571 （1）第一种，yarn资源不足 原因： 该错误是YARN的虚拟内存计算方式导致，上例中用户程序申请的内存为1Gb，YARN根据此值乘以一个比例（默认为2.1）得出申请的虚拟内存的值，当YARN计算的用户程序所需虚拟内存值大于计算出来的值时，就会报出以上错误。调节比例值可以解决该问题。具体参数为：yarn-site.xml中的yarn.no…
1、通过排查MUC服务，发现连接数据库2.63有问题。 2、大数据和移动app都和2.63数据库连接 3、检查2.63，发现/apps空间满了，无法写入数据，清理空间，配置/backup解决
近期大数据跑数失败故障记录 程序BUG * 1 系统时钟不同步 * 3 JAVA运行时内存低 * 1 美云Mysql连接数超上限(僵尸链接) * 1 节点服务器磁盘空间耗尽 * 2 节点系统熵池低于下限 * 2 ---------------------------------------- 4月08日14:59 4月12日 7:25 大数据故障说明： 1. 已设置系统时钟自动同步，但仍发生节点系统时钟不同步故障 2. 原因不明，仍需排查具体原因。但已有解决方案。 应急方案：手动同步时钟 解决方案：待定 4月17日…
1、报错现象： Caused by: java.sql.SQLException: null, message from server: "Host '172.18.2.46' is blocked because of many connection errors; unblock with 'mysqladmin flush-hosts'" at com.mysql.jdbc.SQLError.createSQLException(SQLError.java:964) at com.mysql.jdbc.SQL…
一、Oracle 1、oracle学习 CSDN-https://blog.csdn.net/tianlesoftware/article/list/1?t=1&orderby=UpdateTime2 关于OGG: 0、https://www.cnblogs.com/lanston/p/ogg_instrAndInstall.html#_label3 1、https://blog.csdn.net/zhengwei125/article/details/46473747——第一章：OGG简介 2、https…
1、关机更换硬盘 2、格式化硬盘 [root@BigDataHadoopDN2PRD data2]# parted -s /dev/sdc mklabel gpt [root@BigDataHadoopDN2PRD data2]# parted -s /dev/sdc mkpart primary ext2 0 100% Warning: The resulting partition is not properly aligned for best performance. [root@BigDataHadoop…
注意事项： 1、只有一个数据库主备2.48和2.49，但2.48有问题，后面放弃使用，只使用2.49，所以在启动数据库时，之启动2.49即可 2、2.46有一个调度程序，activemq，此服务的对外服务端口是61616，如果用root启动后，会产生一个log日志，在路径/bigdatamnt/hive/apache-activemq-5.14.4/data/kahadb中的db.log.下一次再用hive启动，会因为此log的权限问题导致失败，进而导致2.46的调度任务一直在等待。 解决方法：直接将db.log的…
一、前端无法加载 二、检查2.46的svn目录是OK的，可以正常update 三、分析原理 SVN文件夹为A，MSS 调度应用同步了一份为B A一直是最新的，开发提交变更都是提交到A上面 配置调度任务时，调度应用会加载A到B，然后在界面展示B的文件结构供界面选择程序路径 一旦配置完毕，后端抽数应用会取得相对路径，并到A中执行程序文件 因此，目前现象是，调度应用中加载不到B的目录结构和文件，但其下载功能可以下载原先已配置好抽数任务中旧的程序文件(B)。直接填写相对路径，抽数应用能够加载最新的文件(A)执行 四、问题分…
1、早上跑数失败 2、查看数据节点，发现datanode失败，namenode失败 3、尝试重启节点，namenode重启成功，但datanode仍然报错 datanode节点是172.18.2.40服务器 4、查看datanode日志 （1）发现/data2/dfs/dn有问题，无法写入 （2）进入/data2目录，尝试创建文件，报错：read-only file system;找到问题原因，需要修复硬盘 5、解决问题： （1）停止此节点的所有服务 （2）umount /data2,并fsck 修复 …
一、问题表现： 凌晨3点30分跑数失败，4.30号，5.10号，5.12号 失败，其他时间正常 二、原因分析： 1、通过对比5.5（正常）号和5.12（出错）的日志，发现在5.12号执行跑数，查找nameservice/时，找不到路径： ''hdfs://nameservice1/user/hive/temp/BD_CI'': No files matching path hdfs://nameservice1/user/hive/temp/BD_CI 2、跟踪namaservice，通过HDFS查看路径，发现na…
1、通过补录地址：http://dc.kportal.*.com:6080/dataCollection/#/ （1）跟踪查看域名解析地址：对应的是地址58.211.*.*:6080——172.18.2.67:6080 （2） 但是这个172.18.2.67:6080是访问不了的。 （3）再次查看172.18.2.67，是haproxy代理，同时也是vip（172.18.2.65，172.18.2.66的虚拟地址）地址，172.18.2.67:6080实际地址为172.18.2.65:6080或172.18.2.6…
一、跑数时间延长，之前为3小时20分钟左右，出现问题后，跑数时间大约为6小时左右 二、查看集群问题： 三、分析过程： 1、根据错误，初步估计为metastore server 服务器出现问题； 2、查看日志： 3、查看数据库： 4、分析为DNS反向代理解析太多，导致不断进行解析 mysql日志显示[Warning] IP a…
报：read-only,系统问题，是/bigdatamnt 无法写入，重启服务，执行fsck修复检查即可 2、跑数的问题，跑成功了，显示正在跑数。；调度平台现在没有排序功能了 （1）2.46的版本问题，使用最新版本MSS-4.2.2.jar，看时间 （2）2.42也需要开启MSS-4.2.2.jar服务，用于调度平台 3.
一、如图： 二、根据图中显示，有服务未启动 查看发现BigDataHadoopDN5PRD的impala和yarn角色未启动，未跟随yarn集群启动，需要手动单独启动 三、解决方法： 需找到将这两个角色一块随集群启动的方法。如果启动不了，手动即可
在安装cloudera-manager-agent-5.14.2-1时，发现依赖包不存在 2、安装ISO源，进行解决，在2.48上加载ISO源，网站是：http://172.18.2.48/iso/repodata/ yum clean all; yum repolist; 挂载光盘到网站： mount /dev/sr0 /var/www/html/iso 3、
操作步骤： 停掉HDFS集群 关掉问题机器，解决并开机 开启HDFS集群
0.前期准备：更改主机名 [root@BigDataHadoopHS4PRD ~]# cat /etc/sysconfig/network NETWORKING=yes HOSTNAME=BigDataHadoopHS4PRD 1.设置/etc/hosts文件(CDH集群内所有主机都要配置)-此处给HiveServer4 备份配置文件： [root@BigDataHadoo…
本文档以增加DataNode5PRD为记录。 一、集群环境信息 本次安装集群共7+1台主机，其中一台CM管理节点，2台namonode节点，4+1台datanode节点。具体信息如下： 主机名 IP地址 集群角色 主机配置 操作系统版本 BigDataHadoopCMPRD 172.18.2.50 CM 8C/16G RHEL 6.9 BigDataHadoopNN1PRD 172.18.2.38 namonode 20C/256G RHEL 6.9 BigD…
