从apache官网上下载hbase的稳定版本:http://mirror.bit.edu.cn/apache/hbase/stable/hbase-1.1.2-bin.tar.gz解压到本机上的任何一个目录,在我的电脑上是/home/jason/hbase:tar xvfz hbase-1.1.2-bin.tar.gz修改/etc/profile文件增加环境变量http://my.oschina.net/u/914897/admin/new-blogexport HBASE_HOME=/home/jason/hbase/hbase-1.1.2export PATH=$PATH:$HBASE_HOME/binsource /etc/profile使配置生效配置/conf/hbase-env...
无意将hdfs上的hbase文件(hbase的rootDir为hdfs:master1:9000/hbase)删掉了,重启hbase和ZK都不行解决方案:使用hbase的ZK即设置 hbase-env.sh 中的 HBASE_MANAGES_ZK 为 true在重启hbase 即可生成hbase文件之后在使用单独的ZK来管理hbase即可原文:http://my.oschina.net/zhangdengpan/blog/326876
今天又碰到的问题:Not able to place enough replicas2015-02-08 18:35:43,978 ERROR org.apache.hadoop.security.UserGroupInformation: PriviledgedActionException as:web cause:java.io.IOException: File /hbase/ule_file/fbade52c03733ec2aa6d5355052d9c89/recovered.edits/0000000000004181150.temp could only be replicated to 0 nodes, instead of 12015-02-08 18:35:43,978 INFO org.apache.hadoop.ipc.Server: IPC Se...
如果是根据尚硅谷视频学习的,①hadoop3.x ②hbase1.3.1 在初次使用hbase-daemon.sh start master命令后,HMaster启动之后很快就会挂掉 我使用的版本是hadoop3.1.3,zookeeper 3.5.6,hbase2.2.2 解决方法:在hbase/conf/hbase-site.xml中, 此外,hbase和hadoop版本之间有对应关系,需要注意。原文:https://www.cnblogs.com/wangmengdx/p/14824015.html
启动HBase集群:bin/start-hbase.sh单独启动一个HMaster进程:bin/hbase-daemon.sh start master单独停止一个HMaster进程:bin/hbase-daemon.sh stop master单独启动一个HRegionServer进程:bin/hbase-daemon.sh start regionserver单独停止一个HRegionServer进程:bin/hbase-daemon.sh stop regionserver 原文:http://www.cnblogs.com/jun1019/p/6260492.html
报错:org.apache.hadoop.ha.FailoverController: Unable to gracefully make NameNode at bender/192.168.0.66:9000 standby (unable to connect) 参考:<property><name>hbase.rootdir</name><value>hdfs://mycluster/hbase</value></property>这里有问题,需要将hadoop的配置文件hdfs-site.xml拷贝到hbase的conf文件夹下,否则会报错unknownhostexcetpion原文:http://www.cnblogs.com/iiot/p/4137960.html
今天配置hbase的时候发现有几台机器的regionserver启不来。报错如下:
at sun.reflect.NativeConstructorAccessorImpl.newInstance0(Native Method)
at sun.reflect.NativeConstructorAccessorImpl.newInstance(NativeConstructorAccessorImpl.java:39)
at sun.reflect.DelegatingConstructorAccessorImpl.newInstance(DelegatingConstructorAccessorImpl.java:27)
at java.lang.reflect.Constru...
文章目录
前言一、Hadoop1.打开和关闭Hadoop命令
二、HBase1.打开和关闭HBase命令
三、Spark1.启动Spark-Shell2.退出Spark-Shell
总结前言
最近在学习大数据技术,在这里总结一些Hadoop、HBase、Spark常用的技术指令一、Hadoop
1.打开和关闭Hadoop命令
代码如下(示例):
#首先,进入hadoop目录下
cd /usr/local/hadoop
./sbin/start-dfs.sh #打开hadoop
./sbin/stop-dfs.sh #关闭hadoop
jps #查...
1.启动集群
文件名: start-cluster.sh#! /bin/bashecho "------正在启动集群------"
echo "------正在启动Zookeeper------"
'/home/grid/zookeeper/bin/zkServer.sh start'
ssh grid@Slave1 '/home/grid/zookeeper/bin/zkServer.sh start'
ssh grid@Slave2 '/home/grid/zookeeper/bin/zkServer.sh start'echo "------正在启动Hadoop-----"
'/home/grid/hadoop/sbin/start-all.sh'echo "------正在启动Spark------"
'/home/grid/sp...
昨天测试环境的Hbase启动有问题,日志中显示: transaction type: 1 error: KeeperErrorCode = NoNode for /hbase hmaster等其他进程日志中显示连接不上zookeeper,发现zookeeper启动有问题。 于是判断可能是(% style=font-size: 14px; line-height: normal; %昨天测试环境的Hbase启动有问题,日志中显示:
transaction type: 1 error: KeeperErrorCode = NoNode for /hbase
hmaster等其他进程日志中显示连接不上zookeeper,发现zookee...
Hbase无法启动,报:Address already in use 01 [hadoop@Master bin]$ ./start-hbase.sh 02 starting master, logging to /usr/hadoop/hbase/logs/hbase-hadoop-master-Master.Hadoop.out 03 192.168.1.4: starting regionserver, logging to /usr/hadoop/hbHbase无法启动,报:Address already in use01
[hadoop@Master bin]$ ./start-hbase.sh
02
starting master, logging to /usr/hadoop/hbase/logs/hbase-hadoop-master-Maste...
启动HBase后遇到的一个问题 有好几次,启动Hadoop和HBase之后,执行jps命令,已经看到有HMaster的进程, 但是进入到HBase的shell,执行一个命令,会出现下面的错误: ERROR: org.apache.hadoop.hbase.MasterNotRunningException: Retried 7 times 进入到logs启动HBase后遇到的一个问题有好几次,启动Hadoop和HBase之后,执行jps命令,已经看到有HMaster的进程,但是进入到HBase的shell,执行一个命令,会出现下面的错误:ERROR: or...
一、概述 本文基于HBase-2.2.1分析HMaster的启动流程。由于HMaster启动代码比较多,这里只是将主要函数拿出来说一下,其实主要做了以下几件事: 1).获取配置文件,对HBasemaster进行了实例化,由于HMaster继承自HRregionServer,先调用HRegionServer的构造函数进行初始化; 2).HRegionServer构造函数主要是对做了一些校验,如果启用了Kerberos先进行进行了登录,启动zookeper对于hbase znode的监听,获取master对应znode节...
我正在尝试连接到HBase时处理故障情况.目前,我检查HBase是否与HBaseAdmin.checkHBaseAvailable(conf);一起运行.但是这个api只会在大约40秒之后抛出MasterNotRunning或ZookeeperConnectionException的异常.所以,我尝试设置以下重试,hbase.client.retries.number = 1和zookeeper.recovery.retry = 1.这让我在6-7秒内处理异常.但是,我需要一种更快速的方法来了解HBase集群是否正在运行,因为我正在我的应用程序中的同步调用中登录到HBa...
一.准备环境CDH-5.12 (HBase1.2)Phoenix 4.10Spark 2.1.1二.实时数据同步架构(DSHS JOB)MySQL-->Maxwell-->Kafka-->Spark?Streaming+Phoenix-->HBase三.异常现象RegionServer节点挂了,发送微信警告信息,登录Cloudera Manager查看发现有6个节点挂了。那么第一步应该就是尝试重启这6个RegionServer节点,发现只恢复5个节点;但是还有1个RegionServer节点(hadoop50机器)无法启动,这时查看RegionServer日志:tail?-200f?/var/log/hba...