Google Wiki
- Get Source Code
- Build Source Code & Generate Documentation Tree
【安装】
- 安装过程运行于Ubuntu操作系统,以下所列说明指令适用于Ubuntu的安装方式,若使用者要安装到其他作业平台环境,可以参考下列安装项目并以通用该平台的安装指令来取代之,接下来会说明编译过程中的相关档案存放位置,以及如何组态并编译原始程式码,最后再说明安装方式及如何执行迴归测试。
- Hypertable原始程式码的存放路径放置于: ~/src/hypertable
- 编译过程中所产生的连结物件档存放于: ~/build/hypertable
- 编译完成的输出执行档存放路径: ~/hypertable
【下载原始程式码】
- 要取得Hypertable原始码需要先安装 git这套由google所提出的版本控制软体,安装指令如下: $ sudo apt-get install git-core
- 然后执行以下指令设定git所通行的使用者资讯,这一份使用者资讯原则上是由git这套版本控制软体储存,以及留作记录程式码被哪些使用者下载的一份参考来源,其设定使用者资讯方式如下: $ git config --global user.name "<your name>"$ git config --global user.email "<your email>"
- 使用git下载Hypertable原始码之指令: $ git clone git://scm.hypertable.org/pub/repos/hypertable.git
- 更新已下载之Hypertable原始码方式: $ cd ~/hypertable$ git pull
【如何设定编译组态】
- 在编译Hypertable之前,需要先把编译环境准备好,有一些编译软体要先安装就序,以下条列出在Ubuntu环境下,各项编译软体的安装指令:
- 此套件在安装C语言标准程式库所需要的编译环境,如果没有安装build-essential套件时可能会出现编译阶段找不到stdio.h这个引入档案的位置,因此建议要先确认这项套件是否有安装。 $ sudo apt-get install build-essential
- 在Hypertable会使用到一些资料压缩与解压缩功能,因此需要安装 z library。 $ sudo apt-get install zlib1g-dev
- 安装可跨平台的makefiles产生工具CMake,因此可以选择编译器及编译环境来产生Hypertable的执行档;根据官网公佈资讯,目前测试过可执行的平台仍以Linux/Unix为主,Windows平台仍在测试当中。 $ sudo apt-get install cmake
- 安装Boost 程式库1.34.1以上版本,这套程式库为强化C++ Standard Library而设计,内含功能像是记忆体的Buffer处理,数学,Hash,MPI,图形等等函式库。 $ sudo apt-get install libboost.*-dev libboost-doc libboost.*1.34.1
- 安装log4cpp套件,此套件参考log4j而设计,故名思议是针对c++而设计的记录日志档机制,在Hypertable里的记录档案便是由此套记录机制在处理Log功能。 $ sudo apt-get install liblog4cpp*
- 安装expat套件,这个套件是一个XML处理程式库,在Hypertable举凡对于XML的存取都是引用这个套件来处理。 $ sudo apt-get install expat libexpat1 libexpat1-dev
- 安装libattr套件,它是处理档案的延伸属性的程式库。 $ sudo apt-get install libattr1 libattr1-dev
- 安装readline套件,这份套件内含读取terminal上的command line程式库,在Hypertable里面像是登入hql shell模式,或其他会需要读取command line的情况会使用到这一类的功能。 $ sudo apt-get install libreadline5-dev
- 安装ncurses,透过它可以撰写terminal底下的文字模式介面程式,在Hypertable里面像是登入hql shell模式,或需要模拟文字模式下的使用者介面,会使用到这一类的功能。 $ sudo apt-get install libncurses5 libncurses5-dev
- 安装tcmalloc(Thread-Caching Malloc)套件,它是一个记忆体配置套件,可处理多执行绪情况下的记忆体回收之程式库。 $ sudo apt-get install libgoogle-perftools0 libgoogle-perftools-dev
- 开始编译程式前还需要建立安装目录,以及编译后的物件档案存放目录 $ mkdir ~/src/hypertable$ mkdir -p ~/build/hypertable
- 执行CMake来产生编译组态文件(makefiles),并指定编译后的执行档模式为侦错模式(Debug)或发行模式(Release),以及安装路径,如果组态过程中出现找不到预设路径下的Boost程式库时,可以再指定其路径,指令范例如下列所示,其中 -D代表定义某个变数的前置符号。 $ cmake -DCMAKE_INSTALL_PREFIX="~/hypertable" -DCMAKE_BUILD_TYPE="Debug" -DBoost_INCLUDE_DIR="/usr/include/boost" ~/src/hypertable
- 在产生编译程式读取的组态档过程中,显示结果加註说明如下: 组态过程...-- Looking for required boost libraries...寻找boost程式库当中...-- Boost include dir: /usr/include/boost找到boost的header档案路径-- Boost thread lib: /usr/lib/libboost_thread-mt.so找到boost的多执行绪处理之动态程式库-- Boost program options lib: /usr/lib/libboost_program_options-mt.so找到boost的程式参数处理之动态程式库-- Boost lib dir: /usr/lib找到boost的动态程式库存放路径-- Boost version: 1_34_1显示boost的版本资讯-- Looking for doxygen...寻找doxygen程式库当中...-- Looking for doxygen... - found /usr/bin/doxygen找到doxygen的执行程式路径-- Looking for dot tool...寻找graphviz绘图使用的dot套件-- Looking for dot tool... - found /usr/bin/dot找到dot的执行程式路径-- Found Tcmalloc: /usr/lib/libtcmalloc_minimal.so找到tcmalloc的动态连结程式库路径-- Got boost 1.34.x, prepend fix directory-- Configuring done-- Generating done-- Build files have been written to: ~/build/hypertable组态完成后把编译需要的设定档放到指定路径~/build/hypertable
【如何编译与安装】
- 开始编译之前,要先切换到编译组态档的存放路径,根据上述组态预设路径为~/build/hypertable,然后再执行编译指令: $ cd ~/build/hypertable$ make
- 编译之后的结果显示如下: [6%] Built target HyperComm[ 10%] Built target HyperCommon[ 11%] Built target commTest[ 12%] Built target commTestDatagram[ 12%] Built target commTestReverseRequest[ 13%] Built target commTestTimeout[ 13%] Built target commTestTimer[ 13%] Built target sampleClient[ 14%] Built target testServer[ 14%] Built target htConvert[ 17%] Built target Hyperspace[ 33%] Built target Hypertable[ 42%] Built target HyperDfsBroker[ 50%] Built target Hyperspace.Master[ 56%] Built target Hypertable.Master[ 57%] Built target htgc[ 73%] Built target Hypertable.RangeServer[ 76%] Built target count_stored[ 79%] Built target csdump[ 79%] Built target bmz-test[ 79%] Built target bmzip[ 80%] Built target compressor_test[ 80%] Built target generate_test_data[ 80%] Built target loadDataSourceTest[ 81%] Built target locationCacheTest[ 81%] Built target schemaTest[ 85%] Built target dfsTest[ 88%] Built target dfsclient[ 94%] Built target hyperspace[ 94%] Built target hyperspaceTest[ 95%] Built target hypertable[ 95%] Built target hypertable_test[ 96%] Built target dumplog[ 96%] Built target merge_diff[ 97%] Built target rsTest[ 98%] Built target rsclient[ 99%] Built target rsdump[ 99%] Built target serverup[100%] Built target localBroker
- 安装指令如下: $ make install DESTDIR="~/hypertable"
- 由于安装过程较为繁杂,所以省略了其中一些步骤之后说明如下: 编译过程省略..[6%] Built target HyperComm......[100%] Built target localBroker连结程式过程..Linking CXX executable CMakeFiles/CMakeRelink.dir/Hyperspace.MasterLinking CXX executable CMakeFiles/CMakeRelink.dir/Hypertable.MasterLinking CXX executable CMakeFiles/CMakeRelink.dir/htgcLinking CXX executable CMakeFiles/CMakeRelink.dir/Hypertable.RangeServerLinking CXX executable CMakeFiles/CMakeRelink.dir/count_storedLinking CXX executable CMakeFiles/CMakeRelink.dir/csdumpLinking CXX executable CMakeFiles/CMakeRelink.dir/generate_test_dataLinking CXX executable CMakeFiles/CMakeRelink.dir/dfsclientLinking CXX executable CMakeFiles/CMakeRelink.dir/hyperspaceLinking CXX executable CMakeFiles/CMakeRelink.dir/hypertableLinking CXX executable CMakeFiles/CMakeRelink.dir/dumplogLinking CXX executable CMakeFiles/CMakeRelink.dir/merge_diffLinking CXX executable CMakeFiles/CMakeRelink.dir/rsclientLinking CXX executable CMakeFiles/CMakeRelink.dir/rsdumpLinking CXX executable CMakeFiles/CMakeRelink.dir/serverupLinking CXX executable CmakeFiles/CMakeRelink.dir/localBroker安装程式过程,部份内容省略未列出,仅列出整理排列后之内容..Install the project...-- Install configuration: "Debug"安装设定档..-- Installing ~/hypertable/0.9.0.5/conf/hypertable.cfg-- Installing ~/hypertable/0.9.0.5/conf/METADATA.xml安装引用档案及应用范例程式及测试资料库内容(省略)..安装Java及C/C++程式库..-- Installing ~/hypertable/0.9.0.5/java/lib/commons-logging-1.0.4.jar-- Installing ~/hypertable/0.9.0.5/java/lib/Hadoop-0.14.4-core.jar-- Installing ~/hypertable/0.9.0.5/java/lib/junit-4.3.1.jar-- Installing ~/hypertable/0.9.0.5/java/lib/log4j-1.2.13.jar-- Installing ~/hypertable/0.9.0.5/java/lib/hypertable-0.9.0.jar-- Installing ~/hypertable/0.9.0.5/lib/libHyperComm.a-- Installing ~/hypertable/0.9.0.5/lib/libHyperCommon.a-- Installing ~/hypertable/0.9.0.5/lib/libHyperspace.a-- Installing ~/hypertable/0.9.0.5/lib/libHypertable.a-- Installing ~/hypertable/0.9.0.5/lib/libHyperDfsBroker.a安装可执行程式..-- Installing ~/hypertable/0.9.0.5/bin/jrun-- Installing ~/hypertable/0.9.0.5/bin/start-all-servers.sh-- Installing ~/hypertable/0.9.0.5/bin/start-master.sh-- Installing ~/hypertable/0.9.0.5/bin/start-range-server.sh-- Installing ~/hypertable/0.9.0.5/bin/kill-servers.sh-- Installing ~/hypertable/0.9.0.5/bin/slaves.sh-- Installing ~/hypertable/0.9.0.5/bin/Hyperspace.Master-- Installing ~/hypertable/0.9.0.5/bin/Hypertable.Master-- Installing ~/hypertable/0.9.0.5/bin/htgc-- Installing ~/hypertable/0.9.0.5/bin/Hypertable.RangeServer-- Installing ~/hypertable/0.9.0.5/bin/csdump-- Installing ~/hypertable/0.9.0.5/bin/count_stored-- Installing ~/hypertable/0.9.0.5/bin/generate_test_data-- Installing ~/hypertable/0.9.0.5/bin/dfsclient-- Installing ~/hypertable/0.9.0.5/bin/hyperspace-- Installing ~/hypertable/0.9.0.5/bin/hypertable-- Installing ~/hypertable/0.9.0.5/bin/dumplog-- Installing ~/hypertable/0.9.0.5/bin/merge_diff-- Installing ~/hypertable/0.9.0.5/bin/rsclient-- Installing ~/hypertable/0.9.0.5/bin/rsdump-- Installing ~/hypertable/0.9.0.5/bin/serverup-- Installing ~/hypertable/0.9.0.5/bin/localBroker
【由原始程式码建立程式说明文件】?
- 要由原始程式码产生文件资料,需要再额外安装2个套件,分别为Doxygen及Graphviz,第1个套件是产生类别,属性及函式功能说明文件之文件产生器程式库,可协助程式设计者将特定格式之註解里的说明文件导出,产生说明文件,目前Doxygen支援的程式语言包含C++/C/Java/Object-C/Python/IDL/Fortran/VHDL/PHP/C#等程式语言;另一个套件Graphviz可以将指定格式的结构化资讯,转换为抽象图形或网路图形,在Doxygen套件里的图形处理,是引用这个套件来产生类别阶层图。
产生说明文件的方式,只要将目录切换到组态设定档路径,然后执行Make指令后可以自动产生文件: $ cd ~/build/hypertable$ make doc - 文件产生后放置路径为~/build/hypertable/doc ,文件首页放置路径为: $ ~/build/hypertable/doc/html/index.html
【执行迴归测试】
- 执行程式部署完成之后,还需要再进一步设定Hypertable挂载的磁碟分割区,开启档案的延伸属性功能,然后重新启动Hypertable之后才算完成安装步骤。当Hypertable使用的磁碟磁区是本机硬碟空间,并且作业系统为Windows/Linux/Unix,才会需要特别再修改/etc/fstab设定档,增加user_xattr属性;若是作业系统为Mac OS或是使用Hadoop File System(HDFS)/Kosmos File System(KFS),则会内建有延伸属性功能,不用再去修改档案系统。
- 修改/etc/fstab前的内容范本: $ /dev/sda1 ext3 defaults,errors=remount-ro 0 1
- 修改/etc/fstab后的内容范本: $ /dev/sda1 ext3 defaults,user_xattr,errors=remount-ro 0 1
- 不用关机并重新挂载磁碟空间的方法: $ sudo mount -o remount /home
- 重新启动Hypertable方式是先关闭所有的伺服器,然后再开启,指令如下: 切换到执行档案路径$ cd ~/hypertable/0.9.0.5/bin关闭Server$ ./kill-servers.sh 使用本机端磁碟空间的开启方式$ ./start-all-servers.sh local
- 启动所有伺服器的指令格式如下: Usage: start-test-servers.sh [local|hadoop|kosmos]
- 运行迴归测试之指令及结果如下: $ make testRunning tests...Start processing testsTest project /home/sunny/build/hypertable1/ 17 Testing HyperCommPassed2/ 17 Testing HyperComm-datagram Passed3/ 17 Testing HyperComm-timeoutPassed4/ 17 Testing HyperComm-timerPassed5/ 17 Testing HyperComm-reverse-requestPassed6/ 17 Testing Schema Passed7/ 17 Testing LocationCachePassed8/ 17 Testing LoadDataSource Passed9/ 17 Testing BlockCompressor-BMZPassed 10/ 17 Testing BlockCompressor-LZOPassed 11/ 17 Testing BlockCompressor-NONE Passed 12/ 17 Testing BlockCompressor-QUICKLZPassed 13/ 17 Testing BlockCompressor-ZLIB Passed 14/ 17 Testing HyperDfsBroker Passed 15/ 17 Testing Hyperspace Passed 16/ 17 Testing hypertable Passed 17/ 17 Testing RangeServerPassed100% tests passed, 0 tests failed out of 17
【组态设定说明】
- 系统组态预设的存放位置为安装路径的conf目录底下: ~/hypertable/0.9.0.5/conf/hypertable.cfg
- 这个组态档可提供使用者设定3种档案系统的桥接程式 (DfsBroker?)之位址与通讯埠等等资讯,以及Hyperspace与Hypertable的Master伺服器资讯,和Hypertable的Range Server资讯,换言之,这些可设定的伺服器位址可以不限定在同一台机器上,它们可以各别存在于不同台机器上运作,除了Hyperspace与Hypertable的Master伺服器同一时间只允许互动运作一个执行个体之外,Range Server与DfsBroker是可以多个执行个体同时互动执行的,所以启动Hypertable服务的机器,都会先确认过DfsBroker是否运作正常,Hyperspace与Hypertable的Master是否启动成功,然后再启动本机的Range Server;单机版的Hypertable会同时启动Hyperspace+Master+Range Server+Local DfsBroker?在同一台机器上,多机版的Hypertable则可以把这4种服务分散在不同台机器上。
- 预设的设定档内容如下: ## hypertable.cfg## Global properties# Hypertable的等待连线时间Hypertable.Request.Timeout=180# HDFS Broker服务的相关设定HdfsBroker.Port=38030HdfsBroker.fs.default.name=hdfs://localhost:9000HdfsBroker.Workers=20# Local DFS Broker 服务的相关设定DfsBroker.Local.Port=38030DfsBroker.Local.Root=fs/local# DFS Broker 给用户端的相关设定DfsBroker.Host=localhostDfsBroker.Port=38030# Hyperspace 的相关设定Hyperspace.Master.Host=localhostHyperspace.Master.Port=38040Hyperspace.Master.Dir=hyperspaceHyperspace.Master.Workers=20# Hypertable.Master 的相关设定Hypertable.Master.Host=localhostHypertable.Master.Port=38050Hypertable.Master.Workers=20# Hypertable.RangeServer 的相关设定Hypertable.RangeServer.Port=38060
在Ubuntu上安装Hypertable0.9.5.4openSUSE 12.2硬盘安装BUG:no repository found相关资讯 Hypertable
- Hypertable 0.9.7.18 发布,分布式 (05/16/2014 07:51:56)
- Hypertable 0.9.7.16 发布,分布式 (02/19/2014 08:59:10)
- Hypertable 0.9.7.12 发布,分布式 (10/08/2013 09:34:17)
| - Hypertable 0.9.7.17 发布,分布式 (03/19/2014 08:01:23)
- Hypertable 0.9.7.15 发布,分布式 (01/11/2014 09:35:36)
- Hypertable 0.9.7.11 发布,分布式 (09/26/2013 16:47:06)
|
本文评论 查看全部评论 (0)