본문 바로가기

Study/Hadoop Architecture

Hadoop 2.8 Install & build (Windows 10)

Hadoop 2.8 설치

https://tecadmin.net/setup-hadoop-single-node-cluster-on-centos-redhat/#


Hadoop Build

http://khlee03.tistory.com/entry/windows-%EC%97%90%EC%84%9C-hadoop-%EC%84%A4%EC%B9%98


Hadoop 공식 사이트 Build.txt

https://svn.apache.org/viewvc/hadoop/common/branches/branch-2/BUILDING.txt?view=markup





Hadoop Build


Hadoop 동영상 Build

https://dzone.com/articles/build-and-install-hadoop-on-windows-with-native-bi


위 동영상 대로 따라하고 Windows SDK 7.1 Command Prompt 를 통해 각 프로젝트 들어가서 


준비사항

1. maven-plugin mvn install -DskipTests 먼저 

2. maven-common  mvn install -DskipTests 먼저

- Microsoft visual 2010 32, 64 제거하고 해야 돌아감.

- MSBUILD 시스템변수에 잡기 (Windows/Framework/4.0.0.xx)

- Platform 시스템변수 설정 꼭 해주기

- NetFramework 4.5 있으면 삭제 후 4.0 으로 설치.

- 만약 위에 전부 했는데도 안되면 https://stackoverflow.com/questions/31295963/hadoop-on-windows-building-installation-error/31331173#31331173

이 사이트 보고 재설치 (windows sdk 7.1 이랑 Framework 4.0 제거 후 재설치) 삭제할 때는 sdk, framework 순으로 삭제하고

설치할 때는 framework 4.0 -> sdk 7.1 순으로 설치)

3. NetFramework 기존 버전 제거

4. NetFramework 4.0 설치

5. 전체 프로젝트 tools.jar 설정 잡아주기

6. 각 프로젝트 mvn install -DskipTests


** 주의사항 **

기존 내가 데스크탑에 했던 것들은 D:\ 했고 딴 컴퓨터에서는 C:\ 에서 해서 뭔가 꼬이는게 있음. 그냥 소스 받아서 새로 하는게 남.


** Eclipse 에서 hadoop-common maven build 할 때 **

protoc.path=C:/protoc/protoc.exe 설정 해주면 넘어감.

안되면 Vmarguments 에 -Dprotoc.path=C:/protoc 추가




1) mvn install -DskipTests (dependency 를 받아서 저장소에 저장)

2) mvn eclipse:eclipse -DskipTests (eclipse 에서 import 할 수 있게 함.)

3) eclipse 에서 import existing project

4) eclipse 에서 소스 수정하고 Windows SDK 7.1 Command Promtpt 실행

5) 해당 프로젝트 pom.xml 위치 가서 mvn package -DskipTests 하면 jar 생성됨.

6) 하둡 /share/ ... / 밑에 jar 교체 하면 적용됨.

7) 하둡 시작 명령어는 start-all.sh

8) 하둡 정지 명령어는 stop-all.sh


* Build 명령어는 mvn package -DskipTests