Software Development/Big Data

[Hadoop] 하둡 관련 default 설정 파일

루ㅌ 2022. 12. 15. 03:00

하둡 관련 프로그램 설치시 가장 많이 참고하게 되는 사이트가 docs이다.

 

하둡을 구축하는 환경은 달라, 발생하는 이슈가 다를 수 있지만 default.xml에는 꽤 많은 해결책들이 들어있다.

시간될 때, 어떤 설정들이 있는지 참고하면, 도움이 된다. 큰 맥락에서 비슷한 설정들이 많기 때문에 여러본 보다보니 제법 도움이 된다.

 

예를 들어, 리소스매니저가 컨테이너 환경에서 실행될 때, 웹 UI접근이 컨테이너 환경 내부에서만 접근가능하고, 호스트에서는 접근이 안되는 문제가 있었다. 

해당 문제는 yarn.resourcemanager.bind-host를 0.0.0.0으로 설정하면 해결됐었고, 이는 dfs.namenode.http-bind-host와 기능이 같은 설정이었다. 

dfs.namenode.http-bind-

yarn 관련: https://hadoop.apache.org/docs/r3.2.3/hadoop-yarn/hadoop-yarn-common/yarn-default.xml

hdfs 관련: https://hadoop.apache.org/docs/r3.2.3/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml