본문 바로가기

아파치 스톰

빅데이처 처리 방식 3가지 : 배치 처리, 실시간 처리, 대화형 처리 빅데이처 처리 방식 3가지배치 처리(Batch Processing)Batch : 초, 분, 시간, 일, 월수준의 일괄 처리실시간 처리(Real-Time Processing)Near Real-Time : 초단위(seconds) 수준의 지연시간 보장Real-Time : 밀리세컨드(milliseconds, 1000분의 1초) 수준의 데이터 처리 보장Real Real-Time : 마이크로세컨드(Microseconds, 100만분의 1초) 수준의 데이터 처리 보장대화형 처리(Interactive Processing)REPL : Read-Eval-Print Loop의 약자로 스칼라, 파이썬 등 대화형 환경을 말한다. 콘솔에서 컴파일 없이 코드를 입력하고 출력 결과를 확인 할 수 있는 환경. 배치 처리(Batch-P.. 더보기
Ambari Storm Issue ambari org.apache.storm.utils.NimbusLeaderNotFoundException: Could not find leader nimbus from seed hosts [블라블라~~~~] 이런 에러가 오늘 발생하였다. Aㅏㅏㅏ.. 멘붕 그 자체. 어디서부터 손을 대야될지 모르겠다. 일단 동물적인 감각으로는 Nimbus가 작동을 안하는것 같아서 Nimbus를 담당하고 있는 노드로 직행. UI를 통해 restart. 결과 ? 5분후 Nimbus 꺼짐,. 2차 멘붕이 왔다. 호흡을 가다듬고, 정신을 차려보자. 시간이없다. 자..Nimbus와 connect 되어있는 zookeeper를 한번 건드려보자. zookeeper가 동작하는 node로 이동하여서... ambari-agent가 살아있는.. 더보기
아파치 스톰(Apache-Storm) 1.0.3 설치 $wget http://apache.mirror.cdnetworks.com/zookeeper/zookeeper-3.4.9/zookeeper-3.4.9.tar.gz$tar -zxvf zookeeper-3.4.9.tar.gz$cd zookeeper-3.4.9$mv conf/zoo_sample.cfg zoo.cfg$vi conf/zoo.cfg tickTime = 2000initLimit = 10syncLimit = 5dataDir = /$Home(사용할 폴더 지정)clientPort = 2181 $./bin/zkServer.sh start 여기까지 완료하시면 zookeeper 서버는 실행이 완료됩니다. 이 후 아파치 스톰(Apache-Storm) 설치 $wget http://apache.mirror.cdnet.. 더보기