본문 바로가기

빅데이터

Elasticsaerch + SparkStreaming

336x280(권장), 300x250(권장), 250x250, 200x200 크기의 광고 코드만 넣을 수 있습니다.

□ 내용


▶ 실시간 스트리밍 데이터를 Spark를 이용하여 데이터를 Elasticsearch에 저장

 





□ 설치


▶Elasticsearch 설치 확인



 





□ Data


▶굴러 다니는 블루투스 장비 데이터 이용



[

     {"timestamp":"2018-03-14T08:04:14Z","type":"iBeacon","mac":"D961--","ibeaconUuid":"C800A~~}, 

     {"timestamp":"2018-03-14T08:04:14Z","type":"iBeacon","mac":"E85D--","ibeaconUuid":"A52B9~~},

          ...

          ...

          ...

          ...

     {"timestamp":"2018-03-14T08:04:24Z","type":"iBeacon","mac":"F2EC--","ibeaconUuid":"A52B95~~}

]

 





□ 처리



   설정


 





   ▶ 스트리밍 연결 후 Array 데이터 분리






   ▶ Mac과 UUID만 뽑아서 ES에 저장

 






□ 결과 확인


▶localhost:9200/test 생성 확인


▶test/spark에  mac와 UUID가 저장됨







'빅데이터' 카테고리의 다른 글

elasticsearch + kibana + sparkstreaming  (0) 2018.03.16
kibana 설치  (0) 2018.02.12
rabbitmq publish - 최대 접속 테스트  (0) 2017.08.01
zeppelin 설치  (0) 2017.06.26
RabbitMQ & Spark Streaming Test  (0) 2017.05.17