• 제목/요약/키워드: 데이터수집 서비스

검색결과 1,707건 처리시간 0.037초

빅데이터 수집 처리를 위한 분산 하둡 풀스택 플랫폼의 설계 (Design of Distributed Hadoop Full Stack Platform for Big Data Collection and Processing)

  • 이명호
    • 한국융합학회논문지
    • /
    • 제12권7호
    • /
    • pp.45-51
    • /
    • 2021
  • 급속한 비대면 환경과 모바일 우선 전략에 따라 해마다 많은 정형/비정형 데이터의 폭발적인 증가와 생성은 모든 분야에서 빅데이터를 활용한 새로운 의사 결정과 서비스를 요구하고 있다. 그러나 매년 급속히 증가하는 빅데이터를 활용하여 실무 환경에서 적용 가능한 표준 플랫폼으로 빅데이터를 수집하여 적재한 후, 정재한 빅데이터를 관계형 데이터베이스에 저장하고 처리하는 하둡 에코시스템 활용의 참조 사례들은 거의 없었다. 따라서 본 연구에서는 스프링 프레임워크 환경에서 3대의 가상 머신 서버를 통하여 하둡 2.0을 기반으로 쇼셜 네트워크 서비스에서 키워드로 검색한 비정형 데이터를 수집한 후, 수집된 비정형 데이터를 하둡 분산 파일 시스템과 HBase에 적재하고, 적재된 비정형 데이터를 기반으로 형태소 분석기를 이용하여 정형화된 빅데이터를 관계형 데이터베이스에 저장할 수 있게 설계하고 구현하였다. 향후에는 데이터 심화 분석을 위한 하이브나 머하웃을 이용하여 머신 러닝을 이용한 클러스터링과 분류 및 분석 작업 연구가 지속되어야 할 것이다.

모바일 기상정보 서비스를 위한 시스템 설계 (The System Design for Mobile Meteorological Information Services)

  • 최진오
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국해양정보통신학회 2011년도 춘계학술대회
    • /
    • pp.245-247
    • /
    • 2011
  • 모바일 기상 정보 서비스에서 USN, 휴대폰, 대중 교통차량 등 다양한 클라이언트로부터 센싱된 데이터는 무선 통신망을 통하여 서버에 수집되어야 한다. 수집된 데이터는 지속적으로 증가하는 대용량 데이터로서 특별한 쿼리 방법과 자료 구조가 요구된다. 이 논문은 기상 정보 서비스를 위해 필요한 시스템 구조를 설계하고 자료구조와 쿼리 유형을 분석한다.

  • PDF

위치 기반 서비스를 위한 이동 경로 선택 (Path Selection for Location Based Service)

  • 윤태복;이지형
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2005년도 한국컴퓨터종합학술대회 논문집 Vol.32 No.1 (B)
    • /
    • pp.613-615
    • /
    • 2005
  • 사용자와 관련한 환3 데이터로부터 유용한 정보를 만들어 내기 위하여 다양한 형태의 데이터를 이용한 다양한 방법이 연구되고 있다. 그 중 사용자의 이동 경로는 공간상의 이동 위치를 예측하고 유용한 서비스를 제공하는데 유용하게 사용될 수 있다. 본 논문에서는 사용자의 이동 경로에 대한 분석과 예측기술을 제안한다. 환경으로부터 발생한 사용자의 이동 경로를 수집하고 수집된 데이터는 이동 경로 선택(Path Selection) 방법을 이용하여 유사성이 가장 높은 경로를 선택하여 준다. 선택된 경로는 시간에 따른 공간 정보 표현 및 위치에 따른 시간 예측 서비스를 위하여 사용가능 하며, 실험을 통하여 유사성이 높은 이동 경로를 선택하는 모습을 확인하였다.

  • PDF

소셜 빅 데이터를 이용한 관광서비스 평판에 관한 연구 (A Study on the Reputation of Tourism Services using Social Big Data)

  • 송은지;강민식
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2014년도 추계학술대회
    • /
    • pp.671-672
    • /
    • 2014
  • 최근 기업의 효율적인 경영을 위해 다양한 소셜 채널에서 폭발적으로 생성되고 확산되는 빅 데이터를 실시간으로 분석하는 기술이 개발되고 있다. 본 논문에서는 관광서비스에 관해 소셜 미디어 상의 빅 데이터를 이용하여 보다 정확하고 효율적인 정보 수집과 분석이 가능하도록 하기위한 모델구축 방법을 제안하고 관광서비스에 관한 평판을 분석한다. 관광 산업 도메인 네트워크를 활용한 표준화, 일반화 확보를 위해 먼저 B2C 산업군 및 업종별 공통 수집원 추출 및 표준화 분석 체계 수립을 통한 해당 적용분야의 설계안 수립하고 관광객(소비자) 작성 게시글 분석을 위한 산업군 정보 추출하며 관광지, 숙박지, 교통 등 다양한 업종에 대한 분석 수행한다. 관광지에 대한 평가 기준을 기존의 설문이 아닌 SNS 상의 고객 의견을 바탕으로 호감도로 분석한다.

  • PDF

키워드 추출 알고리즘을 이용한 이용 약관 요약 방법 설계 (Designing Method for Summarization of the Terms & Conditions using Keyword Extraction Algorithm)

  • 이규은;김상원;김기천
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2019년도 추계학술발표대회
    • /
    • pp.823-826
    • /
    • 2019
  • 소비자 개개인의 취향에 부합하는 맞춤형 서비스가 기업들에게 중요한 과제로 대두되고 있다. 이 같은 기대에 부응하기 위해 기업은 막대한 양의 데이터를 수집하고 그를 기반으로 서비스를 제공하려 노력하고 있다. 하지만, 데이터 수집 과정에서 어떤 정보가 어떻게 수집되는지를 명확히 아는 소비자는 극히 드물다. 소비자가 원하는 정보는 이용 약관에 명시되어 있지만, 정작 약관을 꼼꼼히 읽어보고 그에 동의하는 경우는 그리 많지 않기 때문이다. 이 때문에 소비자들이 원치 않는 정보가 수집되어도 이의를 제기하기 힘든 사태가 발생하기도 한다. 본 논문에서는 몇 가지 자연어 처리 기술을 이용하여 키워드를 추출해 약관의 핵심적인 내용을 요약 정리하는 알고리즘을 제안한다. 이를 통해 약관의 핵심 요악을 제공하여 이러한 소비자의 불이익을 줄일 수 있을 것으로 기대한다.

클라우드 서비스를 이용한 영어 말뭉치 구축 도구 (English Corpus Construction Tool Based Using Cloud Services)

  • 김성동;김민우
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2019년도 추계학술발표대회
    • /
    • pp.1122-1124
    • /
    • 2019
  • 본 논문에서는 영어 신문 사이트를 크롤링하여 뉴스 기사를 수집하여 영어 말뭉치를 구축하는 도구를 제안한다. 클라우드 서비스를 이용함으로써 장소와 시간에 구애받지 않고 말뭉치를 지속적으로 확장시킬 수 있을 뿐만 아니라 쉽게 구축된 말뭉치를 활용할 수 있다. 제안한 도구는 수집된 영어 신문 기사에 대한 통계 정보 즉, 문장 수, 단어 수 등을 제공한다. 웹 플랫폼에서 동작하므로 여러 명이 동시에 많은 데이터를 수집할 수 있다 수집된 데이터는 자연어 처리 및 기계학습 연구에 활용될 수 있다.

시계열 DB를 이용한 생체신호 데이터 수집 및 모니터링 시스템 (Bio-Signal Data Collection and Monitoring System Using Time Series DB.)

  • 강동윤;주문일;;김희철
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2021년도 추계학술대회
    • /
    • pp.211-212
    • /
    • 2021
  • 최근 건강에 대한 관심이 증가하며 다양한 생체정보를 수집할 수 있는 웨어러블 시장이 확대되고 있다. 또한 이러한 생체신호를 통한 원격의료와 헬스케어 서비스가 보편화될 것으로 예상된다. 본 논문에서는 IoT 장비를 통해 수집한 생체신호를 데이터베이스에 저장 및 웹을 통해 실시간 모니터링이 가능한 서비스를 소개한다. 생체 데이터의 수집 및 저장과 실시간 모니터링을 시스템을 구현함으로 다양한 건강관리 진단에 활용될 수 있다.

  • PDF

Graphgen: REST API를 이용한 시계열 데이터의 실시간 시각화 마이크로서비스 (Graphgen: Real-time Visualization Microservice for Time Series Data Using REST API)

  • 권동우;옥기수;지영민
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2018년도 추계학술발표대회
    • /
    • pp.581-584
    • /
    • 2018
  • 최근 다양한 분야에서 대량의 데이터를 수집하여 처리하고 분석하는 빅데이터 기술이 활용되고 있다. 빅데이터 분석을 위해서는 데이터 시각화 기술이 필수적이다. 본 논문에서는 REST API를 사용하여 시계열 데이터베이스에 데이터를 질의하고, 응답받은 시계열 데이터를 다양한 형태의 차트로 시각화하는 마이크로서비스(Graphgen)를 설계하고 구현한다. 이 서비스는 데이터의 변동에 따라 실시간으로 시각화 객체를 갱신하며, 대용량 데이터 처리의 성능저하를 최소화하도록 개발된다. Graphgen은 InfluxDB와 OpenTSDB 시계열 데이터베이스와 Bokeh 시각화 라이브러리를 지원하며, 추후 서비스 확장이 용이하도록 개발된다. 또한 부하 분산과 통합 배포 관리를 위하여 컨테이너를 기반으로 개발된다.

서지프레임워크를 활용한 공공도서관 서지데이터와 서비스 데이터의 연계 (Linking Bibliographic Data and Public Library Service Data Using Bibliographic Framework)

  • 박지영
    • 정보관리학회지
    • /
    • 제33권1호
    • /
    • pp.293-316
    • /
    • 2016
  • 본 연구에서는 공공도서관의 서비스 프로그램 운영과정에서 생산된 '서비스 데이터'를 서지데이터와 연계하여 도서관 목록을 개선시키고자 하였다. 이를 위해 2015년에 우수 도서관으로 선정된 공공도서관 7곳을 대상으로 서비스 데이터를 수집하고 분석하였다. 이를 바탕으로 서지데이터와 서비스 데이터를 서지프레임워크를 적용하여 시범적으로 연계하고, 활용 가능한 인터페이스를 제안하였다. 본 연구결과는 1) 선별적이고 가치 평가가 포함된 서지데이터를 확보하고, 2) 장서의 생애주기 동안 서지데이터를 지속적으로 업데이트할 수 있게 되며, 3) 체계적으로 관리되기 어려웠던 서지데이터의 보존성과 공유 가능성을 향상시킬 수 있으며, 4) 시맨틱웹 환경에서 외부 링크드 데이터를 추가적으로 연계할 수 있는 서지데이터 개발을 위한 기초자료로 활용될 수 있을 것이다.

센서를 활용한 웹서비스에 관한 연구 (Study on Web Service using Sensors)

  • 용한마로;구민오;민덕기
    • 한국IT서비스학회:학술대회논문집
    • /
    • 한국IT서비스학회 2009년도 추계학술대회
    • /
    • pp.401-404
    • /
    • 2009
  • 정보화 시대에서 유비쿼터스 시대로 접어들면서 현실세계에서의 데이터를 정보로 상향시킬 수 있는 기반 기술과 메커니즘이 발전하고 있으며, 이러한 기술적 노력의 이환으로 현실 세계의 실증정보를 가공전의 데이터 형태로 창출하는 기술에는 센서기술(Sensor Technology)이 있으며, 현재 센서기술은 현실 세계의 실증 정보를 수집하는 차원을 넘어서 이들간의 클러스터링을 형성하고 형성된 클러스터링을 기반으로 데이터 라우팅을 통해 가공 메커니즘(Processing Mechanism)을 제공하는 시스템으로 전달되고 이렇게 전달된 데이터와 가공 메커니즘에 의해 서비스를 통해 정보 수요자에게 전달된다. 본 논문에서는 센싱된 데이터를 웹서버를 통해 서비스가 될 수 있는 구조에 대해서 설계 및 제안을 하였다. 또한 본 논문에서는 센싱기술과 센서네트워크, 그리고 웹 서비스라는 일련의 구조를 설계 및 구현시 고려하여야 할 사항 및 발전방향에 대해서 언급한다.

  • PDF