• 제목/요약/키워드: 빅데이터 수집

검색결과 1,012건 처리시간 0.039초

A Development Method of Framework for Collecting, Extracting, and Classifying Social Contents

  • Cho, Eun-Sook
    • 한국컴퓨터정보학회논문지
    • /
    • 제26권1호
    • /
    • pp.163-170
    • /
    • 2021
  • 빅데이터가 여러 분야에서 다양하게 접목됨에 따라 빅데이터 시장이 하드웨어로부터 시작해서 서비스 소프트웨어 부문으로 확장되고 있다. 특히 빅데이터 의미 파악 및 이해 능력, 분석 결과 등 총체적이고 직관적인 시각화를 위하여 애플리케이션을 제공하는 거대 플랫폼 시장으로 확대되고 있다. 그 중에서 SNS(Social Network Service) 등과 같은 소셜 미디어를 활용한 빅데이터 추출 및 분석에 대한 수요가 기업 뿐만 아니라 개인에 이르기까지 매우 활발히 진행되고 있다. 그러나 이처럼 사용자 트렌드 분석과 마케팅을 위한 소셜 미디어 데이터의 수집 및 분석에 대한 많은 수요에도 불구하고, 다양한 소셜 미디어 서비스 인터페이스의 이질성으로 인한 동적 연동의 어려움과 소프트웨어 플랫폼 구축 및 운영의 복잡성을 해결하기 위한 연구가 미흡한 상태이다. 따라서 본 논문에서는 소셜 미디어 데이터의 수집에서 추출 및 분류에 이르는 과정을 하나로 통합하여 운영할 수 있는 프레임워크를 개발하는 방법에 대해 제시한다. 제시된 프레임워크는 이질적인 소셜 미디어 데이터 수집 채널의 문제를 어댑터 패턴을 통해 해결하고, 의미 연관성 기반 추출 기법과 주제 연관성 기반 분류 기법을 통해 소셜 토픽 추출과 분류의 정확성을 높였다.

벤처창업 관련 뉴스 및 SNS 빅데이터 분석 (The Venture Business Starts News and SNS Big Data Analytics)

  • 반재훈;이예찬;안대중;곽윤혁
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2017년도 춘계학술대회
    • /
    • pp.99-102
    • /
    • 2017
  • 대규모의 데이터가 생산되고 저장되는 정보화 시대에서 현재와 과거의 데이터를 바탕으로 미래를 추측하고 방향성을 알아갈 수 있는 빅데이터의 중요성이 강조되고 있다. 정형화 되지 못한 대규모 데이터를 빅데이터 분석 도구인 R과 웹크롤링을 통해 분석하고 그 통계를 기초로 데이터의 정형화와 정보 분석을 하도록 한다. 본 논문에서는 R과 웹크롤링을 이용하여 최근 이슈가 되고 있는 벤처창업을 주 키워드로 하여 뉴스 및 SNS에서 나타나는 벤처창업 관련 빅데이터를 분석한다. 뉴스기사와 페이스북, 트위터에서 벤처창업 관련 데이터를 수집하고 수집된 데이터에서 키워드를 분류하여 효율적인 벤처창업의 방법과 종류, 방향성에 대해 예측한다. 과거의 벤처창업 실패요인을 분석하고 현재의 문제점을 찾아 데이터 분석을 통해 벤처창업의 흐름과 방향성을 제시하여 창업자들이 겪을 수 있는 어려움을 사전에 예측하고 파악함으로써 실질적인 벤처창업에 크게 이바지할 것으로 보여 진다.

  • PDF

빅데이터 플랫폼 기반 건물 에너지 통합 관리 시스템 설계 (Design of Building Energy Management System Using Big data Platform)

  • 김태형;정연쾌;이일우
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2016년도 춘계학술발표대회
    • /
    • pp.580-581
    • /
    • 2016
  • 국제적으로 지속적인 이슈가 되고 있는 에너지 절감에 대한 대책으로 다양한 에너지 절감 기술들이 연구 개발되고 있다. 특히 전체 에너지 사용량의 약 20%이상을 차지하는 건물(가정/상업/공공)부문에서는 에너지 진단 및 분석을 수행하기 위해 건물 에너지 관리 시스템(BEMS: Building Energy Management System)과 건물 자동화 시스템(BAS: Building Automation System) 그리고 다양한 환경정보들을 수집하여 활용한다. 하지만 기존 분석 방식은 결과의 신뢰성에 최소한의 영향을 주면서 데이터 관리 효율을 높이는 방법에 초점을 맞춰 연구가 진행되었으며, 이를 위해 기존에 수집된 데이터를 압축하거나 샘플링하는 사전 정제 과정을 거치게 되었다. 하지만 빅데이터 플랫폼을 활용하면 더 이상 신뢰성을 낮추면서까지 데이터를 정제할 필요가 없어지고, 수집되는 모든 데이터에 대한 다차원 분석을 빠르게 수행할 수 있게 된다. 따라서 본 논문에서는 하드웨어의 한계로 기존 건물에너지 진단 및 분석 시스템에서 제공하지 못했던 다양한 분석 및 진단 서비스들을 빠르고 정확하게 제공하도록 하는 빅데이터 플랫폼 기반 건물 에너지 통합 관리 시스템 설계에 대해 서술한다.

빅데이터 분석을 통한 피자 판매량 예측 (Pizza Sales Prediction by Using Big Data Analysis.)

  • 이대범;김경섭;이영수;김하나한;변동삼;박성철;전화성;김준태
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2014년도 추계학술발표대회
    • /
    • pp.890-893
    • /
    • 2014
  • IT산업의 새로운 패러다임으로 빅데이터 분석이 주요한 기술로 부각되고 있다. 본 논문에서는 빅데이터를 수집, 분석하여 이를 통해 피자 판매량을 예측하는 모델을 제안한다. 판매량 예측을 위하여 과거 판매 데이터와 함께 공휴일, 날씨, 뉴스기사, 경제지표, 트렌드, 스포츠 이벤트 등의 데이터를 수집하여 이용하였으며, 판매량 예측 방법으로는 회기분석과 인공신경망 학습 등을 사용하여 빅데이터를 사용하지 않은 경우와 정확도를 비교하였다. 실험 결과 빅데이터를 이용함으로써 예측 오차율이 5%이상 향상됨을 확인하였다.

인문학적 관점으로 본 빅데이터 활용을 위한 당면 문제 (Current Issues with the Big Data Utilization from a Humanities Perspective)

  • 박은하;전진우
    • 한국콘텐츠학회논문지
    • /
    • 제22권6호
    • /
    • pp.125-134
    • /
    • 2022
  • 이 연구는 인문학적 관점에서 빅데이터를 활용하기 위해 현재 해결해야 할 과제는 무엇인지를 비판적으로 고찰하고자 하였다. 이를 위해 빅데이터를 활용함에 있어서 빅데이터를 수집할 때, 처리할 때, 그리고 사용할 때 발생할 수 있는 문제를 세 가지로 제시하고 논의하였다. 그 첫 번째로 데이터 자체의 문제점을 지닐 것으로 보이는 가짜 정보를 지적하고 기사형 광고와 정치 관련 가짜 뉴스를 살펴보았다. 두 번째는 빅데이터 처리과정과 그 결과의 문제점으로 알고리즘에 의한 차별을 들었다. 포털 사이트에서 엔지니어를 검색한 결과를 분석함으로써 알고리즘에 의한 차별이 존재함을 확인하였다. 마지막으로 사람과 관련한 개인 정보를 사용함에 있어서, 이에 대한 문제점을 프라이버시권, 정보자기결정권, 잊힐 권리 세 가지로 나누어 논의하였다. 이 연구는 빅데이터 시대에 인문학적 관점에서 빅데이터 활용 측면의 당면한 문제를 지적한 점과 빅데이터의 활용 과정인 수집, 처리, 사용에서 일어날 수 있는 문제점을 각각 논의한 점에서 의미가 있다고 본다.

IoT 빅데이터 수집을 위한 IP기반 이기종 네트워크 인터페이스 연동 게이트웨이 (IP-Based Heterogeneous Network Interface Gateway for IoT Big Data Collection)

  • 강지헌
    • 한국정보통신학회논문지
    • /
    • 제23권2호
    • /
    • pp.173-178
    • /
    • 2019
  • 최근 스마트 홈, 스마트 보안, 스마트 팩토리 등 IoT 환경에서 생성, 수집, 계측되는 데이터의 종류 및 양이 증가하고 있다. IoT 서비스를 위한 요소기술에는 원하는 정보를 측정하기 위한 센서 장치, 해당 장치를 컨트롤할 수 있는 임베디드 소프트웨어, 측정된 데이터를 송수신할 수 있는 네트워크 프로토콜, 수집된 데이터를 분석/저장할 수 있는 빅데이터 및 인공지능 기술이 필수적이다. 본 논문에서는 다양한 IoT 장치에서 활용되고 있는 다양한 네트워크 프로토콜을 하나의 통합된 장치에서 처리할 수 있는 장치 개발에 초점을 맞추고 있으며, 이를 실현하기 위한 이기종 네트워크 인터페이스 IoT 게이트웨이를 제안한다. OpenWrt 기반의 유무선 공유기를 활용하였으며, 무선 센서 네트워크 프로토콜의 IP기반 통신을 위해 6LoWPAN 스택을 이용하여 BLE와 IEEE 802.15.4 통신 모듈을 연동하였고, 자체 개발한 파이썬 기반 미들웨어를 이용하여 Z-Wave, LoRa 통신 모듈에서 송수신 되는 패킷을 IP 패킷을 변환하여 전송하는 기능을 개발하였다. 개발된 IoT 게이트웨이가 IoT 빅데이터를 효과적으로 수집할 수 있는 장치로 활용될 수 있을 것으로 기대한다.

수집된 정보의 공익성에 관한 고찰 (A Study on the Public Interest of Collected Information)

  • 박국흠
    • 정보화정책
    • /
    • 제26권1호
    • /
    • pp.25-45
    • /
    • 2019
  • 데이터 경제의 등장과 함께 빅데이터 활용에 대한 관심이 증대되었으나 개인정보보호와의 충돌이 꾸준히 제기되어 왔다. 이에 주요 국가들은 비식별화 처리된 가명정보에 대해서는 개인정보보호에서 제외하고 빅데이터 활용을 가속화하고 있다. 그러나, 이러한 정책들은 개인정보의 재화적 성격이 물밑에서 서서히 변해 감을 간과한 채 이루어진 것이다. 본 논문에서는 '수집된 정보' 개념을 제시하고 그것이 공익성을 가지고 있으므로 정보수집자의 전유물만은 아님을 정리하였다. 수집된 정보는 개인정보보호, 연결성, 보편적 서비스 및 공공재 차원에서 공익성을 가지고 있음을 알 수 있었다. 그리고 현재의 정보제공 동의를 통한 데이터 활용체제 하에서는 '데이터 거버넌스'가 작동하지 않으며, 시장실패를 개선할 수 있는 올바른 '데이터 거버넌스'를 위해서는 정보제공 동의 관행을 개선하거나 정보주체에게 이용수익권을 부여해야 할 필요성을 제시하였다.

통계적 텍스트 마이닝을 이용한 빅 데이터 전처리 (A Big Data Preprocessing using Statistical Text Mining)

  • 전성해
    • 한국지능시스템학회논문지
    • /
    • 제25권5호
    • /
    • pp.470-476
    • /
    • 2015
  • 빅 데이터는 여러 분야에서 다양하게 사용되고 있다. 예를 들어, 컴퓨터학과 사회학에서 빅 데이터에 대한 서로간의 접근방법에 대한 차이는 있겠지만 빅 데이터의 분석을 통한 활용 측면에서는 공통적인 부분을 갖는다. 따라서 대부분의 분야에서 빅 데이터에 대한 의미 있는 분석과 활용은 필요하게 된다. 통계학과 기계학습은 빅 데이터의 분석을 위한 다양한 방법론을 제공한다. 본 논문에서는 빅 데이터분석 과정에 대하여 알아보고 수집된 빅데이터의 원천에서부터 분석을 거쳐 최종적으로 분석결과를 활용하는 전체 과정을 위한 효율적인 빅 데이터 분석방법에 대하여 연구한다. 특히, 빅 데이터의 특성을 갖는 여러 데이터 중 하나인 특허문서 데이터에 대하여 빅데이터분석을 적용하여 효과적인 특허분석을 수행하고 이 결과를 연구개발 기획에 적용하는 방법론에 대하여 제안한다. 제안방법에 대한 실제적용을 위하여 전 세계 특허데이터베이스로부터 실제 기업의 전체 출원, 등록 특허 문서를 수집, 분석하고 연구개발 업무에 활용하는 전 과정에 대한 사례연구를 수행하였다.

빅데이터 분석 기반 자동 야구기사작성 로봇 개발 (Development of Automatic Robot for Writing Baseball Articles Based on BigData Analysis)

  • 채병주;박경철;권태정;김상환;김영준;이동규;김병규
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2015년도 추계학술발표대회
    • /
    • pp.1622-1624
    • /
    • 2015
  • 세계적으로 자동기사 작성 시스템을 적용한 사례가 증가하는 가운데 미국의 LA 타임스가 2013년에 지진 속보 기사를 완성하면서 주목 받기도 했으며 국내에서도 비슷한 사례들의 개발이 지속적으로 진행되고 있다. 본 논문에서는 로봇저널리즘 시대에 맞춰 빅데이터 기반의 자동기사작성 로봇 개발방법을 제안하고, 데이터를 수집해 기사를 추출해내는 빅데이터 기반의 자동기사작성 로봇을 객관적인 데이터를 수집할 수 있는 스포츠분야에 적용하여 개발하였다. 본 기술로 인해 객관적인 내용을 표현할 수 있는 기사를 실시간으로 작성 및 온라인으로 배포 할 수 있으며, 확장을 통해 온라인 시청자들에게 다양한 실시간 정보제공이 가능할 수 있을 것으로 예상된다.

국내 케이블 방송 사업자들의 빅데이터 활용 방안 및 고려 사항 (Big-data Utilization and Considerations of Local cable TV operators)

  • 정원구
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송공학회 2014년도 추계학술대회
    • /
    • pp.59-62
    • /
    • 2014
  • 다양한 센서를 내장한 스마트기기가 보급되면서 개인의 활동부터 환경 상태까지 광범위한 미시 데이터의 수집이 가능해졌고, 또한 데이터 저장매체의 가격과 통신비용이 급격히 하락하고 있으며, 컴퓨터의 연산능력과 데이터 분석 방법론도 눈부시게 성장하는 중이다. 이러한 데이터 처리 기술의 발전과 함께 빅데이터에 대한 사회적 인식의 제고가 맞물리며 빅데이터 시장이 빠르게 성숙하고 있다. 이에 따라 국내 외 대다수의 기업들이 빅데이터 기술을 도입 검토 중에 있으며, 특히 글로벌 콘텐츠(방송, 음악, 도서 등) 기업들의 맞춤형 추천 서비스 성공 사례들로 인해 빅데이터 기술이 콘텐츠 산업 업계의 차세대 먹거리로 주목을 받고 있다. 이에 본 논문은 국내 케이블 방송 사업자들이 빅데이터 기술을 접목한 차별화된 서비스 제공을 통해 고객에게 새롭고 차별화된 가치를 제공할 수 있는 서비스 방안에 대해서 연구하였다.

  • PDF