• 제목/요약/키워드: big data system

검색결과 2,053건 처리시간 0.03초

오프라인 마켓에 적용 가능한 빅데이터 분석 시스템 구축 방안에 관한 연구 (A Study on Possible Construction of Big Data Analysis System Applied to the Offline Market)

  • 이후영;박구락;김동현
    • 디지털융복합연구
    • /
    • 제14권9호
    • /
    • pp.317-323
    • /
    • 2016
  • 빅데이터는 현재 기업 경쟁력의 주요 자산으로 여겨지고 있고 향후에 그 영향력은 더욱 확대될 것으로 전망된다. 그 중요성을 인식한 기업들은 이미 빅데이터를 제품 개발과 마케팅에 적극적으로 활용하고 있으며 정치, 스포츠 등 사회 전반에 걸쳐 적용분야는 점점 늘어나고 있다. 그러나 시스템 구축에 따른 노하우 부족과 고비용은 빅데이터 시스템 도입에 여전히 큰 장애가 되고 있다. 본 논문에서는 중소규모 오프라인 마켓의 POS 판매 데이터를 빅데이터 시스템 중 오픈소스인 하둡(Hadoop) 및 하이브(Hive)를 기반으로 하는 빅데이터 시스템 구현을 목표로 한다. 이러한 융복합을 통해 단순히 손익분석과 재고관리 등에 집중되었던 기존 판매 시스템을 보완하여 고객의 소비패턴과 선호도 조사, 수요에 대한 사전 예측이 가능하도록 하는 경영자의 합리적인 의사결정에 기초자료로 활용할 수 있을 것으로 기대된다.

Design of Distributed Cloud System for Managing large-scale Genomic Data

  • Seine Jang;Seok-Jae Moon
    • International Journal of Internet, Broadcasting and Communication
    • /
    • 제16권2호
    • /
    • pp.119-126
    • /
    • 2024
  • The volume of genomic data is constantly increasing in various modern industries and research fields. This growth presents new challenges and opportunities in terms of the quantity and diversity of genetic data. In this paper, we propose a distributed cloud system for integrating and managing large-scale gene databases. By introducing a distributed data storage and processing system based on the Hadoop Distributed File System (HDFS), various formats and sizes of genomic data can be efficiently integrated. Furthermore, by leveraging Spark on YARN, efficient management of distributed cloud computing tasks and optimal resource allocation are achieved. This establishes a foundation for the rapid processing and analysis of large-scale genomic data. Additionally, by utilizing BigQuery ML, machine learning models are developed to support genetic search and prediction, enabling researchers to more effectively utilize data. It is expected that this will contribute to driving innovative advancements in genetic research and applications.

농업·농촌 디지털 전환을 위한 빅데이터 활성화 방안 연구 (Big Data Activation Plan for Digital Transformation of Agriculture and Rural)

  • 이원석;손경자;전대호;신용태
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제9권8호
    • /
    • pp.235-242
    • /
    • 2020
  • 4차 산업혁명 시대를 맞아 우리 농업·농촌의 디지털 전환을 추진하고 다가오는 인공지능 시대를 대비하기 위하여, 필요한 양질의 데이터를 수집하고 분석해서 활용할 수 있는 체계와 시스템 구축이 필요하다. 이를 위해 농업인이나 농정담당자 등 다양한 이해 관계자들이 느끼는 문제점이나 이슈들을 조사·분석하여, 공동 활용을 위한 빅데이터 플랫폼 확충, 지속 가능한 빅데이터 거버넌스 구축 그리고 수요자 기반의 빅데이터 활용 기반 활성화 등 우리 농업·농촌의 디지털 전환을 추진하기 위해서 반드시 선결되어야 할 빅데이터 활성화를 위한 전략적 방안들을 제시하고자 한다.

방사선 빅데이터 활용을 위한 RI-Biomics 기술정보시스템 개선 방향성에 관한 고찰 (Consideration of the Direction for Improving RI-Biomics Information System for Using Big Data in Radiation Field)

  • 이승현;김주연;임영기;박태진
    • 방사선산업학회지
    • /
    • 제11권1호
    • /
    • pp.7-11
    • /
    • 2017
  • RI-Biomics는 방사성동위원소를 이용한 신약 및 물질의 흡수, 분포, 대사 및 배설(RI-ADME)과 같은 생체 내 역학을 평가하기 위한 최첨단 방사선 융합 기술이다. 현재 RI-Biomics 기술정보는 RI-Biomics 기술정보시스템인 'RIBio-Info'로 제공되고 있으며, 본 연구에서는 최근 빅 데이터 기술 동향을 검토하여 RIBio-Info의 개선사항을 도출하였다. RI Biomics 정보 시스템에서 빅데이터를 적용하기 위해 실현되어야 할 구성 요소로 자원, 기술 및 인력에 대해 각각 검토하였다. 첫째 활용할 수 있는 외부 빅데이터를 찾고, 두번째로 빅데이터 활용 실현을 위한 인프라를 확충하고, 마지막으로 대용량 정보분석이 가능한 데이터 사이언티스트를 양성해야 한다. 이러한 환경 하에 비정형 대용량 데이터에 대한 다양한 분석이 가능한 원천기술이 개발될 것이며, RI-Biomics 분야의 새로운 가치를 창출할 수 있는 기반이 구축될 것이다.

Advanced Big Data Analysis, Artificial Intelligence & Communication Systems

  • Jeong, Young-Sik;Park, Jong Hyuk
    • Journal of Information Processing Systems
    • /
    • 제15권1호
    • /
    • pp.1-6
    • /
    • 2019
  • Recently, big data and artificial intelligence (AI) based on communication systems have become one of the hottest issues in the technology sector, and methods of analyzing big data using AI approaches are now considered essential. This paper presents diverse paradigms to subjects which deal with diverse research areas, such as image segmentation, fingerprint matching, human tracking techniques, malware distribution networks, methods of intrusion detection, digital image watermarking, wireless sensor networks, probabilistic neural networks, query processing of encrypted data, the semantic web, decision-making, software engineering, and so on.

Comparison of Sentiment Analysis from Large Twitter Datasets by Naïve Bayes and Natural Language Processing Methods

  • Back, Bong-Hyun;Ha, Il-Kyu
    • Journal of information and communication convergence engineering
    • /
    • 제17권4호
    • /
    • pp.239-245
    • /
    • 2019
  • Recently, effort to obtain various information from the vast amount of social network services (SNS) big data generated in daily life has expanded. SNS big data comprise sentences classified as unstructured data, which complicates data processing. As the amount of processing increases, a rapid processing technique is required to extract valuable information from SNS big data. We herein propose a system that can extract human sentiment information from vast amounts of SNS unstructured big data using the naïve Bayes algorithm and natural language processing (NLP). Furthermore, we analyze the effectiveness of the proposed method through various experiments. Based on sentiment accuracy analysis, experimental results showed that the machine learning method using the naïve Bayes algorithm afforded a 63.5% accuracy, which was lower than that yielded by the NLP method. However, based on data processing speed analysis, the machine learning method by the naïve Bayes algorithm demonstrated a processing performance that was approximately 5.4 times higher than that by the NLP method.

분석지의 확장을 위한 소셜 빅데이터 활용연구 - 국내 '빅데이터' 수요공급 예측 - (a Study on Using Social Big Data for Expanding Analytical Knowledge - Domestic Big Data supply-demand expectation -)

  • 김정선;권은주;송태민
    • 지식경영연구
    • /
    • 제15권3호
    • /
    • pp.169-188
    • /
    • 2014
  • Big data seems to change knowledge management system and method of enterprises to large extent. Further, the type of method for utilization of unstructured data including image, v ideo, sensor data a nd text may determine the decision on expansion of knowledge management of the enterprise or government. This paper, in this light, attempts to figure out the prediction model of demands and supply for big data market of Korea trough data mining decision making tree by utilizing text bit data generated for 3 years on web and SNS for expansion of form for knowledge management. The results indicate that the market focused on H/W and storage leading by the government is big data market of Korea. Further, the demanders of big data have been found to put important on attribute factors including interest, quickness and economics. Meanwhile, innovation and growth have been found to be the attribute factors onto which the supplier puts importance. The results of this research show that the factors affect acceptance of big data technology differ for supplier and demander. This article may provide basic method for study on expansion of analysis form of enterprise and connection with its management activities.

  • PDF

A Design of DBaaS-Based Collaboration System for Big Data Processing

  • Jung, Yean-Woo;Lee, Jong-Yong;Jung, Kye-Dong
    • International journal of advanced smart convergence
    • /
    • 제5권2호
    • /
    • pp.59-65
    • /
    • 2016
  • With the recent growth in cloud computing, big data processing and collaboration between businesses are emerging as new paradigms in the IT industry. In an environment where a large amount of data is generated in real time, such as SNS, big data processing techniques are useful in extracting the valid data. MapReduce is a good example of such a programming model used in big data extraction. With the growing collaboration between companies, problems of duplication and heterogeneity among data due to the integration of old and new information storage systems have arisen. These problems arise because of the differences in existing databases across the various companies. However, these problems can be negated by implementing the MapReduce technique. This paper proposes a collaboration system based on Database as a Service, or DBaaS, to solve problems in data integration for collaboration between companies. The proposed system can reduce the overhead in data integration, while being applied to structured and unstructured data.

빅데이터 환경에서 개인정보 익명화를 통한 보호 방안 (Anonymity Personal Information Secure Method in Big Data environment)

  • 홍성혁;박상희
    • 융합정보논문지
    • /
    • 제8권1호
    • /
    • pp.179-185
    • /
    • 2018
  • 빅데이터는 이제 더 이상 미래 혁신의 아이콘이 아니라 인류가 당면한 과제를 해결하기 위한 하나의 수단으로써 공고히 자리매김해 가고 있다. 빅데이터의 활용과 개인정보 보호는 분명 양면성을 갖고 있다. 데이터의 활용을 강조할 경우 개인이 공개를 원하지 않는 사생활은 필연적으로 침해 될 것이고, 개인정보 보호를 강조할 경우 어설픈 수준의 빅데이터 연구만 가능해 공공의 목적을 달성 하는데 어려움을 겪을 수 있다. 본 연구에서는 개인정보 침해의 문제점을 알아보고 빅데이터의 활용과 개인정보의 보호를 하기 위해서 취합하는 빅데이터를 익명화하는 방안을 제시하였다. 이를통해 빅데이터 활용 뿐만 아니라 개인정보 침해의 문제점을 해결할 수 있을 것으로 보인다.

Application Analysis of Smart Tourism Management Model under the Background of Big Data and IOT

  • Gangmin Weng;Jingyu Zhang
    • Journal of Information Processing Systems
    • /
    • 제19권3호
    • /
    • pp.347-354
    • /
    • 2023
  • The rapid development of information technology has accelerated the application of big data and the Internet of Things in various industries. Big data has a great potential in the development of smart tourism. With the help of innovation in emerging technologies such as big data and Internet of Things, smart tourism has a better possibility to surpass traditional tourism. Therefore, this article provides a theoretical support to this process. It has explored the innovative management model of big data and IoT in smart tourism and evaluate their effects on promoting tourism. It offers a reference for the integration and innovation of the tourism theory system. Before big data technology, the development of Internet boosted online tourism. However, tourism marketing is still inefficient due to a lack of understanding about tourists. After many practical explorations of big data technology, tourism websites begin to adopt big data technology in their daily operations. With the changes in tourists' preferences and needs, further innovation and research are needed to help smart tourism keep up with the changes in the market and create more competitive products and services. Innovation serves as the driving force for enterprises to occupy the market and develop.