• Title/Summary/Keyword: 엔트로피 분포

Search Result 120, Processing Time 0.022 seconds

Korean Verb Clustering Using Self-Organizing Maps (Self-Organizing Map을 이용한 한국어 동사 클러스터링)

  • 박성배;장병탁;김영택
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 1998.10c
    • /
    • pp.183-184
    • /
    • 1998
  • 본 논문에서는 목적어-동사 관계의 분포에 따라 한국어 동사를 자동적으로 클러스터링하는 방법을 제시한다. SOM(Self-Organizing Map)이 입력 패턴을 분석하고 가시화하는데 뛰어난 성능을 보이므로, 본 논문에서는 클러스터링하는 방법으로 SOM을 채택하였다. 일단 맵(map)이 만들어지고 나면 학습하는 동안 경험하지 못한 동사도 쉽게 적당한 클러스터로 분류될 수 있고 클러스터들 간의 의미 거리도 맵을 이용하여 쉽게 계산할 수 있다. 본 논문에서 제안한 방법을 명사 확률 분포의 상대 엔트로피(relative entropy)에 기반한 클러스터링 방법과 비교해 본 결과, SOM에 의해 만들어진 동사 클러스터가 상대 엔트로피를 이용해서 만들어진 클러스터를 잘 반영한다는 것을 알 수 있었다.

  • PDF

Rule-Based Classification Analysis Using Entropy Distribution (엔트로피 분포를 이용한 규칙기반 분류분석 연구)

  • Lee, Jung-Jin;Park, Hae-Ki
    • Communications for Statistical Applications and Methods
    • /
    • v.17 no.4
    • /
    • pp.527-540
    • /
    • 2010
  • Rule-based classification analysis is widely used for massive datamining because it is easy to understand and its algorithm is uncomplicated. In this classification analysis, majority vote of rules or weighted combination of rules using their supports are frequently used in order to combine rules. We propose a method to combine rules by using the multinomial distribution in this paper. Iterative proportional fitting algorithm is used to estimate the multinomial distribution which maximizes entropy constrained on rules' support. Simulation experiments show that this method can compete with other well known classification models in the case of two similar populations.

Anomaly Detection Method Using Entropy of Network Traffic Distributions (네트워크 트래픽 분포 엔트로피를 이용한 비정상행위 탐지 방법)

  • Kang Koo-Hong;Oh Jin-Tae;Jang Jong-Soo
    • The KIPS Transactions:PartC
    • /
    • v.13C no.3 s.106
    • /
    • pp.283-294
    • /
    • 2006
  • Hostile network traffic is often different from normal traffic in ways that can be distinguished without knowing the exact nature of the attack. In this paper, we propose a new anomaly detection method using inbound network traffic distributions. For this purpose, we first characterize the traffic of a real campus network by the distributions of IP protocols, packet length, destination IP/port addresses, TTL value, TCP SYN packet, and fragment packet. And then we introduce the concept of entropy to transform the obtained baseline traffic distributions into manageable values. Finally, we can detect the anomalies by the difference of entropies between the current and baseline distributions. In particular, we apply the well-known denial-of-service attacks to a real campus network and show the experimental results.

Relationships Between Urban Sewer Network Orders and Entropy (하수관망의 차수와 엔트로피의 상관성)

  • Oh, Jin-A;Paik, Kyung-Rock;Joo, Jin-Gul;Kim, Joong-Hoon
    • 한국방재학회:학술대회논문집
    • /
    • 2010.02a
    • /
    • pp.102.2-102.2
    • /
    • 2010
  • 도시의 생활권 전역에 걸쳐 설치되어 있는 지하매설 시설물인 하수관망은 그 거동에 따라 방류수역의 수질에 큰 영향을 준다. 하수관망을 통한 하수의 이송특성은 관망의 형상과 각 지점에서의 수질정보에 영향을 받는다. 본 연구에서는 이 두 가지 인자에 대한 분석을 위해 하수관망의 외적 형상과 내적 정보흐름의 관계를 분석하였다. 실제 하수관망을 대상으로 자연하천의 정량화에 쓰이는 하천차수방법을 적용해 관망의 차수를 구분하여 도시에 공간적으로 넓게 분포되어있는 하수관망의 범위를 좁힌 후, 정보이론에서의 엔트로피(Entropy) 개념을 하수관망에 도입하여 하수관망의 차수와의 상관관계를 알아보았다. 이러한 분석을 통하여 하수관망의 차수와 엔트로피 사이에 유기적 상관성이 성립함을 확인 할 수 있었다. 총엔트로피와 한계엔트로피 모두 관망의 차수와 유의한 관계를 보였으나 그 양상은 반대로 나타났다.

  • PDF

Network Flow Classification Based on Maximum Entropy Theory (최대 엔트로피 이론 기반 네트워크 흐름 분류)

  • Kim, Min-Woo;Lee, Tae-Ho;Lee, Byung-Jun;Kim, Kyung-Tae;Youn, Hee-Yong
    • Proceedings of the Korean Society of Computer Information Conference
    • /
    • 2019.01a
    • /
    • pp.143-144
    • /
    • 2019
  • 최대 엔트로피(Maximum Entropy)는 실증적 데이터에서 관찰된 잠재적인 여러 유용한 특징들을 기반으로 최대 엔트로피를 갖는 추정된 분포를 구축하기 위한 접근법이다. 본 논문에서는 네트워크상의 데이터 전송 시 혼잡한 흐름을 효율적으로 분류하기 위해 최대 엔트로피 알고리즘을 기반으로 한 새로운 네트워크 흐름 분류 모델을 제안한다. 제안한 알고리즘이 기존의 방법들 보다 높은 분류 정확도를 나타내는 것을 목표로 네트워크 서비스 시 효율성을 높이고자 한다.

  • PDF

Maximum-Entropy Image Enhancement Using Brightness Mean and Variance (영상의 밝기 평균과 분산을 이용한 엔트로피 최대화 영상 향상 기법)

  • Yoo, Ji-Hyun;Ohm, Seong-Yong;Chung, Min-Gyo
    • Journal of Internet Computing and Services
    • /
    • v.13 no.3
    • /
    • pp.61-73
    • /
    • 2012
  • This paper proposes a histogram specification based image enhancement method, which uses the brightness mean and variance of an image to maximize the entropy of the image. In our histogram specification step, the Gaussian distribution is used to fit the input histogram as well as produce the target histogram. Specifically, the input histogram is fitted with the Gaussian distribution whose mean and variance are equal to the brightness mean(${\mu}$) and variance(${\sigma}2$) of the input image, respectively; and the target Gaussian distribution also has the mean of the value ${\mu}$, but takes as the variance the value which is determined such that the output image has the maximum entropy. Experimental results show that compared to the existing methods, the proposed method preserves the mean brightness well and generates more natural looking images.

A Test of Fit for Inverse Gaussian Distribution Based on the Probability Integration Transformation (확률적분변환에 기초한 역가우스분포에 대한 적합도 검정)

  • Choi, Byungjin
    • The Korean Journal of Applied Statistics
    • /
    • v.26 no.4
    • /
    • pp.611-622
    • /
    • 2013
  • Mudholkar and Tian (2002) proposed an entropy-based test of fit for the inverse Gaussian distribution; however, the test can be applied to only the composite hypothesis of the inverse Gaussian distribution with an unknown location parameter. In this paper, we propose an entropy-based goodness-of-fit test for an inverse Gaussian distribution that can be applied to the composite hypothesis of the inverse Gaussian distribution as well as the simple hypothesis of the inverse Gaussian distribution with a specified location parameter. The proposed test is based on the probability integration transformation. The critical values of the test statistic estimated by simulations are presented in a tabular form. A simulation study is performed to compare the proposed test under some selected alternatives with Mudholkar and Tian (2002)'s test in terms of power. The results show that the proposed test has better power than the previous entropy-based test.

Location Change Estimation in a Video Stream based on SIFT Feature Distributions (SIFT 특성 분포를 이용한 비디오 스트림의 장소 변화 예측)

  • Yoo, Jun-Hee;Seok, Ho-Sik;Zhang, Byoung-Tak
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2011.06c
    • /
    • pp.295-298
    • /
    • 2011
  • 비디오 데이터의 지능적인 처리를 위해서는 사전에 작성한 메타데이터에 제한 받지 않는 유연한 접근방법이 필요하다. 본 논문에서는 엔트로피를 이용하여 적절한 특징을 추출한 후 비디오를 처리하는 방법을 소개한다. 이미지 인식이 잘 될 경우 일정한 이미지 조합으로 비디오의 배경을 설명할 수 있지만, 이미지 인식이 어렵기 때문에 동일한 배경일지라도 등장 인물의 움직임, 촬영 각도의 변화 등 사소한 변화가 발생하면 컴퓨터는 다른 이미지인 것으로 간주하게 된다. 우리가 제안하는 방법은 비디오를 구성하는 이미지 프레임에서 추출한 SIFT(Scale Invariant Feature Transform) 특성의 분포를 엔트로피에 기반하여 재구성한 후 분포 변화를 통해 장소 변화를 추정하는 방법이다. 제안 방법은 비디오 데이터의 이미지를 특징 짓는 비주얼 워드의 분포를 활용하기 때문에 사소한 변화 정도의 영향을 받지 않으면서 동시에 배경의 확연한 변화를 나타낼 수 있다. 우리는 실제 TV 드라마 데이터에 적용하여 제안 방법의 유용성을 확인하였다.