• 제목/요약/키워드: measure-theoretic entropy

검색결과 9건 처리시간 0.02초

Application of Information-theoretic Measure (Entropy) to Safety Assessment in Manufacturing Processes

  • Choi, Gi-Heung
    • International Journal of Safety
    • /
    • 제4권1호
    • /
    • pp.8-13
    • /
    • 2005
  • Design of manufacturing process, in general, facilitates the creation of new process that may potentially harm the workers. Design of safety-guaranteed manufacturing process is, therefore, very important since it determines the ultimate outcomes of manufacturing activities involving safety of workers. This study discusses application of information-theoretic measure (entropy) to safety assessment of manufacturing processes. The idea is based on the general principles of design and their applications. Some examples are given.

ENTROPY OF NONAUTONOMOUS DYNAMICAL SYSTEMS

  • Zhu, Yujun;Liu, Zhaofeng;Xu, Xueli;Zhang, Wenda
    • 대한수학회지
    • /
    • 제49권1호
    • /
    • pp.165-185
    • /
    • 2012
  • In this paper, the topological entropy and measure-theoretic entropy for nonautonomous dynamical systems are studied. Some properties of these entropies are given and the relation between them is discussed. Moreover, the bounds of them for several particular nonautonomous systems, such as affine transformations on metrizable groups (especially on the torus) and smooth maps on Riemannian manifolds, are obtained.

On Information Theoretic Index for Measuring the Stochastic Dependence Among Sets of Variates

  • Kim, Hea-Jung
    • Journal of the Korean Statistical Society
    • /
    • 제26권1호
    • /
    • pp.131-146
    • /
    • 1997
  • In this paper the problem of measuring the stochastic dependence among sets fo random variates is considered, and attention is specifically directed to forming a single well-defined measure of the dependence among sets of normal variates. A new information theoretic measure of the dependence called dependence index (DI) is introduced and its several properties are studied. The development of DI is based on the generalization and normalization of the mutual information introduced by Kullback(1968). For data analysis, minimum cross entropy estimator of DI is suggested, and its asymptotic distribution is obtained for testing the existence of the dependence. Monte Carlo simulations demonstrate the performance of the estimator, and show that is is useful not only for evaluation of the dependence, but also for independent model testing.

  • PDF

Application of Discrimination Information (Cross Entropy) as Information-theoretic Measure to Safety Assessment in Manufacturing Processes

  • Choi, Gi-Heung;Ryu, Boo-Hyung
    • International Journal of Safety
    • /
    • 제4권2호
    • /
    • pp.1-5
    • /
    • 2005
  • Design of manufacturing process, in general, facilitates the creation of new process that may potentially harm the workers. Design of safety-guaranteed manufacturing process is, therefore, very important since it determines the ultimate outcomes of manufacturing activities involving safety of workers. This study discusses application of discrimination information (cross entropy) to safety assessment of manufacturing processes. The idea is based on the general principles of design and their applications. An example of Cartesian robotic movement is given.

Minimum Variance Unbiased Estimation for the Maximum Entropy of the Transformed Inverse Gaussian Random Variable by Y=X-1/2

  • Choi, Byung-Jin
    • Communications for Statistical Applications and Methods
    • /
    • 제13권3호
    • /
    • pp.657-667
    • /
    • 2006
  • The concept of entropy, introduced in communication theory by Shannon (1948) as a measure of uncertainty, is of prime interest in information-theoretic statistics. This paper considers the minimum variance unbiased estimation for the maximum entropy of the transformed inverse Gaussian random variable by $Y=X^{-1/2}$. The properties of the derived UMVU estimator is investigated.

Information Theoretic Standardized Logistic Regression Coefficients with Various Coefficients of Determination

  • Hong Chong-Sun;Ryu Hyeon-Sang
    • Communications for Statistical Applications and Methods
    • /
    • 제13권1호
    • /
    • pp.49-60
    • /
    • 2006
  • There are six approaches to constructing standardized coefficient for logistic regression. The standardized coefficient based on Kruskal's information theory is known to be the best from a conceptual standpoint. In order to calculate this standardized coefficient, the coefficient of determination based on entropy loss is used among many kinds of coefficients of determination for logistic regression. In this paper, this standardized coefficient is obtained by using four kinds of coefficients of determination which have the most intuitively reasonable interpretation as a proportional reduction in error measure for logistic regression. These four kinds of the sixth standardized coefficient are compared with other kinds of standardized coefficients.

러프 집합에 기반한 불완전 정보의 정보 이론적 척도에 관한 연구 (The Study on Information-Theoretic Measures of Incomplete Information based on Rough Sets)

  • 김국보;정구범;박경옥
    • 한국멀티미디어학회논문지
    • /
    • 제3권5호
    • /
    • pp.550-556
    • /
    • 2000
  • 러프집합에서는 식별불능관계와 근사공간 개념을 이용해서 불완전 정보로부터 최적화된 결정규칙을 유도하게 된다. 그러나, 처리 하고자 하는 정보에 정량적이거나 중복 또는 누락된 데이터가 포함된 경우에는 오류가 발생될 수 있으므로, 이러한 데이터들을 제거하거나 최소화시키는 방법이 필요하다. 정보처리 분야에서 불확실성이나 정보의 양을 측정하는데 사용되고 있는 엔트로피는 러프 관계 데이터베이스의 불완전 정보를 제거하는데 사용되었다. 그러나, 정보시스템에 포함될 수 있는 불완전 정보를 모두 다루지는 못하였다. 본 논문에서는 정보시스템의 조건속성과 결정속성에 포함될 수 있는 불완전 정보를 제거하기 위한 정보 이론적 척도로서 러프집합을 이용한 객체관계 엔트로피와 속성관계 엔트로피를 제시한다.

  • PDF

우리나라 친환경농산물 시장에 대한 정보이론적 접근 : 신뢰재의 정보비대칭성 지표로서의 정보엔트로피 측정 (A Theoretic Approach to the Organic Food Market in Korea: An Estimation of Information Entropy as a Measure of Information Asymmetry for Credence Goods)

  • 송양훈
    • 환경정책연구
    • /
    • 제7권3호
    • /
    • pp.41-61
    • /
    • 2008
  • 우리나라 친환경농산물시장은 외형적으로 꾸준히 증가하고 있지만, 친환경농산물에 대한 소비자들의 신뢰도는 낮은 것으로 나타나, 친환경농산물시장의 발전에 걸림돌이 되고 있다. 따라서 친환경농산물시장을 활성화하고 궁극적으로 국민 건강의 증진 및 개방화시대에 우리나라 농업이 살아남기 위해서는, 친환경농산물을 비롯한, 한우와 수입우 등 '신뢰재(Credence Good)' 시장에서의 정보비대칭성(Information Asymmetry) 문제가 해소되어야 한다. 게임이론을 통하여 이러한 정보비대칭성을 계측할 수 있으나, 게임 참가자들의 보상(payoff)을 계측하는 문제의 해결이 용이하지 않고, 가능하더라고 유의성을 담보할 수 없다. 따라서 대안으로 Shannon(1948)에 의하여 주창된 정보엔트로피(Information Entropy; 정보무질서도 또는 정보교란도)의 측정을 통하여 정보비대칭성 지표를 개발하고 이를 토대로 친환경농산물시장을 관리하여야 한다. 본 연구에 따르면, 2003년 이후 친환경농산물시장의 정보엔트로피는 꾸준히 감소하고 있으며, 정책적 제안으로 인증제도의 개선 및 지표의 개발을 통하여 친환경농산물시장을 활성화시킬 것을 주장하였다.

  • PDF

데이터 마이닝을 위한 제어규칙의 생성 (The Generation of Control Rules for Data Mining)

  • 박인규
    • 디지털융복합연구
    • /
    • 제11권11호
    • /
    • pp.343-349
    • /
    • 2013
  • 러프집합에서는 동치류와 근사공간의 개념을 이용하여 데이터 마이닝 분야에서 중복되는 정보로부터 특징점을 효율적으로 추출하여 최적화된 제어규칙을 유도할 수 있다. 이러한 추출과정에서 가장 중요하게 고려되어져야 할 부분은 많은 속성에 대한 감축이다. 본 논문에서는 속성간의 관계에서 러프엔트로피를 이용하여 가장 신뢰도가 우수한 속성을 구할 수 있는 정보이론적인 척도를 제시한다. 제안된 방법은 러프엔트로피를 기반으로 불필요한 속성을 제거함으로써 유용한 리덕트를 생성하고 이들에 대한 코어를 형성한다. 결과적으로 원시정보의 내용은 변하지 않으면서 지식감축을 통하여 간소화된 제어규칙을 구축할 수 있음을 보인다.