• 대한전자공학회논문지
• /
• 제20권2호
• /
• pp.16-22
• /
• 1983

본 논문에서는 이진 일차 Markov 정보원에서 하나의 조건부 확률이 주어졌을 때, 엔트로피(entropy)를 최대로 하기 위한 나머지의 조건부 확률(PFME; probability for maximum entropy)과 그때의 언트로피를 구했다. 또한, 평형 상태 확률이 일정할 때 조건부 확률의 변화가 엔트로피에 미치는 영향도 함께 고찰하였다.

• Communications for Statistical Applications and Methods
• /
• 제16권2호
• /
• pp.277-286
• /
• 2009

영상정합은 동일한 장면에 대해서 서로 다른 시간 혹은 특성의 센서로부터 서로 다른 위치 에서 얻는 영상들의 공간적 대응관계를 찾는 과정이다. 본 논문에서는 동일 환자에게 촬영한 뇌 MR과 CT영상간의 상이한 공간좌표계의 차이를 보정하기 위 한 강인한 정합방법을 소개한다. 두 영상의 명암도에 대한 결합 히스토그램으로부터 계산된 개선된 조건부 엔트로피(MCE: Modified Conditional Entropy)를 이용하여 최대인 위치로 정합을 수행하고, 3차원 볼륨 렌더링 기법을 이용하여 정합된 영상을 가시화한다.

• Journal of the Korean Statistical Society
• /
• 제13권2호
• /
• pp.87-106
• /
• 1984

It ${X_t}$ is a sequence of independent identically distributed normal random variables, then the conditional probability density of $X_1, X_2, \cdots, X_n$ given the first p+1 sample autocovariances converges to the maximum entropy probability density satisfying the corresponding covariance constraints as the length of the sample sequence tends to infinity. This establishes that the maximum entropy probability density and the associated Gaussian autoregressive process arise naturally as the answers of conditional limit problems.

• 한국인터넷방송통신학회논문지
• /
• 제14권6호
• /
• pp.47-54
• /
• 2014

러프집합을 구성하는 식별불가능 관계를 표현하는 정보시스템에서 데이터의 중복이나 비일관성은 피할 수 없기 때문에 속성의 감축은 매우 중요하다. 러프집합이론에 있어서 일관적인 정보시스템과 비일관적인 정보시스템의 속성감축의 차이를 극복하고 자, 본 연구에서는 조건 및 결정속성에 대한 상관분석에 베이지언 사후확률을 적용한 새로운 불확실성 척도와 속성감축 알고리즘을 제안한다. 정보시스템의 불확실성에 대하여 제안된 척도와 기존의 조건부 정보엔트로피 척도를 비교해 본 결과, 정보시스템의 조건속성과 결정속성의 상호정보를 이용하여 속성간의 불확실성을 측정하는데 있어 제안된 방법이 조건부 정보엔트로피에 의한 방법보다 정확성이 있음을 보여준다.

• 정보처리학회논문지B
• /
• 제17B권4호
• /
• pp.303-308
• /
• 2010

본 논문에서는 기울기 벡터장과 조건부 엔트로피를 결합한 의료영상 정합 방법을 제안한다. 정합 방법은 조건부 확률의 엔트로피에 기반한 측도를 수행한다. 먼저 공간적 정보를 얻기 위해 윤곽선 정보의 방향을 제공하는 기울기 정보인 기울기 벡터장을 계산한다. 다음으로 주어진 두 영상에서 픽셀의 밝기정보와 에지정보를 결합하여 조인트 히스토그램을 계산하여 조건부 엔트로피를 구하고, 이것을 두 영상의 정합측도로 사용한다. 제안된 방법의 성능평가를 위해 자기공명 영상과 변환된 컴퓨터단층촬영 영상에 기존 방법인 상호정보기반의 측도, 조건부 엔트로피만을 사용한 측도와 비교 실험을 수행한다. 실험결과로부터 제안한 방법이 기존의 최적화 방법들 보다 더 빠르고 정확한 정합임을 알 수 있다.

• KSII Transactions on Internet and Information Systems (TIIS)
• /
• 제9권1호
• /
• pp.20-33
• /
• 2015

Spectrum sensing is a key component of cognitive radio. The prediction of the primary user status in a low signal-to-noise ratio is an important factor in spectrum sensing. However, because of noise uncertainty, secondary users have difficulty distinguishing between the primary signal and an unauthorized signal when an unauthorized user exists in a cognitive radio network. To resolve the sensitivity to the noise uncertainty problem, we propose an entropy-based spectrum sensing scheme to detect the primary signal accurately in the presence of an unauthorized signal. The proposed spectrum sensing uses the conditional entropy between the primary signal and the unauthorized signal. The ability to detect the primary signal is thus robust against noise uncertainty, which leads to superior sensing performance in a low signal-to-noise ratio. Simulation results show that the proposed spectrum sensing scheme outperforms the conventional entropy-based spectrum sensing schemes in terms of the primary user detection probability.

• Genomics & Informatics
• /
• 제20권2호
• /
• pp.17.1-17.11
• /
• 2022

Genetic associations have been quantified using a number of statistical measures. Entropy-based mutual information may be one of the more direct ways of estimating the association, in the sense that it does not depend on the parametrization. For this purpose, both the entropy and conditional entropy of the phenotype distribution should be obtained. Quantitative traits, however, do not usually allow an exact evaluation of entropy. The estimation of entropy needs a probability density function, which can be approximated by kernel density estimation. We have investigated the proper sequence of procedures for combining the kernel density estimation and entropy estimation with a probability density function in order to calculate mutual information. Genotypes and their interactions were constructed to set the conditions for conditional entropy. Extensive simulation data created using three types of generating functions were analyzed using two different kernels as well as two types of multifactor dimensionality reduction and another probability density approximation method called m-spacing. The statistical power in terms of correct detection rates was compared. Using kernels was found to be most useful when the trait distributions were more complex than simple normal or gamma distributions. A full-scale genomic dataset was explored to identify associations using the 2-h oral glucose tolerance test results and γ-glutamyl transpeptidase levels as phenotypes. Clearly distinguishable single-nucleotide polymorphisms (SNPs) and interacting SNP pairs associated with these phenotypes were found and listed with empirical p-values.

• 한국통신학회논문지
• /
• 제22권2호
• /
• pp.344-352
• /
• 1997

This paper proposes an efficient lossless coding scheme for tree structured vector quantization (TSVQ) system which efficiently exploits inter-block correlation. The TSVQ index of the current block is adaptively arithmeticencoded depending on the indices of the previous blocks. This paper also presents a reductio method, which effectively resolve the memory problem which usually arises in many conditional entropy coding schemes. Simulation results show that the proposed scheme provides remarkable bitrate reduction by effectively exploiting not only linear but also non-linear inter-block correlation.

• Communications for Statistical Applications and Methods
• /
• 제8권1호
• /
• pp.193-207
• /
• 2001

When designing a test set, we need to consider constraints on items that are deemed important by item developers or test specialists. The constraints are essentially on the components of the test domain or abilities relevant to a given test set. And so if the test domain could be represented in a more refined form, test construction would be made in a more efficient way. We assume that relationships among task abilities are representable by a causal model and that the item response theory (IRT) is not fully available for them. In such a case we can not apply traditional item selection methods that are based on the IRT. In this paper, we use entropy as an uncertainty measure for making inferences on task abilities and developed an optimal item selection algorithm which reduces most the entropy of task abilities when items are selected from an item pool.

• 대한수학회보
• /
• 제9권1호
• /
• pp.9-16
• /
• 1972