• Proceedings of the Korean Information Science Society Conference
• /
• 2008.06c
• /
• pp.569-573
• /
• 2008

패턴인식 문제를 다루는 연구에서 인식 성능을 향상시키고자 베이스 에러율의 상한인 조건부 엔트로피를 응용하는 시도가 있었다. 본 논문에서는 다수의 인식기로 구성된 다수 인식기 시스템이 우수한 성능을 보이도록 인식기의 집합을 결정하는 문제에서 이러한 조건부 엔트로피의 최소화를 통하여 시도한 방법과 다른 방법들을 간단하고 분명한 예제를 통하여 비교, 분석해 보았다. 다수 인식기의 결합 방법으로 대표적인 투표 기법과 조건부 독립 가정의 베이지안 기법을 사용하였으며, 조건부 엔트로피의 최소화를 통하여 인식기의 집합을 결정하는 방법에 대한 유용성을 확인할 수 있었다.

• Proceeding of EDISON Challenge
• /
• 2014.03a
• /
• pp.311-323
• /
• 2014

분자동역학 모의실험을 이용하여 간단한 van der Waals 상호작용하는 이성분 혼합물 계의 섞임 자유에너지 및 섞임 엔트로피 등 섞임과 관련된 열역학 함수들을 계산하는 방법을 소개한다. 각 혼합물의 과잉 자유에너지는 열역학 적분 (thermodynamic integration)방법을 이용하여 계산하고, 이성분 혼합물의 섞임 관련 열역학 함수들은 Hess의 법칙을 확장함으로써 구한다. 계산 결과로부터 온도가 증가할수록 계의 섞임 Helmholtz 자유에너지는 감소하며, 섞임 내부에너지도 감소함을 알 수 있다. 섞임 엔트로피는 온도가 증가할수록 이상기체의 섞임 엔트로피에 접근함을 알 수 있다. 섞임 Helmholtz 자유에너지에 대한 섞임 내부에너지와 섞임 엔트로피 기여도를 조사한 결과 이 계의 섞임 과정을 주도하는 추진력은 엔트로피에 의한 것임을 알 수 있다. 본 연구 방법과 결과를 이용함으로써 학부생들이 혼합물의 열역학 성질을 이해하는데 도움을 주리라 기대한다.

• Proceedings of the Korean Society of Broadcast Engineers Conference
• /
• 2015.11a
• /
• pp.8-10
• /
• 2015

최근 2D 와 3D 콘텐츠의 급격한 수요 증가로 인하여 2D 와 3D 공간에서 사람이 인지하는 물체의 시각적 정보량을 정량화할 필요성이 대두되었다. 본 논문에서는 정보이론에 기초하여 엔트로피 관점에서 2D 와 3D 영상의 시각적 정보량을 측정하는 방법을 제시한다. 시각적 정보량을 측정할 때, 기존의 연구에서는 고려되지 않았던 집중영역(saliency), 시각세포의 불균형으로 인한 주변영역 흐림현상인 포비에이션(foveation), 양안합성(binocular fusion)등 인간의 시각적 특성을 반영하였다는 점에서 기존의 연구들과 차이를 둔다. 2D 콘텐츠의 시각적 엔트로피는 단안시에 근거한 질감(texture) 엔트로피와 깊이 엔트로피로 구성되어 있다. 그리고 3D 콘텐츠의 시각적 엔트로피는 2D 에서의 시각적 엔트로피와 양안시에 의한 깊이 엔트로피를 포함한다. 본 논문의 시각적 엔트로피는 2D 와 3D 영상의 시각적 피로도를 측정할 때 사용될 수 있다.

• Proceedings of the KIPE Conference
• /
• 2015.07a
• /
• pp.381-382
• /
• 2015

배터리의 열역학적 인자, 즉, 엔탈피, 엔트로피, 깁스 자유 에너지는 배터리의 상태인 SOH (State Of Health)를 추정하는 데 있어서 매우 밀접한 관련이 있으며, 정밀한 측정을 필요로 한다. 이러한 열역학적 인자 중 엔트로피의 측정이 중요한데 ETM (Electrochemical thermodynamics measurements) 방법이 대표적으로 사용되고 있다. 본 논문에서는 기존 ETM 방법을 설명하고, 이를 보완한 새로운 엔트로피 측정 방법을 제안하며, 실험을 통해 유효성을 입증한다.

• Annual Conference on Human and Language Technology
• /
• 2001.10d
• /
• pp.130-137
• /
• 2001

최대 엔트로피 모델(maximum entropy model)은 여러 가지 자연언어 문제를 학습하는데 성공적으로 적용되어 왔지만, 두 가지의 주요한 문제점을 가지고 있다. 그 첫번째 문제는 해당 언어에 대한 많은 사전 지식(prior knowledge)이 필요하다는 것이고, 두번째 문제는 계산량이 너무 많다는 것이다. 본 논문에서는 텍스트 단위화(text chunking)에 최대 엔트로피 모델을 적용하는 데 나타나는 이 문제점들을 해소하기 위해 새로운 방법을 제시한다. 사전 지식으로, 간단한 언어 모델로부터 쉽게 생성된 결정트리(decision tree)에서 자동적으로 만들어진 규칙을 사용한다. 따라서, 제시된 방법에서의 최대 엔트로피 모델은 결정트리를 보강하는 방법으로 간주될 수 있다. 계산론적 복잡도를 줄이기 위해서, 최대 엔트로피 모델을 학습할 때 일종의 능동 학습(active learning) 방법을 사용한다. 전체 학습 데이터가 아닌 일부분만을 사용함으로써 계산 비용은 크게 줄어 들 수 있다. 실험 결과, 제시된 방법으로 결정트리의 오류의 수가 반으로 줄었다. 대부분의 자연언어 데이터가 매우 불균형을 이루므로, 학습된 모델을 부스팅(boosting)으로 강화할 수 있다. 부스팅을 한 후 제시된 방법은 전문가에 의해 선택된 자질로 학습된 최대 엔트로피 모델보다 졸은 성능을 보이며 지금까지 보고된 기계 학습 알고리즘 중 가장 성능이 좋은 방법과 비슷한 성능을 보인다 텍스트 단위화가 일반적으로 전체 구문분석의 전 단계이고 이 단계에서의 오류가 다음 단계에서 복구될 수 없으므로 이 성능은 텍스트 단위화에서 매우 의미가 길다.

• Proceedings of the KIPE Conference
• /
• 2017.07a
• /
• pp.318-320
• /
• 2017

본 연구는 리튬이온 배터리의 엔트로피를 측정하는 방법인 ETM(Electro Thermodynamics Measurement)을 상용 장비에 적용하는 방법에 관한 것이다. 그리고 엔트로피 측정에 필요한 온도변경시간과 배터리의 relaxation 시간을 최소화함으로써, 측정의 정확성을 유지하면서 측정 시간을 최소화 했다.

• Journal of the Korea Institute of Information Security & Cryptology
• /
• v.28 no.4
• /
• pp.809-826
• /
• 2018

The entropy evaluation method for noise sources is one of the evaluation methods for the random number generator that is the essential element of modern cryptographic systems and cryptographic modules. The primary entropy evaluation methods outside of the country are more suitable to apply to hardware noise sources than software noise sources, and there is a difficulty in quantitative evaluation of entropy by software noise source. In this paper, we propose an entropy evaluation method that is suitable for software noise sources, considering characteristics of software noise sources. We select time-dependent noise sources that are software noise sources of Windows OS, and the heuristic analysis and experimental analysis are performed considering the characteristics of each time-dependent noise source. Based on these analyses, we propose an entropy harvest method from the noise source and the min-entropy estimation method as the entropy evaluation method for time-dependent noise sources. We also show how to use our entropy evaluation method in the Conditioning Component described in SP 800-90B of NIST(USA).

• Proceedings of the Korean Information Science Society Conference
• /
• 1999.10b
• /
• pp.195-197
• /
• 1999

본 논문은 음성인식 시스템에서 정확도를 높이기 위해 후처리 단계에서 후보 단어들의 엔트로피 정보를 이용하였다. 기존의 우도비 검출방법은 음성 데이터에 따라 음성인식 시스템의 성능이 변하고 N개의 후보단어들의 우도값이 비슷하여 오인식 발생확률이 높았다. 그러나 본 논문에서는 각 후보 단어들의 엔트로피 값보다 인식대상 단어 외의 단어들의 엔트로피 값이 상대적으로 낮은 후보를 거절하는 후처리 방법을 사용하여 음성 데이터에 독립적이면서도 변별력을 높인 정확한 음성인식 시스템을 얻을 수 있었다. 실험 결과 본 논문에서 제안하는 엔트로피에 의한 후처리 방법은 우도비에 의한 방법보다 인식 시스템의 성능을 falser alarm이 20%일 때 최대 3.6% 향상시킬 수 있었다.

• Proceedings of the Korea Institutes of Information Security and Cryptology Conference
• /
• 2001.11a
• /
• pp.15-19
• /
• 2001

암호 알고리즘 출력문에 대한 난수성 검정들은 평문과 암호문 식별에 중요한 역할을 하고 있다. 실제로, 난수열의 생성자는 비밀키의 생성자와 같은 많은 암호체계에서 사용되고 있으며, 이때 사용되고 있는 난수열은 모의 난수라고 한다. 따라서, 이진수열에 대한 난수성을 검정하는 통계적 검정방법이나 다른 이론적 기준이 필요하다. 본 논문에서는 모의난수열이 갖고 있는 난수성 판정에 관하여 universal 엔트로피 검정방법과 근사 엔트로피 검정방법을 이용하며, 위의 두 방법에 대한 각각의 이론적인 배경과 모의실험을 통한 판정기준을 제공한다.

• Proceedings of the Korean Society of Coastal and Ocean Engineers Conference
• /
• 1993.07a
• /
• pp.125-129
• /
• 1993

학문의 어느 분야든, 어느 분야의 어느 한 가지든 그 출발점으로 거슬러 올라 가기란 결코 쉬운 일이 아니다. 불규칙 자료의 스펙트럼분석이야 고전적인 방법이지만 그 분석방법중 Burg(1967)에 의해 제안된 엔트로피(entropy) 개념을 이용한 방법은 그 출발점을 명확하게 이해하기가 손쉽지 않다. 차제에 최대엔트로피방법(Maximum Entropy Method： MIM)을 복습하고, 그것이 어떻게 스펙트럼 추정에 응용되는가를 정리함은 나름대로 의의가 있을 것이다. (중략)