• 제목/요약/키워드: 엔트로피

검색결과 1,181건 처리시간 0.031초

확장된 크로스 엔트로피 오차함수의 특성 (Characteristics of Extended Cross-Entropy Error Function)

  • 오상훈
    • 한국콘텐츠학회:학술대회논문집
    • /
    • 한국콘텐츠학회 2014년도 추계 종합학술대회 논문집
    • /
    • pp.39-40
    • /
    • 2014
  • 신경회로망의 학습을 위하여 크로스 엔트로피 오차함수가 사용되며, 이의 성능향상을 위하여 확장된 크로스 엔트로피 함수도 제시되었다. 크로스 엔트로피 오차함수는 정보이론에서 제시된 상대 엔트로피(relative entropy)에서 유도된 함수이다. 상대 엔트로 피는 두 확률밀도함수의 발산(divergence) 함수이다. 이 논문에서는 상대 엔트로피와 크로스 엔트로피 관계를 파악한 후, 이를 기반으로 확장된 크로스 엔트로피에 상응하는 새로운 엔트로피 발산 함수를 n=2와 4인 경우에 대하여 유도한다.

  • PDF

역가우스분포에 대한 변형된 엔트로피 기반 적합도 검정 (A Modi ed Entropy-Based Goodness-of-Fit Tes for Inverse Gaussian Distribution)

  • 최병진
    • 응용통계연구
    • /
    • 제24권2호
    • /
    • pp.383-391
    • /
    • 2011
  • 이 논문에서는 역가우스분포의 적합을 위한 변형된 엔트로피 기반 검정을 제시한다. 이 검정은 자료생성분포와 역가우스분포의 엔트로피 차이에 기초를 두고 있으며 검정통계량은 엔트로피 차이의 추정량을 사용한다. 엔트로피 차이의 추정량은 자료생성분포에 대한 엔트로피 추정량으로 Vasicek의 표본엔트로피와 역가우스분포에 대한 엔트로피 추정량로 균일최소분산불편추정량을 사용하여 얻는다. 모의실험을 통해 얻은 표본크기와 윈도크기에 따른 검정통계량의 기각값들을 표의 형태로 제공한다. 제안한 검정의 검정력 알아보기 위해 여러 대립분포와 표본크기에 대해서 모의실험을 수행하고 기존의 엔트로피 기반 검정과 비교한다.

엔트로피와 색채 특징을 이용한 영상 검색 기법 (An Image Retrieval Technique using Entropy and Color Features)

  • 김태희;정동석
    • 한국정보과학회논문지:시스템및이론
    • /
    • 제26권3호
    • /
    • pp.282-290
    • /
    • 1999
  • 본 논문에서는 영상 데이터베이스에서의 색인화를 위해 화소간의 엔트로피(inter-pixel entropy)측면에서 영상을 해석하여 특징을 추출하는 색인기법을 제안하였다. 엔트로피를 정량적으로 나타내기 위하여 PIM(picture information measure)에 기반한 특징을 각각의 영상들로부터 추출하여 색인으로 사용하였다. 엔트로피에 기반 하는 특징은 한 영상에 대하여 3가지를 추출하였다. 첫 번째 특징은 원 영상으로부터 직접 값들을 추출하였고 영상의 해상도와 그레이 레벨을 낮추어 가면서 얻어지는 영상들로부터 두 번째, 세번째 의 엔트로피 특징을 각각 추출하였다. 일반적으로 영상의 경우에 엔트로피가 높은 영역에 정보가 집중되는 경향이 있고 엔트로피가 낮은 영역에서는 배경 영역 등의 정보를 추출하게된다. 이러한 이유로 색채 특쟁은 엔트로피에 따라서 분리된 영역에서 추출하였다. 전역검색(global search)은 엔트로피 특징을 이용하였고 색채 특징을 이용하여 지역 검색(local search)을 시도하였다. 실험은 색채와 엔트로피로 식별이 유용한 꽃 영상을 사용하였는데 원치 않는 영상이 상위 단계에서 나타나는 빈도가 기존의 타 기법에 비해 줄어들었다.

엔트로피 관점에서 2D 와 3D 동영상의 시각적 정보량 측정방법 (2D and 3D Visual Information Measurement in terms of Entropy)

  • 안세웅;이상훈
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송공학회 2015년도 추계학술대회
    • /
    • pp.8-10
    • /
    • 2015
  • 최근 2D 와 3D 콘텐츠의 급격한 수요 증가로 인하여 2D 와 3D 공간에서 사람이 인지하는 물체의 시각적 정보량을 정량화할 필요성이 대두되었다. 본 논문에서는 정보이론에 기초하여 엔트로피 관점에서 2D 와 3D 영상의 시각적 정보량을 측정하는 방법을 제시한다. 시각적 정보량을 측정할 때, 기존의 연구에서는 고려되지 않았던 집중영역(saliency), 시각세포의 불균형으로 인한 주변영역 흐림현상인 포비에이션(foveation), 양안합성(binocular fusion)등 인간의 시각적 특성을 반영하였다는 점에서 기존의 연구들과 차이를 둔다. 2D 콘텐츠의 시각적 엔트로피는 단안시에 근거한 질감(texture) 엔트로피와 깊이 엔트로피로 구성되어 있다. 그리고 3D 콘텐츠의 시각적 엔트로피는 2D 에서의 시각적 엔트로피와 양안시에 의한 깊이 엔트로피를 포함한다. 본 논문의 시각적 엔트로피는 2D 와 3D 영상의 시각적 피로도를 측정할 때 사용될 수 있다.

  • PDF

VVC의 엔트로피 코딩

  • 김대연
    • 방송과미디어
    • /
    • 제24권4호
    • /
    • pp.102-108
    • /
    • 2019
  • VVC(Versatile Video Coding)는 H.264/AVC(Advanced Video Coding)와 H.265/HEVC(High Efficiency Video Coding)의 엔트로피 코딩 기술로 사용되었던 CABAC(Context-based Adaptive Binary Arithmetic Coding)을 기반으로하여 압축율과 처리율을 향상시킬 수 있는 다양한 기술들이 채택되어 현재 CD(Committee Draft)가 완성되었고 참조 모델인 VTM6.0이 정식으로 배포되었다. 본 논문에서는 VVC Draft 6에 채택된 엔트로피 코딩 관련 기술들과 H.265/HEVC의 엔트로피 코딩의 차이점을 설명하고 엔트로피 코딩의 압축 성능과 엔트로피 코딩의 복잡도를 분석한다.

엔트로피를 기반으로 한 사용자 인터페이스 인지적 복잡도의 척도 (An Entropy-Based Measure for Evaluation the Cognitive Complexity of User Interface)

  • 이동석;윤완철;최상섭
    • 감성과학
    • /
    • 제1권1호
    • /
    • pp.213-221
    • /
    • 1998
  • 현대의 시스템들이 가지는 고기능화와 자동화로 인하여 인간의 운용 능력이 점점 더 중요한 능력으로 부각되고 있으며, 이는 사용자가 경험하게 되는 인지넉 복잡도를 제어하는 것을 요구한다. 본 연구에서는 사용자 인터페이스에서 사용자가 경험해야 하는 인지적 복잡도를 스키마 구조를 반영하여 정량화하는 엔트로피 모형(윤완철, 1992)을 적용하여 사용자가 겪게 될 인지적 복잡도를 예측하는 척도가 제안되었으며 실험적으로 검증되었다. 엔트로피와 시스템 크기-조작의 수와 상태의 수-가 각각 다른 세 가지 인터페이스 (엔트로피가 낮고 작은 크기의 인터페이스, 엔트로피가 높고 작은 크기의 인터페이스, 엔트로피가 높고 큰 크기의 인티페이스) 중의 하나를 사용하는 것을 피험자이 학습하고, 이에 대해 검사를 받았다. 제안된 척도인 시스템 엔트로피는 사용자 수행도를 잘 설명하였지만, 시스템의 크기는 그러하지 않았다. 본 연구는 사용자가 겪게 될 인지적 복잡도를 평가자의 주관이 개입하지 않는 방법을 통하여 평가할 수 있음을 보인 것으로 가전제품이나 스프트웨어의 디자인의 평가와 개선 등 인간의 인지적 복잡도가 사용성에 중요한 영향을 미치는 분야에서 유용하리라 여겨진다.

  • PDF

분자동역학 모의실험을 이용한 Lennard-Jones 이성분 혼합물의 섞임 자유에너지 및 섞임 엔트로피 계산

  • 이아영;정유진
    • EDISON SW 활용 경진대회 논문집
    • /
    • 제3회(2014년)
    • /
    • pp.311-323
    • /
    • 2014
  • 분자동역학 모의실험을 이용하여 간단한 van der Waals 상호작용하는 이성분 혼합물 계의 섞임 자유에너지 및 섞임 엔트로피 등 섞임과 관련된 열역학 함수들을 계산하는 방법을 소개한다. 각 혼합물의 과잉 자유에너지는 열역학 적분 (thermodynamic integration)방법을 이용하여 계산하고, 이성분 혼합물의 섞임 관련 열역학 함수들은 Hess의 법칙을 확장함으로써 구한다. 계산 결과로부터 온도가 증가할수록 계의 섞임 Helmholtz 자유에너지는 감소하며, 섞임 내부에너지도 감소함을 알 수 있다. 섞임 엔트로피는 온도가 증가할수록 이상기체의 섞임 엔트로피에 접근함을 알 수 있다. 섞임 Helmholtz 자유에너지에 대한 섞임 내부에너지와 섞임 엔트로피 기여도를 조사한 결과 이 계의 섞임 과정을 주도하는 추진력은 엔트로피에 의한 것임을 알 수 있다. 본 연구 방법과 결과를 이용함으로써 학부생들이 혼합물의 열역학 성질을 이해하는데 도움을 주리라 기대한다.

  • PDF

최대 엔트로피 부스팅 모델을 이용한 전치사 접속 모호성 해소 (Resolving Prepositional Phrase Attachment Using a Maximum Entropy Boosting Model)

  • 박성배;장병탁
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2002년도 가을 학술발표논문집 Vol.29 No.2 (2)
    • /
    • pp.670-672
    • /
    • 2002
  • Park과 Zhang은 최대 엔트로피 모델(maximum entropy model)을 실제 자연언어 처리에 적용함에 있어서 나타날 수 있는 여러가지 문제를 해결하기 위한 최대 엔트로피 모델(maximum entropy boosting model)을 제시하여 문서 단위화(text chunking)에 성공적으로 적용하였다. 최대 엔트로피 부스팅 모델은 쉬운 모델링과 높은 성능을 보이는 장점을 가지고 있다. 본 논문에서는 최대 엔트로피 부스팅 모델을 영어 전치사 접속 모호성 해소에 적용한다. Wall Street Journal 말뭉치에 대한 실험 결과, 아주 작은 노력을 들였음에도 84.3%의 성능을 보여 지금까지 알려진 최고의 성능과 비슷한 결과를 보였다.

  • PDF

시간 가중치 엔트로피를 이용한 결정 트리 생성 알고리즘 (ID3 Algorithm Improved with Time-weighted Entropy)

  • 동립권;이지형
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2005년도 한국컴퓨터종합학술대회 논문집 Vol.32 No.1 (B)
    • /
    • pp.625-627
    • /
    • 2005
  • 결정 트리(Decision Tree)는 주어진 데이터의 경향을 학습하는 데 사용되는 대표적인 방식이다. 이것은 주어진 데이터를 구조화하기 위하여 데이터의 속성과 정보의 엔트로피에 기반을 둔 정보획득량을 이용한다. 본 논문에서는 유비쿼터스 환경에서 사용자 프로파일 정보처럼 시간에 따라 그 경향이 변하는 데이터에 유용하게 적용할 수 있는 시간 가중치 엔트로피를 정의한다. 그리고 ID3 알고리즘을 기반으로 새롭게 제안하는 시간 가중치 엔트로피를 이용하는 향상된 ID3 알고리즘을 쓰고 사용자의 경향을 분석한다. 본 논문에서 제안하는 엔트로피를 이용하는 방식은 데이터들의 시간에 관한 영향을 고려해서 기준방식보다 분석결과가 더욱 유리하다. 두 방식의 비교 테스트 결과를 보면 시간 가중치 엔트로피를 이용하는 알고리즘은 기존의 ID3 알고리즘보다 구성된 트리의 구조가 매우 간단하고 유리하다.

  • PDF

모수적 엔트로피 추정량과 비모수적 엔트로피 추정량에 기초한 정규분포에 대한 적합도 검정 (Goodness-of-fit test for normal distribution based on parametric and nonparametric entropy estimators)

  • 최병진
    • Journal of the Korean Data and Information Science Society
    • /
    • 제24권4호
    • /
    • pp.847-856
    • /
    • 2013
  • 본 논문에서는 모수적과 비모수적 엔트로피 추정량들에 기초한 정규분포에 대한 적합도 검정을 다룬다. 정규분포의 엔트로피에 대한 모수적 추정량으로 사용할 최소분산비편향추정량을 유도한다. 이 추정량과 대립가설 하에서의 자료생성분포에 대한 비모수적 엔트로피 추정량으로 표본엔트로피와 이것의 변형된 추정량들을 이용하여 검정통계량들을 구축했고 이 검정통계량들을 사용하는 새로운 엔트로피 기반 적합도 검정들을 제시한다. 제안한 검정들의 기각값들을 모의실험을 통해 추정해서 표의 형태로 제시한다. 성능의 조사를 위해 수행한 모의실험에서 제안한 검정들이 기존의 Vasicek (1976) 검정보다는 더 좋은 검정력을 가지는 것으로 나타난다. 응용에서 새로운 검정들이 정규성 검정을 위한 경쟁적인 도구로 시용될 수 있을 것으로 기대된다.