정보이론의 개념 및 응용

  • 김진영 (광운대학교 전파공학과) ;
  • 김윤현 (광운대학교 전파공학과) ;
  • 허준 (고려대학교 전기전자전파공학부)
  • Published : 2008.04.28

Abstract

정보 이론은 최대한 많은 데이터를 매체에 저장하거나 채널을 통해 통신하기 위해 데이터를 정량화하는 응용 수학의 한 분야이다. 1948년 정보이론은 Shannon의 논문에서 발표되었으며 이 논문을 바탕으로 통신, 신호처리, 네트워크에의 데이터 처리 및 전송에 대한 획기적인 발전을 이루었다. 본 논고에서는 정보의 의미와 엔트로피, 채널 용량에 관한 내용을 다루어 정보이론의 기본 개념을 설명할 것이며, 또한 센서네트워크와 중계 채널 그리고 MIMO 시스템과 다른 분야에서 정보이론이 어떻게 적용되는지 그 응용분야에 대해 다뤄보고자 한다.

Keywords

References

  1. C. E. Shannon, 'A mathematical theory of communication,' Bell Syst. Tech. J., vol. 27, pp. 623-656, 1948 https://doi.org/10.1002/j.1538-7305.1948.tb00917.x
  2. D. Slepian, Ed., Key Papers in Developmentof Information Theory: New York, IEEE Press, 1973
  3. C. E. Shannon, 'Prediction and entropy of printed gnglish,' Bell Syst. Tech. J., vol, 30, pp.50-64, 1951 https://doi.org/10.1002/j.1538-7305.1951.tb01366.x
  4. A. Kolmogorov, 'Logical basis for infonnation theory and probability theory,' IEEE Trans., Inform., Theory, vol, IT-14, pp. 662-664, 1968
  5. T. L. Fine, Theories of Probability : New York, Academic Press, 1973
  6. A. D. Wyner, 'Recent results in Shannon theory,' IEEE Trans., Inform., Theory, vol, IT-20, pp. 2-10, 1974
  7. A. D. Wyner, 'The capacity of he band-limited Gaussian channel,' Bell Syst. Tech. J., vol, 45, pp.359-371, March. 1965
  8. D. Drajic, D. Bajic, 'Information theory 증폭-전송ter,' TELSIKS'97, Nis., pp. 5-12, Oct. 1997
  9. J. Hagenauer 'The impact of information theory on communicatins,' IEEE Inf., Theory, Society Newsletter, Special Golden Jubilee Issue, Summer 1998, pp. 6-8
  10. G. J. Pattie et. al., 'wireless sensor networks' , Inform., Theory, Workshop Proc., Killamey, Ireland, June 22-24, 1998
  11. T. S. Han and K. Kobayashi, 'A unified achievable rate region for a general class of multi-terminal source coding systems,' IEEE Trans., on Inform., Theory, vol, IT-26, pp. 277-288,May 1980
  12. C. E. Shannon, 'Two-way communications channels,' in Proc., 4th Berkeley Symp., Math, Stat., Prob., 1, Univ, California Press, pp, 611-644, 1961
  13. C. E. Shannon, 'Two-way communications channels,' in Proc., 4th Berkeley Symp., Math, Stat., Prob., 1, Univ, California Press, pp, 611-644, 1961 A. El Gamal, 'The capacity of the deterministic relay channel,' pres-ented at the 1979 IEEE Int. Symp. Information Theory