DOI QR코드

DOI QR Code

Real-time Implementation of Sound into Color Conversion System Based on the Colored-hearing Synesthetic Perception

색-청 공감각 인지 기반 사운드-컬러 신호 실시간 변환 시스템의 구현

  • Received : 2015.07.08
  • Accepted : 2015.09.02
  • Published : 2015.12.28

Abstract

This paper presents a sound into color signal conversion using a colored-hearing synesthesia. The aim of the present paper is to implement a real-time conversion system which focuses on both hearing and sight which account for a great part of bodily senses. The proposed method of the real-time conversion of color into sound, in this paper, was simple and intuitive where scale, octave and velocity were extracted from MIDI input signals, which were converted into hue, intensity and saturation, respectively, as basic elements of HSI color model. In experiments, we implemented both the hardware system for delivering MIDI signals to PC and the VC++ based software system for monitoring both input and output signals, so we made certain that the conversion was correctly performed by the proposed method.

본 논문은 공감각의 한 부분인 색청(colored-hearing) 공감각을 이용한 사운드-컬러 신호 변환에 관한 연구로서, 인간이 인지 할 수 있는 오감 중 공감각적 변환이 가장 많이 일어나는 청각과 시각을 이용한 실시간 변환 시스템의 구축을 목표로 한다. 본 논문에서 제안하는 음-색 실시간 변환 방법으로서, 입력으로 사용하는 MIDI(Musical Instrument Digital Interface) 신호에서 음계(scale), 옥타브(octave) 및 음의 세기(velocity)를 추출한 후 HSI 컬러모델의 기본 요소인 색상(hue), 명도(intensity) 및 채도(saturation)에 각각 대응하여 변환하는 방법으로 단순하지만 직관적인 방법을 사용한다. 변환된 HSI 컬러 모델은 모니터 출력을 위해 RGB 컬러 모델로 최종 변환하여 출력한다. 실험에서, MIDI 입력신호 전송 H/W 시스템과 VC++ 기반 해당 사운드-컬러 변환 입 출력 S/W 모니터링 시스템을 구축하여 사운드에서 컬러로의 출력이 제안한 방식에 따라 값이 출력됨을 확인하였다.

Keywords

References

  1. 김용철, 공감각의 형성요인에 관한 연구, 홍익대학교 대학원 박사학위논문, 2005.
  2. 유혜영, 색채의 공감각에 의한 색채인지 연구, 이화여자대학교 대학원 석사학위논문, 2010.
  3. 전가영, 음과 색의 공감각적 표현, 이화여자대학교 대학원 석사학위논문, 2003.
  4. 전한영, 공감각을 활용한 중학교 음악 감상 수업 지도방안 연구, 연세대학교 석사학위논문, 2014.
  5. 최경미, 박영호, "감성 정보통신 기술 동향 분석," 한국정보처리학회 논문집, 제18권, 제1호, 2011.
  6. N. Osmanovic, N. Hrustemovic, and H. R. Myler, "A testbed for auralization of graphic art," IEEE Region 5, 2003 Annual Technical Conference, pp.45-49, 2003.
  7. S. Matta, D. K. Kumar, and X. H. Yu, "Discriminative analysis for image to sound mapping," Intelligent Sensing and Information Processing, pp.119-122, 2004.
  8. http://www.seeingwithsound.com/
  9. Peter B. L. Meijer, "An experimental system for auditory image representations," IEEE trans. on bio-medical engineering, Vol.39, No.2, pp.112-121, 1992. https://doi.org/10.1109/10.121642
  10. 김성일, "HSI 히스토그램에 기초한 이미지-사운드 변환," 한국음향학회지, 제30권, 제3호, pp.142-148, 2011. https://doi.org/10.7776/ASK.2011.30.3.142
  11. 김길호, "화성법을 이용하여 색과 음을 상호변환하고 색채를 조화하는 방법 및 장치," 출원번호 10-99-34242, 1999.
  12. 김길호, 백정기, 사운드컬러하모니즘: 음악이 흐르는 컬러 배색 사전, 임프레스, 2003.
  13. 강건우, 김성일, "피치 기반 사운드-컬러이미지 변환에 관한 기초연구," 감성과학, 제15권, 제2호, pp.231-238, 2012.
  14. 임윤정, 소리와 색채의 연관성에 관한 연구, 건국대학교 대학원 석사학위논문, 2013.
  15. 임지혜, 음과 색채의 연관성 : 올리비에 메시앙의 오르간 작품 중심으로, 한양대학교대학원 석사학위논문, 2013.
  16. Evan Briggs, FPGA Digital Music Synthesizer, Diss. Worcester Polytechnic Institute, 2015.
  17. Guoming Zhao, "The Study on the Performance Characteristics of the Violin Tone in the Computer Music," International Conference on Education Technology, Management and Humanities Science, pp.44-47, 2015.
  18. http://www.midi.org
  19. 황태영, 이미지 색상 정보 분석을 통한 음악적 정보 추출에 관한 연구, 중앙대학교 첨단영상 대학원 석사학위논문, 2008.
  20. http://picsynth.000space.com/midi.html
  21. http://www.fon.hum.uva.nl/praat/