신경회로망 최적화 기법의 배경 및 응용

과학기술의 고속화에 따라 종래에는 인간이 더 잘수행하던 지능을 요하는 일들이 점점 컴퓨터에 의해 처리되는 경우가 늘어나고 있다. 그러나 아직도 많은 분야에서 종래의 방식에 의한 한개의 processor나 몇개의 간단한 multiprocessor시스템으로는 너무 많은 시간이 걸려서 처리할 수 없는 일들이 산재해 있다. 예를 들어 image를 인식하는 것이나 언어습득과 번역과 같은 문제들에서 인간의 뇌가 현존하고 있는 어떤 컴퓨터의 성능보다 능가하는 것을 알고 있다. 그 이유는 근본적으로 디지탈 컴퓨터와 인간의 뇌 사이의 정보 처리방식이 틀린점에 기인한다. 대부분의 컴퓨터는 한개 또는 몇개의 main procrssor들이 자료들을 sequential하게 처리하는 데에 반하여, 인간의 뇌는 수천억 개의 neuron들이 정보를 병렬로 처리하고 있다. 따라서 인간의 뇌에 대한 깊이 연구와 그에 따른 새로운 형태의 정보처리 기술의 개발이 시급히 요구되어지고 있다. 최근에 이와같은 massive parallelism을 구현하기 위한 시도가 neural network를 중심으로 일어나고 있다. 여기에서 사용되는 algorithm들은 local information을 실현한다. Neural network에는 여러가지 model들이 있으나 본고에서는 optimization model을 중심으로 그 배경 및 응용을 소개하고자 한다.