Rule Visualization Tool for Understanding Knowledge of Trained Artificial Neural Network

인공 신경망이 학습한 지식을 이해하기 위한 규칙 시각화 도구

오늘날 딥러닝은 교육을 포함한 다양한 분야에서 세상의 패러다임을 바꿀만큼 발전하고 있다. 그러나 딥러닝 모델이 어떤 지식을 습득하였는지 파악하기 어려워 딥러닝 시스템을 무조건적으로 신뢰할 수 없다는 것이 문제로 남아있다. 이 문제를 해결하기 위해 기존에 딥러닝이 학습한 결과를 If-then과 같은 형식의 규칙으로 추출하는 방법이 제안되었지만, 이러한 규칙은 사람이 이해하기에는 직관적이지 못하다는 단점을 가지고 있다. 본 논문에서는 이러한 문제를 해결하고자 딥러닝 모델이 습득한 지식을 규칙 형태로 추출하고 이를 시각화하여, 사람이 직관적으로 이해할 수 있는 형태로 표현하는 방법을 제시한다.