• Annual Conference on Human and Language Technology
• /
• 2023.10a
• /
• pp.125-130
• /
• 2023

최근 심층 신경망을 활용한 한국어 자연어 처리에 대한 관심이 높아지고 있지만, 한국어 자연어 처리에 적합한 신경망 구조 탐색에 대한 연구는 이뤄지지 않았다. 본 논문에서는 문서 분류 정확도를 보상으로 하는 강화 학습 알고리즘을 이용하여 장단기 기억 신경망으로 한국어 문서 분류에 적합한 심층 신경망 구조를 탐색하였으며, 탐색을 위해 사전 학습한 한국어 임베딩 성능과 탐색한 신경망 구조를 분석하였다. 탐색을 통해 찾아낸 신경망 구조는 기존 한국어 자연어 처리 모델에 대해 4 가지 한국어 문서 분류 과제로 비교하였을 때 일반적으로 성능이 우수하고 모델의 크기가 작아 효율적이었다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2003.05a
• /
• pp.281-284
• /
• 2003

본 연구는 웨이블릿 변환을 통하여 객체 영상에서 질감 특징 값을 추출하고, 신경망을 계층적으로 구성하여 분류하는 방법을 제안한다. 기존의 신경망을 이용한 영상의 분류는 단일 신경망을 이용하는 것이 대부분이었다. 하지만 단일 신경망은 분류하고자 하는 클래스의 수가 많거나 분류하고자 하는 대상이 유사한 입력패턴을 가질 경우 학습시간이 오래 걸리고, 인식률이 크게 떨어지는 문제를 가지고 있다. 그래서 본 연구에서는 효과적인 객체 영상 분류를 위해서 여러 개의 단일 신경망을 계층적으로 결합하는 방법을 제안한다. 실험결과 분류 대상 클래스가 증가함에도 불구하고 단일 신경망에 비해 학습시간이 단축되고, 높은 인식률을 보여주었다.

• Proceedings of the Korea Multimedia Society Conference
• /
• 2001.06a
• /
• pp.177-180
• /
• 2001

본 논문에서는 신경망을 이용한 내용 기반 이미지 분류 방법을 제안한다. 분류 대상이미지는 인터넷상의 다양한 이미지들 중 오브젝트 이미지이대 웹 에이전트를 통하여 획득하고 정규화 과정을 거친다. 획득한 이미지를 분류하기 위한 특징은 웨이블릿 변란 후 추출된 질감 특징이다. 추출된 질감 특징을 이용하여 학습패턴을 생성하고 신경망을 학습한다. 그리고 구성된 신경망 분류기로 이미지를 분류한다. 본 연구에서는 다양한 질감 특징들 중에서 대비(contrast), 에너지(energy), 엔트로피(entropy)를 이용하여 특징을 추출한다. 실험에 사용한 데이터는 30종류에 대하여 각각 10개씩, 300개의 이미지들을 학습 데이터, 테스트 데이터로 사용하여 구성된 분류기의 인식률을 실험하였다.

• The Journal of Korean Institute of Information Technology
• /
• v.16 no.11
• /
• pp.11-21
• /
• 2018

Research is carried out to categorize voices using Deep Learning technology. The study examines neural network-based sound classification studies and suggests improved neural networks for voice classification. Related studies studied urban data classification. However, related studies showed poor performance in shallow neural network. Therefore, in this paper the first preprocess voice data and extract feature value. Next, Categorize the voice by entering the feature value into previous sound classification network and proposed neural network. Finally, compare and evaluate classification performance of the two neural networks. The neural network of this paper is organized deeper and wider so that learning is better done. Performance results showed that 84.8 percent of related studies neural networks and 91.4 percent of the proposed neural networks. The proposed neural network was about 6 percent high.

• Journal of the Institute of Electronics Engineers of Korea CI
• /
• v.39 no.3
• /
• pp.32-43
• /
• 2002

In this paper, we propose a pattern classification system for digital signal which is based on neural networks. The proposed system consists of two models of neural network. The first part is a wavelet neural network whose role is a feature extraction. For this part, we compare existing models of wavelet networks and propose a new model for feature extraction. The other part is a wavelet network for pattern classification. We modify the structure of previous wavelet network for pattern classification and propose a learning method. The inputs of the pattern classification wavelet network is connection weights, dilation and translation parameters in hidden nodes of feature extraction network. And the output is a class of the signal which is input of feature extraction network. The proposed system is, applied to classification of EEG signal based on frequency.

• Journal of KIISE
• /
• v.44 no.12
• /
• pp.1290-1295
• /
• 2017

Document classification, a task of classifying the category of each document based on text, is one of the fundamental areas for natural language processing. Document classification may be used in various fields such as topic classification and sentiment classification. Neural network models for document classification can be divided into two categories: word-level models and character-level models that treat words and characters as basic units respectively. In this study, we propose a neural network model that combines character-level and word-level models to improve performance of document classification. The proposed model extracts the feature vector of each word by combining information obtained from a word embedding matrix and information encoded by a character-level neural network. Based on feature vectors of words, the model classifies documents with a hierarchical structure wherein recurrent neural networks with attention mechanisms are used for both the word and the sentence levels. Experiments on real life datasets demonstrate effectiveness of our proposed model.

• Journal of the Korean Institute of Intelligent Systems
• /
• v.9 no.4
• /
• pp.396-403
• /
• 1999

본 논문에서는 새로운 블록기반 신경망을 제안하고 블록기반 신경망의 패턴류 성능을 확인하였다. 블록기반 신경망은 4개의 가변 입출력을 가지는 블록을 기본 구성요소로하고 있으며 블록들의 2차원배열 형태로 이루어진다. 블록기반 신경망은 재구성가능 하드웨어에 의하여 구현이 용이하고 구조 및 가중치의 최적화에 진화 알고리즘을 적용시킬수 있는 새로운 신경망 모델이다. 블록 기반 신경망의 구조와 가중치를 재고성 가능 하드웨어(FPGA)의 비트열에 대응시키고 유전자 알고리즘에 의하여 전역최적화를 하여 구조와 가중치를 최적화한다. 유전 알고리즘에 의하여 설계된 블록기반 신경망을 비선형 결정평면을 가지는 여러 학습패턴에 적용하여 패턴분류 성능을 확인하였다.

• Journal of Korean Society of Rural Planning
• /
• v.12 no.1 s.30
• /
• pp.75-83
• /
• 2006

본 연구에서는 최대우도법과 인공신경망 모형에 의해 카테고리 분류를 수행하고 각각의 분류 성능을 비교 평가하였다. 인공신경망 모형은 오류역전파 알고리즘을 이용한 것으로서 학습을 통한 은닉층의 최적노드수를 결정하여 카테고리 분류를 수행하도록 하였다. 인공신경망 최적 모형은 입력층의 노드수가 7개, 은닉층의 최적노드수가 18개, 그리고 출력층의 노드수가 5개인 것으로 구성하였다. 위성영상은 1996년에 촬영된 Landsat TM-5 영상을 사용하였고, 최대우도법과 인공신경망 모형에 의한 카테고리 분류를 위하여 각각의 카테고리에 대한 분광특성을 대표하는 지역을 절취하였다. 분류 정확도는 인공신경망 모형에 의한 방법이 90%, 최대우도법이 83%로서, 인공신경망 모형의 분류 성능이 뛰어난 것으로 나타났다. 카테고리 분류 항목인 토지 피복 상태에 따른 분류는 두 가지 방법에서 밭과 주거지의 분류오차가 큰 것으로 나타났다. 특히, 최대우도법에 의한 밭에서의 태만오차는 62.6%로서 매우 큰 값을 보였다. 이는 밭이나 주거지의 특성이 위성영상 촬영시기에 따라 나지의 형태로 분류되거나 산림, 또는 논으로도 분류되는 경향이 있기 때문인 것으로 보인다. 차후에 카테고리 분류를 위한 각각의 클래스의 보조적인 정보를 추가한다면, 카테고리 분류 향상이 이루어질 것으로 기대된다.

• Journal of KIISE:Software and Applications
• /
• v.33 no.5
• /
• pp.489-498
• /
• 2006

In this paper, we suggested a vehicle classification algorithm using pattern recognition method. At present, Inductive Loop Detector is rarely used for vehicle classification because of its low accuracy. To improve the accuracy, we suggest a new algorithm for Loop Detector using neural networks. In the developed algorithm, the inputs to the neural networks are the variation rate of frequency and occupancy-time. The output is classified vehicles. The developed algorithm was assessed at test sites and the recognition rate was 91.3percent. The results verified that the proposed algorithm improves the vehicle classification accuracy compared to the conventional method based on Loop Detector.

• Proceedings of the Korean Information Science Society Conference
• /
• 2000.04b
• /
• pp.475-477
• /
• 2000

본 논문에서는 적응적 성분분석 기법을 이용하여 radial basis 함수 신경망의 학습시간과 분류성능을 개선한 새로운 기법을 제안하였다. 제안된 기법에서 적응적 성분분석 기법은 radial basis 함수 신경망의 은닉층 뉴런 개수와 중심값 설정을 위해 이용하였다. 제안된 기법의 radial basis 함수 신경망을 200명의 암환자를 2부류(초기와 악성)로 분류하는 문제에 적용하여 시뮬레이션한 결고, k-평균 군집화 알고리즘을 이용한 radial basis 함수 신경망과 비교할 때 학습시간과 시험 데이터의 분류에서 더욱 우수한 성능이 있음을 확인할 수 있었다.