• 제목/요약/키워드: 재귀적 신경망

검색결과 24건 처리시간 0.026초

물리적 지시 표현 추출 및 처리를 위한 신경망의 재귀적 사용에 대한 고찰 (Analysis over Extracting Physical Referring Expressions by Recursive Application over Neural Network)

  • 구상준;이규송;이근배
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2012년도 제24회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.142-147
    • /
    • 2012
  • 본 논문에서는 신경망을 재귀적으로 사용하여 문장에서 지시 표현을 추출하고 분석하는 방법에 대해서 제안한다. 임의의 문장이 들어올 때, 문장을 구성하는 각 단어들은 통사론적 자질 벡터와 의미론적 자질 벡터로 나눌 수 있다. 이들 벡터들의 쌍을 인자로써 입력받는 신경망 구조를 제시할 수 있으며, 신경망의 출력 결과는 다시 재귀적으로 쌍인자 신경망에 입력으로써 주입된다. 신경망을 재귀적으로 학습시킴으로써, 문장 내의 지시 표현을 추출할 수 있다. 쌍인자 신경망 파싱 모델의 성능을 측정했고, 제안한 모델의 문제점과 가능성에 대해서 관찰하였다.

  • PDF

신경망을 이용한 연속 숫자음 인식에 관한 연구 (A Study On Continuous Digits Recognition Using the Neural Network)

  • 이성권;김순협
    • 한국음향학회지
    • /
    • 제17권4호
    • /
    • pp.3-13
    • /
    • 1998
  • 본 논문은 음성 다이어링 시스템을 구현하기 위한 한국어 단독 숫자음 및 연속 숫 자음 인식에 관한 것이다. 단독 숫자음의 인식은 미지의 입력 음성을 재귀 신경망을 이용하 여 모델링된 각 모델에 인가하고, 신경 회로망의 출력 노드의 상태열을 검사하여 적절한 상 태 전이를 하며 최고의 확률값을 출력하는 모델을 인식된 결과로 출력한다. 연속 숫자음의 인식은 미지의 연속 숫자음을 재귀 신경 회로망을 이용한 연속 숫자음 모델에 입력하고, 신 경 회로망의 출력에 대하여 적절한 상태 전이에 대한 검사와 레벨 빌딩(Level Building)을 수행하여 최소의 오차를 가지는 모델열을 인식된 결과로 출력한다. 재귀 신경 회로망을 이 용하여 음절 모델을 만드는 과정에서 재귀 노드는 예상치가 주어지지 않으므로 신경 회로망 의 학습에서 제외되어 현저한 학습 속도의 저하를 가져온다. 따라서 본 논문에서는 재귀 신 경 회로망의 학습 속도를 향상시키기 위한 2가지 방법을 제안 한다. 첫 번째는 재귀 신경 회로망의 재귀 노드의 예상치를 실험적으로 주어줌으로써 학습 속도의 향상을 도모하였다. 두 번째는 음절 모델의 출력노드의 개수와 음절 모델의 세그먼트 경계를 알고리듬을 이용하 여 자동적으로 조절하였다. 실험결과, 단독어의 경우 음절 '에'에 포함하는 한국어 11개의 숫 자음에 대하여 화자 종속의 경우 97.3%, 화자 독립의 경우 80.5%의 인식률을 얻었으며, 연 속 숫자음의 경우는 21종류의 연속 숫자음에 대하여 화자 종속에서 88.2%, 화자 독립의 경 우 81.3%의 인식률을 얻을 수 있었다.

  • PDF

이진 삼차 재귀 신경망과 유전자 알고리즘을 이용한 문맥-자유 문법의 추론 (Inference of Context-Free Grammars using Binary Third-order Recurrent Neural Networks with Genetic Algorithm)

  • 정순호
    • 한국컴퓨터정보학회논문지
    • /
    • 제17권3호
    • /
    • pp.11-25
    • /
    • 2012
  • 이 논문은 이진 삼차 재귀 신경망(Binary Third-order Recurrent Neural Networks: BTRNN)에 유전자 알고리즘을 적용하여 문맥-자유 문법을 추론하는 방법을 제안한다. BTRNN은 각 입력심볼에 대응되는 재귀 신경망들의 다층적 구조이고 외부의 스택과 결합된다. BTRNN의 매개변수들은 모두 이진수로 표현되며 상태 전이와 동시에 스택의 한 동작이 실행된다. 염색체로 표현된 BTRNN들에 유전자 알고리즘을 적용하여 긍정과 부정의 입력 패턴들의 문맥-자유 문법을 추론하는 최적의 BTRNN를 얻는다. 이 방법은 기존의 신경망 이용방법보다 적은 학습량과 적은 학습회수로 작거나 같은 상태 수를 갖는 BTRNN을 추론한다. 또한 문법 표현의 염색체 이용방법보다 parsing과정에서 결정적인 상태전이와 스택동작이 실행되므로 입력 패턴에 대한 인식처리 시간복잡도가 우수하다. 문맥-자유 문법의 비단말 심볼의 개수 p, 단말 심볼의 개수 q, 그리고 길이가 k인 문자열이 입력이 될 때, BTRNN의 최대 상태수가 m이라고 하면, BTRNN의 인식처리 병렬처리 시간은 O(k)이고 순차처리 시간은 O(km)이다.

정규문법과 동등한 일반화된 이진 이차 재귀 신경망 (Generalized Binary Second-order Recurrent Neural Networks Equivalent to Regular Grammars)

  • 정순호
    • 지능정보연구
    • /
    • 제12권1호
    • /
    • pp.107-123
    • /
    • 2006
  • 이 논문은 정규문법과 동등한 의미를 가지는 일반적인 이진 이차 재귀 신경망(Generalized Binary Second-order Recurrent Neural Networks: GBSRNN)의 구조 및 학습 방법을 제안하며 이를 이용하여 정규언어를 인식하는 어휘분석기 구현을 소개한다. GSBRNN는 성분들의 이진값 표현으로 정규문법과 동치인 모든 표현에 대하여 하드웨어로 표현할 수 있는 방법을 제공하며 정규 문법과의 구조적 관련성을 보여준다. 정규문법에서 심볼들의 개수 m, 비단말 심볼의 개수 p, 단말 심볼의 개수 q, k인 문자열이 입력된다고 할 때, GBSRNN의 크기는 $O(m(p+q)^2)$ 이고 병렬처리 시간은 O(k)이며 순차처리 시간은 $O(k(p+q)^2)$이다.

  • PDF

고밀도 스킵 연결을 통한 재귀 잔차 구조를 이용한 단일 이미지 초해상도 기법 (Single Image Super-resolution using Recursive Residual Architecture Via Dense Skip Connections)

  • 진건;정제창
    • 방송공학회논문지
    • /
    • 제24권4호
    • /
    • pp.633-642
    • /
    • 2019
  • 최근, 단일 이미지 초해상도 복원 기법(super-resolution)에서 컨볼루션 신경망 모델은 매우 성공적이다. 잔여 학습 기법은 컨볼루션 신경망 훈련의 안전성과 성능을 향상시킬 수 있다. 본 논문은 저해상도 입력 이미지에서 고해상도 목표 이미지로 비선형 매핑 학습을 위해 고밀도 스킵 연결(dense skip-connection)을 통한 재귀 잔차 구조를 이용한 단일 이미지 초해상도 복원 기법을 제안한다. 제안하는 단일 이미지 초해상도 복원 기법은 고밀도 스킵 연결 방식을 통해 재귀 잔차 학습 방법을 채택해서 깊은 신경망에서 학습이 어려운 문제를 완화하고 더 쉽게 최적화하기 위해 신경망 안에 불필요한 레이어를 제거한다. 제안하는 방법은 매우 깊은 신경망의 사라지는 변화도(vanishing gradient) 문제를 완화할 뿐만 아니고 낮은 복잡성으로 뛰어난 성능을 얻음으로써 단일 이미지 초해상도 복원 기법의 성능을 향상시킨다. 실험 결과를 통해 제안하는 알고리듬이 기존의 알고리듬 보다 결과가 더 우수함을 보인다.

진화와 학습의 상호 적응에 의한 자발적 주행 로봇을 위한 재귀 신경망 제어기 설계 (A Design of the Recurrent NN Controller for Autonomous Mobil Robot by Coadaptation of Evolution and Learning)

  • 김대진;강대성
    • 전자공학회논문지CI
    • /
    • 제37권3호
    • /
    • pp.27-38
    • /
    • 2000
  • 본 논문은 장애물 회피 능력을 갖는 자발적 주행 로봇 (Khepera)을 제어하는 재귀 신경망을 진화와 학습의 상호 적응에 의해 결정하는 방안을 제시한다. 제안한 동시 적응 방안은 다음 두 가지 성질을 갖는다. 유전자 알고리즘에 의해 해집단내 여러 개의 신경망 제어기들은 전역적 탐색을 수행하여 점진적으로 장애물과의 충돌이 적게 일어나도록 진화되고, 동시에 각 신경망 제어기는 상보적 재강화 역전파 (CRBP: Complementary Reinforcement Backpropagation) 학습에 의해 국부적 탐색을 수행하여 주행 특성이 로봇이 처한. 외부 환경에 적응되어진다. 실험 결과, 학습과 결합한 진화에 의해 얻어진 신경망 제어기가 진화자체만에 의해 얻어진 신경망 제어기보다 더 나은 충돌 회피 능력을 보여 주며, 원하는 주행 성능에 보다 빨리 도달하는 것을 확인할 수 있다.

  • PDF

합성곱 신경망을 이용한 구글 어스에서의 녹지 비율 측정 (Measurements of Green Space Ratio in Google Earth using Convolutional Neural Network)

  • 윤여수;김광백;박현준
    • 한국정보통신학회논문지
    • /
    • 제24권3호
    • /
    • pp.349-354
    • /
    • 2020
  • 녹지 영역의 확충을 위한 사전 조사에는 많은 비용과 시간이 필요하다는 문제가 발생한다. 본 논문에서는 구글 어스를 이용한 합성곱 신경망 기반의 녹지 분류를 통해 특정 지역의 녹지 비율을 측정함으로써 문제를 해결한다. 먼저 제안하는 방법은 구글 어스에서 여러 지역 영상을 수집하고 합성곱 신경망을 이용하여 학습한다. 제안하는 방법은 특정 지역의 녹지 비율을 측정하기 위해서 영상을 재귀적으로 분할하고 학습된 모델을 이용하여 녹지 여부를 판단한 뒤, 녹지로 판단된 영역 면적을 이용하여 녹지 비율을 계산한다. 실험 결과 제안하는 방법은 다양한 지역의 녹지 비율 측정에 높은 성능을 보여주는 것을 확인할 수 있었다.

재귀적 확률 갱신 방법을 이용한 보행자 충돌 위험 판단 방법 (Recursive Probabilistic Approach to Collision Risk Assessment for Pedestrians' Safety)

  • 박성근;김범성;김은태;이희진;강형진
    • 한국지능시스템학회논문지
    • /
    • 제21권4호
    • /
    • pp.475-480
    • /
    • 2011
  • 본 논문에서는 충돌 위험도 판단 시스템을 제안한다. 먼저 칼만 필터를 이용하여 보행자의 정보를 예측하고, 몬테 카르롤로 모의 실험과 신경 회로망을 이용해 충돌 확률을 계산한다. 그리고 과거의 충돌 확률 정보를 이용하여 충돌확률을 예측한다. Belief 충돌 예측 방법은 현재뿐만 아니라, 과거의 필터링 정보를 모두 이용하여 충돌 확률을 에측한다. 마지막으로 컴퓨터 시뮬레이션으로 제안된 알고리즘의 성능을 확인한다.

정보 증류 및 재귀적인 방식을 이용한 심층 학습법 기반 경량화된 초해상도 네트워크 (Lightweight Super-Resolution Network Based on Deep Learning using Information Distillation and Recursive Methods)

  • 우희조;심지우;김응태
    • 방송공학회논문지
    • /
    • 제27권3호
    • /
    • pp.378-390
    • /
    • 2022
  • 최근 심층 합성 곱 신경망 학습의 발전에 따라 단일 영상 초해상도에 적용되는 심층 학습 기법들을 좋은 성과를 보여주고 있으며 깊은 네트워크의 강한 표현 능력으로 저해상도 영상과 고해상도 영상 사이의 복잡한 비선형 매핑이 가능해졌다. 하지만 과도한 합성곱 신경망의 사용으로 인해 증가하는 파라미터와 연산량으로 실시간 또는 저전력 장치에 적용하는데 제한이 있다. 본 논문은 정보 증류 방식을 이용하여 계층적인 특징을 조금씩 추출해내는 블록을 재귀적인 방식으로 사용하며 고주파수 잔여 정제 블록을 통해 더 정확한 고주파수 성분을 만들어 성능을 향상시키는 경량화된 네트워크인 Recursive Distillation Super Resolution Network (RDSRN) 를 제안한다. 제안하는 네트워크는 RDN과 비교했을 때 비슷한 화질의 영상을 복원하며 약 32배 적은 파라미터와 약 10배 적은 연산량을 가지고 약 3.5배 더 빠르게 영상을 복원하며 기존 경량화 네트워크 CARN과 비교했을 때 약 2.2배 적은 파라미터와 약 1.8배 빠른 처리시간으로 평균 0.16dB 더 좋은 성능을 만들어 냄을 확인 하였다.

SeqGAN 모델을 이용한 한국어 시 자동 생성 (Automatic Generation of Korean Poetry using Sequence Generative Adversarial Networks)

  • 박요한;정혜지;강일민;박천용;최용석;이공주
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2018년도 제30회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.580-583
    • /
    • 2018
  • 본 논문에서는 SeqGAN 모델을 사용하여 한국어 시를 자동 생성해 보았다. SeqGAN 모델은 문장 생성을 위해 재귀 신경망과 강화 학습 알고리즘의 하나인 정책 그라디언트(Policy Gradient)와 몬테카를로 검색(Monte Carlo Search, MC) 기법을 생성기에 적용하였다. 시 문장을 자동 생성하기 위한 학습 데이터로는 사랑을 주제로 작성된 시를 사용하였다. SeqGAN 모델을 사용하여 자동 생성된 시는 동일한 구절이 여러번 반복되는 문제를 보였지만 한국어 텍스트 생성에 있어 SeqGAN 모델이 적용 가능함을 확인하였다.

  • PDF