• 제목/요약/키워드: Levenberg-Marquardt inverse algorithm

검색결과 8건 처리시간 0.02초

Jacobian 행렬의 주부분 행렬을 이용한 Levenberg-Marquardt 알고리즘의 개선 (Improving Levenberg-Marquardt algorithm using the principal submatrix of Jacobian matrix)

  • 곽영태;신정훈
    • 한국컴퓨터정보학회논문지
    • /
    • 제14권8호
    • /
    • pp.11-18
    • /
    • 2009
  • 본 논문은 Levenberg-Marquardt 알고리즘에서 Jacobian 행렬의 주부분 행렬을 이용하여 학습속도를 개선하는 방법을 제안한다. Levenberg-Marquardt 학습은 오차함수에 대한 2차 도함수를 계산하기 위해 Hessian 행렬을 사용하는 대신 Jacobian 행렬을 이용한다. 이런 Jacobian 행렬을 가역행렬로 만들기 위해, Levenberg-Marquardt 학습은 ${\mu}$값을 증가시키거나 감소시키는 과정을 수행하고 ${\mu}$값의 변경에 따른 역행렬의 재계산이 필요하다. 따라서 본 논문에서는 ${\mu}$값의 설정을 위해 Jacobian 행렬의 주부분 행렬을 생성하고 주부분 행렬의 고유값 합을 이용하여 ${\mu}$값을 설정한다. 이와 같은 방법은 추가적인 역행렬 계산을 하지 않으므로 학습속도를 개선할 수 있다. 제안된 방법은 일반화된 XOR 문제와 필기체 숫자인식 문제를 대상으로 실험하여 학습속도의 향상을 검증하였다.

An accelerated Levenberg-Marquardt algorithm for feedforward network

  • Kwak, Young-Tae
    • Journal of the Korean Data and Information Science Society
    • /
    • 제23권5호
    • /
    • pp.1027-1035
    • /
    • 2012
  • This paper proposes a new Levenberg-Marquardt algorithm that is accelerated by adjusting a Jacobian matrix and a quasi-Hessian matrix. The proposed method partitions the Jacobian matrix into block matrices and employs the inverse of a partitioned matrix to find the inverse of the quasi-Hessian matrix. Our method can avoid expensive operations and save memory in calculating the inverse of the quasi-Hessian matrix. It can shorten the training time for fast convergence. In our results tested in a large application, we were able to save about 20% of the training time than other algorithms.

Levenberg-Marquardt 알고리즘과 유전 알고리즘을 이용한 유전체 파이프의 영상재구성 (Image Reconstruction of Dielectric Pipes by using Levenberg-Marquardt and Genetic Algorithm)

  • 김정석;나정웅
    • 한국전자파학회논문지
    • /
    • 제14권8호
    • /
    • pp.803-808
    • /
    • 2003
  • 손실 반공간에 두 개의 원통형 파이프가 묻혀 있는 경우 파이프와 주변 매질의 특성을 반복 기법 최적화 역산란을 적용하여 구했다. 산란 전계는 경계요소법을 이용하여 계산하였으며 파이프의 크기, 위치, 내부매질의 비유전을, 도전을, 주변 매질의 비유전을, 도전을 등의 파라미터는 측정 산란 전계로부터 유전 알고리즘과 Levenberg-Marquardt 알고리즘의 혼합 알고리즘을 이용하여 역으로 계산하였다. 두 파이프가 거의 근접해 있는 경우도 역산란이 가능함을 보였다. 산란 전계의 측정오차에 의한 illposednes 는 파수 영역에서 지수 함수적으로 감쇄하는 감쇄모드를 제거하여 안정화시켰다.

Levenberg-Marquardt와 유전 알고리듬을 결합한 잡종 알고리듬을 이용한 거대 강산란체의 초고주파 영상 (Microwave Imaging of a Large High Contrast Scatterer by Using the Hybrid Algorithm Combining a Levenberg-Marquardt and a Genetic Algorithm)

  • 박천석;양상용
    • 한국전자파학회논문지
    • /
    • 제8권5호
    • /
    • pp.534-544
    • /
    • 1997
  • Levenberg-Marquardt (LMA)와 유전 알고리즘(GA)을 결합한 새로운 잡종알고리틈을 반복적으로 사용하여, 비용함수의 실 극소값(global minimum)을 주는 2차원 강산란체의 유전율 분포를 재구성한다. 비용함수에 사용되는 산란파는 원통형 각모드로 전개되며, 이 중 유효 전파모드만이 이용된다. 유효 전파모드만을 사용하여 비용함수를 정의함으로써 주어진 산란체를 재구성하는데 필요한 입사파 개수의 최소값이 공식화된다. 수치해석 결과로부터,LMA는 수렴 속도가 빠르나 강산란체를 재구성할 수 없고, GA는 강산란체의 재구성은 가능하나 수렴 속도가 느린 반면, 결합 알고리즘을 이용하는 역산란 방법은 LMA와 GA의 장점만을 취합한 방법임이 입증된다.

  • PDF

LMA와 FDTD를 이용한 유방암 진단용 알고리즘 연구 (Algorithm Study for Diagnosis the Breast Cancer Using LMA and FDTD)

  • 서민경;김태홍;문지연;전순익;백정기
    • 한국전자파학회논문지
    • /
    • 제22권12호
    • /
    • pp.1124-1131
    • /
    • 2011
  • 본 논문에서는 MT(Microwave Tomography)를 사용한 유방암 진단용 영상 재구성 알고리즘에 관하여 연구하였다. 사용된 유방암 진단용 시스템은 16개의 송수신 안테나로 구성되어 있으며, 신호 파형은 900 MHz 정현파를 사용하였다. 2차원 역산란 문제를 풀기 위하여 포워드 계산 방법으로 2차원 시간 영역 유한 차분법과 최척화 알고리즘으로 LMA(Levenberg-Marquardt Algorithm)를 이용하였다. 실제 유방암 환자의 MRI(Magnetic Resonance Imaging)로부터 얻은 수치 팬텀을 활용하여 영상 복원을 한 결과 유방암의 위치를 정확히 탐지함을 확인하였다.

PROBLEMS IN INVERSE SCATTERING-ILLPOSEDNESS, RESOLUTION, LOCAL MINIMA, AND UNIQUENESSE

  • Ra, Jung-Woong
    • 대한수학회논문집
    • /
    • 제16권3호
    • /
    • pp.445-458
    • /
    • 2001
  • The shape and the distribution of material construction of the scatterer may be obtained from its scattered fields by the iterative inversion in the spectral domain. The illposedness, the resolution, and the uniqueness of the inversion are the key problems in the inversion and inter-related. The illposedness is shown to be caused by the evanescent modes which carries and amplifies exponentially the measurement errors in the back-propagation of the measured scattered fields. By filtering out all the evanescent modes in the cost functional defined as the squared difference between the measured and the calculated spatial spectrum of the scattered fields from the iteratively chosen medium parameters of the scatterer, one may regularize the illposedness of the inversion in the expense of the resolution. There exist many local minima of the cost functional for the inversion of the large and the high-contrast scatterer and the hybrid algorithm combining the genetic algorithm and the Levenberg-Marquardt algorithm is shown to find efficiently its global minimum. The resolution of reconstruction obtained by keeping all the propating modes and filtering out the evanescent modes for the regularization becomes 0.5 wavelength. The super resolution may be obtained by keeping the evanescent modes when the measurement error and instance, respectively, are small and near.

  • PDF

후쿠오카 지역에서 발생한 12개 지진의 지진원 밑 지진파 감쇠값에 관한 연구 (A Study on Seismic Source and Propagntion Characteristics using a Series of 12 Fukuoka Earthquakes)

  • 김준경
    • 한국지진공학회논문집
    • /
    • 제11권1호
    • /
    • pp.89-97
    • /
    • 2007
  • 본 연구는20005년 3월부터 약2개월에 걸쳐 후쿠오카 지역에서 짧은 기간에 발생한 12개의 지진으로부터 관측된 154개의 지반진동 자료를 이용하여 지진원 및 지진파 감쇠와 관련된 값들을 분석하였다. 본 연구에서는 구하고자 하는 모든 값을 동시에 비선형적으로 분석하기 위해 LM(Levenberg-Marquardt) 역산방법을 적용하였고 전단파 에너지를 이용하였다. 분석결과 12개 지진의 응력강하값의 평균은 약 79.2-bar이고 부지 하부 지진파 감쇠값 $\kappa$의 평균값은 0.043으로 분석되었다. 또한 광역적인 지진파 감쇠를 나타내는 Qo 와 ${\eta}$값은 각각 248.1 및 0.558로 분석되었다. Qo 과 ${\eta}$값은 지진파의 경로중 일부가 동해를 거치기 한반도 남동부의 지진파 전파의 특성뿐만 아니라 일본과 한반도 사이의 지체구조의 차이로 인한 불균질 특성도 포함하고 있는 것으로 판단된다. 특히 관측소부지 하부의 지진파 감쇠값 K의 평균값은 미국 동부지역 대표값 보다 훨씬 크고 미국 서부지역 대표값보다 거의 유사한 값을 보여 주었으며 각각 관측소 부지 고유의 증폭에 대한 정확한 정보가 있으면 보다 의미있는 결과를 얻을 수 있다고 판단된다.

곡선적합기법을 이용한 터널의 파괴시간 예측 (Prediction of Failure Time of Tunnel Applying the Curve Fitting Techniques)

  • 윤용균;조영도
    • 터널과지하공간
    • /
    • 제20권2호
    • /
    • pp.97-104
    • /
    • 2010
  • 가속 크리프 거동을 보이는 재료의 파괴를 설명하기 위하여 재료 파괴식($\ddot{\Omega}=A{(\dot{\Omega})}^\alpha$, $\Omega$는 변위와 같은 측정가능한 양을 나타낸다)이 사용된다. 상수 A와 $\alpha$는 주어진 측정 자료를 곡선적합하여 얻는다. 본 연구에서는 재료 파괴식을 이용하여 터널의 파괴시간을 예측하였고, 재료 파괴식을 적용하기 위하여 4가지 곡선적합기법이 사용되었다. 4가지 곡선적합기법 중 로그속도-로그가속도기법, 로그시간-로그속도기법, 역속도법은 선형최소자승법을 이용하고 비선형최소자승기법은 Levenberg-Marquardt 알고리즘을 이용한다. 로그속도-로그가속도기법은 재료 파괴식을 대수형태로 만들어 해석을 하기 때문에 터널의 파괴시간 예측에 재료 파괴식을 적용하는 것이 타당한지에 대한 근거를 제시한다. 로그속도-로그가속도기법에 따른 자료의 상관계수가 0.84로 비교적 높게 나타났기 때문에 재료 파괴식을 터널의 파괴시간 예측에 적용하는 것이 타당하다고 판단된다. 실제 파괴시간과 4가지 곡선적합기법으로부터 얻은 예측 파괴시간을 비교한 결과 로그시간-로그속도기법이 가장 우수한 결과를 보여주는 것으로 나타났다.