• 제목/요약/키워드: 학습 파라미터

검색결과 510건 처리시간 0.028초

FIR 필터링에 대한 HMM 파라미터 적응기법 (HMM Parameter Adaptation to FIR Filtering)

  • 김남수;김동국
    • 한국음향학회:학술대회논문집
    • /
    • 한국음향학회 1999년도 학술발표대회 논문집 제18권 2호
    • /
    • pp.25-28
    • /
    • 1999
  • 본 연구에서는 finite impulse response (FIR) 필터에 의해 인식기의 입력 특징벡터가 필터링되는 경우에 hidden Markov model (HMM) 파라미터를 적응시키는 새로운 기법을 제안한다. 제안한 적응 기법은 필터링에 의해 변환된 특징벡터에 대해 HMM 파라미터를 다시 학습시킬 필요가 없으며 주어진 FIR필터 계수만을 사용하여 HMM 파라미터를 적응시킬 수 있다. 개발된 FIR필터링에 대한 HMM 파라미터 적응 기법은 연속 숫자음 인식 실험에서 재학습 방법과 비교 실험한 결과 low-pass 필터의 경우에 재학습 방법과 비슷한 인식 성능을 나타내었다.

  • PDF

심실 조기 수축 비트 검출을 위한 딥러닝 기반의 최적 파라미터 검출 (Optimal Parameter Extraction based on Deep Learning for Premature Ventricular Contraction Detection)

  • 조익성;권혁숭
    • 한국정보통신학회논문지
    • /
    • 제23권12호
    • /
    • pp.1542-1550
    • /
    • 2019
  • 부정맥 분류를 위한 기존 연구들은 분류의 정확성을 높이기 위해 신경회로망(Artificial Neural Network), 퍼지(Fuzzy), 기계학습(Machine Learning) 등을 이용한 방법이 연구되어 왔다. 특히 딥러닝은 신경회로망의 문제인 은닉층 개수의 한계를 해결함으로 인해 오류 역전파 알고리즘을 이용한 부정맥 분류에 가장 많이 사용되고 있다. 딥러닝 모델을 심전도 신호에 적용하기 위해서는 적절한 모델선택과 파라미터를 최적에 가깝게 선택할 필요가 있다. 본 연구에서는 심실 조기 수축 비트 검출을 위한 딥러닝 기반의 최적 파라미터 검출 방법을 제안한다. 이를 위해 먼저 잡음을 제거한 ECG신호에서 R파를 검출하고 QRS와 RR간격 세그먼트를 추출하였다. 이후 딥러닝을 통한 지도학습 방법으로 가중치를 학습시키고 검증데이터로 모델을 평가하였다. 제안된 방법의 타당성 평가를 위해 MIT-BIH 부정맥 데이터베이스를 통해 각 파라미터에 따른 딥러닝 모델로 훈련 및 검증 정확도를 확인하였다. 성능 평가 결과 R파의 평균 검출 성능은 99.77%, PVC는 97.84의 평균 분류율을 나타내었다.

CNN 의 파라미터와 정확도간 상호 강인성 연구 및 파라미터 비트 연산 자동화 프레임워크 개발 (Study the mutual robustness between parameter and accuracy in CNNs and developed an Automated Parameter Bit Operation Framework)

  • 이동인;김정헌 ;임승호
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2023년도 춘계학술발표대회
    • /
    • pp.451-452
    • /
    • 2023
  • 최근 CNN 이 다양한 산업에 확산되고 있으며, IoT 기기 및 엣지 컴퓨팅에 적합한 경량 모델에 대한 연구가 급증하고 있다. 본 논문에서는 CNN 모델의 파라미터 비트 연산을 위한 자동화 프레임워크를 제안하고, 파라미터 비트와 모델 정확도 사이의 관계를 실험 및 연구한다. 제안된 프레임워크는 하위 n- bit 를 0 으로 설정하여 정보 손실 발생시킴으로써 ImageNet 데이터셋으로 사전 학습된 CNN 모델의 파라미터와 정확도의 강인성을 비트 단위로 체계적으로 실험할 수 있다. 우리는 비트 연산을 수행한 파라미터로 InceptionV3, InceptionResnetV2, ResNet50, Xception, DenseNet121, MobileNetV1, MobileNetV2 모델의 정확도를 평가한다. 실험 결과는 성능이 낮은 모델일수록 파라미터와 정확도 간의 강인성이 높아 성능이 좋은 모델보다 정확도를 유지하는 비트 수가 적다는 것을 보여준다.

확장 칼만 학습 알고리듬을 이용한 웨이블릿 신경 회로망 기반 간접 적응 제어기 설계 (Design of Wavelet Neural Network Based Indirect Adaptive Controller Using EKF Training Method)

  • 김경주;오준섭;최윤호;박진배
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 2004년도 학술대회 논문집 정보 및 제어부문
    • /
    • pp.361-363
    • /
    • 2004
  • 시간 및 주파수 특성 분석이 용이한 웨이블릿을 신경회로망에 적용시킨 웨이블릿 신경 회로망의 파라미터 학습 방법에는 오차 역전파 알고리듬 및 유선 알고리듬 등 여러 가지 방법이 있으나 이러한 학습 방법들은 수렴 시간이 오래 걸리는 단점을 가진다. 따라서 본 논문에서는 웨이블릿 신경 회로망의 최적 파라미터를 결정하기 위한 학습 방법으로 일반적으로 비선형 시스템 추정에 주로 사용되는 확장 칼만 필터 알고리듬을 적용한 신경회로망을 제안한다. 또한 제안된 학습 알고리듬을 이용한 웨이블릿 신경 회로망으로 간접 적응 제어기를 설계하여 연속 시간 혼돈 시스템인 Duffing 시스템의 제어에 적용함으로써 확장 칼만 필터 학습 알고리듬을 적용한 웨이블릿 신경 회로망 모델의 우수성을 보인다.

  • PDF

확장 칼만 필터를 이용한 웨이블릿 신경 회로망의 학습 방법에 관한 연구 (A Study on Traning Method of Wavelet Neural Network Using Extended Kalman Filter)

  • 김경주;최윤호;박진배
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 2004년도 하계학술대회 논문집 D
    • /
    • pp.2197-2199
    • /
    • 2004
  • 시간 및 주파수 특성 분석이 용이한 웨이블릿 변환을 네트워크화 시킨 웨이블릿 신경 회로망의 파라미터 학습 방법에는 오차 역전파 알고리듬 및 유선 알고리듬 등이 있으나 이러한 학습 방법들은 수렴 시간이 오래 걸리는 단점이 있다. 따라서 본 논문에서는 웨이블릿 신경 회로망의 최적 파라미터를 결정하기 위한 학습방법으로 확장 칼만 필터 알고리듬을 제안한다. 일반적으로 확장 칼만 필터 알고리듬은 복잡한 연산 과정에 불구하고 적은 학습 횟수로 빠른 수렴 특성을 가진다. 제안한 방법의 효율성을 검증하기 위해 확장 칼만 필터 학습 방법을 적용한 웨이블릿 신경 회로망을 혼돈 시스템 동정에 적용하여 경사 하강법을 사용한 기존의 신경 회로망에 비해 더 양호한 성능을 가짐을 검증하고자 한다.

  • PDF

머신러닝 학습 부산물 추적을 위한 프레임워크 (An Efficient Dynamic Workload Balancing Strategy)

  • 김은진;이영섭;이성진
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2020년도 제61차 동계학술대회논문집 28권1호
    • /
    • pp.41-42
    • /
    • 2020
  • 머신러닝이 보편화되면서 모델 학습을 돕기 위한 머신러닝 및 데이터과학 도구의 수요가 증가하고 있다. 머신 러닝을 사용하는 연구에서는 다양한 파라미터에 대한 실험이 진행되어 많은 학습 부산물이 생성 된다. 하지만 기존의 학습 부산물을 관리하는 프레임워크는 하나의 실험을 진행하는데 모든 경우의 수를 진행해 그 규모가 크다. 본 연구는 기존의 도구가 가지는 규모 문제를 개선하고, 주기적으로 메일을 사용자에게 전송해 실험과정을 보고하는 새로운 도구를 제안한다. 이러한 시스템은 학습과정에서 사용자가 의도한 파라미터의 학습이 진행되는지 추적가능하다.

  • PDF

음성 인식 신경망을 위한 음성 파라키터들의 성능 비교 (A Comparative Study of Speech Parameters for Speech Recognition Neural Network)

  • 김기석;임은진;황희융
    • 한국음향학회지
    • /
    • 제11권3호
    • /
    • pp.61-66
    • /
    • 1992
  • 음성 인식에 신경망 모델을 적용하는 많은 연구들이 있었지만, 주된 관심은 음성인식에 적합한 구조와 학습 방법이었다. 그러나 음성인식에 신경망 모델을 적용한 시스템의 효율 향상은 모델 자체의 구조뿐 아니라, 신경망 모델의 입력으로 어떤 음성 파라미터를 사용하는가에 따라서도 큰 영향을 받는다. 본 논문은 기존 음성인식에 신경망 모델을 적용한 많은 연구들에서 사용한 음성 파라미터를 살펴보고, 대표적인 음성 파라미터 6개를 선정하여, 같은 데이타와 같은 신경망 모델 하에서 어떻게 성능이 달라지는지를 분석한다. 인식 실험에 있어서는 한국어 파열음 9개에 대한 8개 데이터 집합과 모음 8개에 대한 18개 데이터 집합을 음성 파라미터로 하고 신경망 모델은 순환 신경망 모델을 사용하여 노드의 수를 일정하게 한뒤 다양한 입력 파라미터의 성능을 비교하였다. 그 결과 선형 예측 계수로부터 얻어진 delta cepstrum의 음성 파라미터가 가장 좋은 성능을 보였으며 이때 인식률은 같은 학습 데이터에 대해 파열음 100.0%, 모음 95.1%이었다.

  • PDF

정보 입자 기반 퍼지 뉴럴 네트워크의 연속적 최적화 (Successive Optimization of Information Granules-based Fuzzy Neural Networks)

  • 박건준;오성권;김현기
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 2007년도 제38회 하계학술대회
    • /
    • pp.1815-1816
    • /
    • 2007
  • 본 논문에서는 데이터의 특성을 이용한 정보 입자 기반 퍼지 뉴럴 네트워크의 연속적 최적화를 제안한다. 데이터들간의 거리를 중심으로 C-Means 클러스터링 알고리즘을 이용하여 멤버쉽 함수를 정의하고 각 중심의 후반부 중심값을 이용하여 후반부 학습에 적용한다. 구조/파라미터 동정에 있어서 실수 코딩 기반 유전자 알고리즘을 이용하여 입력변수의 수, 입력 변수의 선택, 멤버쉽함수의 수, 후반부 형태와 같은 시스템의 입력 구조와 전반부 멤버쉽함수의 정점 및 학습율과 모멘텀 계수와 같은 파라미터를 최적으로 동정한다. 또한, 구조 연산과 파라미터 연산의 연속적 동조 방법을 이용하여 퍼지 뉴럴 네트워크를 최적화한다. 제안된 퍼지 뉴럴 네트워크는 삼각형 멤버쉽 함수를 이용하며, 후반부 추론에는 간략, 선형, 변형된 2차식을 이용한다. 제안된 퍼지 뉴럴 네트워크는 표준 모델로서 널리 사용되는 수치적인 예를 통하여 평가한다.

  • PDF

SqueezeNet 기반의 지식 증류 가법을 활용한 초해상화 기법 (SqueezeNet based Single Image Super Resolution using Knowledge Distillation)

  • 서유림;강석주
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송∙미디어공학회 2020년도 추계학술대회
    • /
    • pp.226-227
    • /
    • 2020
  • 근래의 초해상화 (super-resolution, SR) 연구는 네트워크를 깊고, 넓게 만들어 성능을 높이는데 주를 이뤘다. 그러나 동시에 높은 연산량과 메모리 소비량이 증가하는 문제가 발생하기 때문에 이를 실제로 하드웨어로 구현하기에는 어려운 문제가 존재한다. 그렇기에 우리는 네트워크 최적화를 통해 성능 감소를 최소화하면서 파라미터 수를 줄이는 네트워크 SqueezeSR을 설계하였다. 또한 지식 증류(Knowledge Distillation, KD)를 이용해 추가적인 파라미터 수 증가 없이 성능을 높일 수 있는 학습 방법을 제안한다. 또한 KD 시 teacher network의 성능이 보다 student network에 잘 전달되도록 feature map 간의 비교를 통해 학습 효율을 높일 수 있었다. 결과적으로 우리는 KD 기법을 통해 추가적인 파라미터 수 증가 없이 성능을 높여 다른 SR네트워크 대비 더 빠르고 성능 감소를 최소화한 네트워크를 제안한다.

  • PDF

LDA와 Local MLP를 이용한 얼굴 인식 (Face Recognition using LDA and Local MLP)

  • 이대종;최기선;전명근
    • 한국지능시스템학회:학술대회논문집
    • /
    • 한국퍼지및지능시스템학회 2006년도 춘계학술대회 학술발표 논문집 제16권 제1호
    • /
    • pp.212-216
    • /
    • 2006
  • MLP는 뛰어난 학습능력으로 인하여 많은 분야에 성공적으로 적용되고 있다. 그러나, 학습 방법으로서 최급경사법에 근거한 오차역전파 알고리즘을 적용하기 때문에 학습시간이 오래 걸리는 단점이 있다. 또한 입력차원의 크기가 크거나 클래스간 학습데이터의 유사성이 클 경우 최적의 파라미터를 구하는데는 한계가 있다. 이러한 문제점을 해결하기 위해 본 논문에서는 LDA와 local MLP을 이용한 새로운 얼굴인식시스템을 제안하고자 한다. 제안된 방법은 우선 LDA 기법에 의해 차원이 축소된 얼굴의 특징벡터를 계산한다. 다음 단계로서 전체 학습영상을 사용하기 보다는 그룹별로 분할된 얼굴영상에 대해 MLP를 수행하므로서 그룹별로 최적인 파라미터를 결정한다. 마지막 단계로 그룹별로 수행된 local MLP를 결합함으로써 전체 얼굴인식 시스템을 구성한다. 제안된 방법의 타당성을 보이기 위해 ORL 얼굴영상을 대상으로 실험한 결과 기존 방법인 PCA나 LDA에 비해 향상된 결과를 보임을 확인할 수 있었다.

  • PDF