• 제목/요약/키워드: 최적 학습 모델 구성

검색결과 98건 처리시간 0.034초

Readjusting 기법을 적용한 인공신경망의 모형말뚝 수평변위 예측 (Prediction of Lateral Deflection of Model Piles Using Artificial Neural Network by the Application Readjusting Method)

  • 김병탁;김영수;정성관
    • 한국지반공학회논문집
    • /
    • 제17권1호
    • /
    • pp.47-56
    • /
    • 2001
  • 본 논문에서는 단일 및 군말뚝의 수평변위를 예측하기 위하여 신경망 학습속도의 향상과 지역 최소점 수렴을 방지하는 Readjusting 기법을 적용한 인공신경망을 도입하였다. 이 인공신경망을 M-EBPNN 이라고 한다. M-EBPNN에 의한 결과는 낙동강 모래지반에서 단일 및 군말뚝에 대하여 수행한 일련의 모형실험결과와 비교하였으며, 그리고 신경망의 학습속도와 지역 최소점의 수렴성을 평가하기 위하여 오류 역전파 신경망(EBPNN)의 결과와도 비교 분석하였다. M-EBPNN의 적용성 검증을 위하여 200개의 모형실험결과들을 이용하였으며, 신경망의 구조는 EBPNN의 구조와 동일한 한 개의 입력층과 두 개의 은닉층 그리고 한 개의 출력층으로 구성되었다. 전체 데이터의 25%, 50% 그리고 75% 결과는 각각 신경망의 학습에 이용되었으며 학습에 이용하지 않은 데이터들은 예측에 이용되었다. 그리고, 신경망의 최적학습을 위하여 적합한 은닉층의 뉴런 수와 학습률은 EBPNN에서 결정한 값들을 본 신경망에 이용하였다. 해석결과들에 의하면, 동일한 학습패턴에서의 M-EBPNN이 학습 반복횟수는 EBPNN 보다 최고 88% 감소하였으며 지역 최소점에 수렴하는 현상은 거의 나타나지 않았다. 따라서, 인공신경망 모델이 수평하중을 받는 말뚝의 수평변위 예측에 적용될 수 있는 가능성을 보여 주었다.

  • PDF

TYPE-2 퍼지 추론 구동형 RBF 신경 회로망 설계 및 최적화 (Design of Radial Basis Function Neural Network Driven to TYPE-2 Fuzzy Inference and Its Optimization)

  • 백진열;김웅기;오성권;김현기
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 2008년도 학술대회 논문집 정보 및 제어부문
    • /
    • pp.247-248
    • /
    • 2008
  • 본 논문에서는 TYPE-2 퍼지 추론 기반의 RBF 뉴럴 네트워크(TYPE-2 Radial Basis Function Neural Network, T2RBFNN)를 설계하고 PSO(Particle Swarm Optimization) 알고리즘을 이용하여 모델의 파라미터를 동정한다. 제안된 모델의 은닉층은 TYPE-2 가우시안 활성 함수로 구성되며, 출력층은 Interval set 형태의 연결가중치를 갖는다. 여기에서 규칙 전반부 활성함수의 중심 선택은 C-means 클러스터링 알고리즘을 이용하고, 규칙 후반부 Interval set 형태의 연결가중치 결정에는 경사 하강법(Gradient descent method)을 이용한 오류 역전파 알고리즘을 사용하여 학습한다. 또한, 최적의 모델을 설계하기 위한 학습율 및 활성함수의 활성화 영역 결정에는 입자 군집 최적화(PSO; Particle Swarm Optimization) 알고리즘으로 동조한다. 마지막으로, 제안된 모델의 평가를 위하여 모의 데이터 집합(Synthetic dadaset)을 적용하고 근사화 및 일반화 능력에 대하여 토의한다.

  • PDF

가우시안 분포에서 Maximum Log Likelihood를 이용한 벡터 양자화 기반 음성 인식 성능 향상 (Vector Quantization based Speech Recognition Performance Improvement using Maximum Log Likelihood in Gaussian Distribution)

  • 정경용;오상엽
    • 디지털융복합연구
    • /
    • 제16권11호
    • /
    • pp.335-340
    • /
    • 2018
  • 정확한 인식률을 보이고 있는 상업적인 음성인식 시스템은 화자종속 고립데이터로부터 학습 모델을 사용한다. 그러나 잡음 환경에서 데이터양에 따라 음성인식의 성능이 저하되는 문제점이 있다. 본 논문에서는 가우시안 분포에서 Maximum Log Likelihood를 이용한 벡터 양자화 기반 음성 인식 성능 향상을 제안한다. 제안하는 방법은 음성에 대한 특징을 가지고 벡터 양자화와 Maximum Log Likelihood 음성 특징 추출 방법을 이용하여 유사 음성에 대한 음성 인식의 정확성을 높이는 최적 학습 모델 구성 방법이다. 이를 위해 HMM을 기반으로 음성 특징을 추출하는 방법을 사용한다. 제안하는 방법을 사용하여 기존 시스템에서 생성되어 사용되는 음성 모델에 대한 부정확한 음성 모델에 대한 정확성을 향상시킬 수 있으므로 음성 인식에 강인한 모델을 구성할 수 있다. 제안하는 방법은 음성 인식 시스템에서 향상된 인식의 정확도를 보인다.

강건한 태양광 발전량 예측을 위한 2단계 신경망 최적화 (Two-Stage Neural Network Optimization for Robust Solar Photovoltaic Forecasting)

  • 오진영;소다영;문지훈
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2024년도 제69차 동계학술대회논문집 32권1호
    • /
    • pp.31-34
    • /
    • 2024
  • 태양광 에너지는 탄소 중립 이행을 위한 주요 방안으로 많은 주목을 받고 있다. 태양광 발전량은 여러 환경적 요인에 따라 크게 달라질 수 있으므로, 정확한 발전량 예측은 전력 네트워크의 안정성과 효율적인 에너지 관리에 근본적으로 중요하다. 대표적인 인공지능 기술인 신경망(Neural Network)은 불안정한 환경 변수와 복잡한 상호작용을 효과적으로 학습할 수 있어 태양광 발전량 예측에서 우수한 성능을 도출하였다. 하지만, 신경망은 모델의 구조나 초매개변수(Hyperparameter)를 최적화하는 것은 복잡하고 시간이 많이 드는 작업이므로, 에너지 분야에서 실제 산업 적용에 한계가 존재한다. 본 논문은 2단계 신경망 최적화를 통한 태양광 발전량 예측 기법을 제안한다. 먼저, 태양광 발전량 데이터 셋을 훈련 집합과 평가 집합으로 분할한다. 훈련 집합에서, 각기 다른 은닉층의 개수로 구성된 여러 신경망 모델을 구성하고, 모델별로 Optuna를 적용하여 최적의 초매개변숫값을 선정한다. 다음으로, 은닉층별 최적화된 신경망 모델을 이용해 훈련과 평가 집합에서는 각각 5겹 교차검증을 적용한 발전량 추정값과 예측값을 출력한다. 마지막으로, 스태킹 앙상블 방식을 채택해 기본 초매개변숫값으로 설정해도 우수한 성능을 도출하는 랜덤 포레스트를 이용하여 추정값을 학습하고, 평가 집합의 예측값을 입력으로 받아 최종 태양광 발전량을 예측한다. 인천 지역으로 실험한 결과, 제안한 방식은 모델링이 간편할 뿐만 아니라 여러 신경망 모델보다 우수한 예측 성능을 도출하였으며, 이를 바탕으로 국내 에너지 산업에 이바지할 수 있을 것으로 기대한다.

  • PDF

의사 샘플 신경망을 이용한 토석류 퇴적 모델의 파라미터 추정 (Parameter Estimation in Debris Flow Deposition Model Using Pseudo Sample Neural Network)

  • 허경용;이창우;박충식
    • 한국컴퓨터정보학회논문지
    • /
    • 제17권11호
    • /
    • pp.11-18
    • /
    • 2012
  • 토석류 퇴적 모델은 토석류에 의한 피해지 예측을 위해 random walk model(RWM)을 사용하여 구성한 모델로 피해지 예측에서 그 효용성이 입증되었지만 몇 개의 자유 파라미터가 실험적으로 결정되어야 하는 문제점이 있다. 파라미터를 자동으로 추정하기 위한 방법은 여러 가지가 있지만 토석류 데이터는 학습 데이터의 크기가 작아 기존 학습 기법을 적용하는데 어려움이 있다. 이 논문에서는 학습 데이터 크기 문제를 완화할 수 있는 신경망의 변형인 의사 샘플 신경망을 제안하였다. 의사 샘플 신경망은기존 샘플로부터 의사 샘플을생성하고 이를 학습에 사용한다. 의사 샘플은 해공간을 평탄화시키고 국부 최적해에 빠질 확률을 줄여줌으로써 기존 신경망에 비해 안정적인 파라미터 추정이 가능해진다. 이러한 사실은 실험 결과 통해 확인할 수 있다.

머신러닝 기반 안드로이드 모바일 악성 앱의 최적 특징점 선정 및 모델링 방안 제안 (Modeling and Selecting Optimal Features for Machine Learning Based Detections of Android Malwares)

  • 이계웅;오승택;윤영
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제8권11호
    • /
    • pp.427-432
    • /
    • 2019
  • 모바일 운영체제 중 안드로이드의 점유율이 높아지면서 모바일 악성코드 위협은 대부분 안드로이드에서 발생하고 있다. 그러나 정상앱이나 악성앱이 진화하면서 권한 등의 단일 특징점으로 악성여부를 연구하는 방법은 유효성 문제가 발생하여 다양한 특징점 추출 및 기계학습을 통해 이를 극복하고자 한다. 본 논문에서는 APK 파일에서 구동에 필요한 다섯 종류의 특징점들을 안드로가드라는 정적분석 툴을 사용하여 학습데이터의 특성을 추출한다. 또한 추출된 중요 특징점을 기반으로 모델링을 하는 세 가지 방법을 제시한다. 첫 번째 방법은 보안 전문가에 의해 엄선된 132가지의 특징점 조합을 바탕으로 모델링하는 것이다. 두 번째는 학습 데이터 7,000개의 앱에서 발생 빈도수가 높은 상위 99%인 8,004가지의 특징점들 중 랜덤포레스트 분류기를 이용하여 특성중요도가 가장 높은 300가지를 선정 후 모델링 하는 방법이다. 마지막 방법은 300가지의 특징점을 학습한 다수의 모델을 통합하여 하나의 가중치 투표 모델을 구성하는 방법이다. 추가적으로 오탐률 및 미탐률을 개선하기 위해 권한 정보를 모두 제외하여 특징점을 재구성하고 위와 같은 환경으로 모델링하였다. 최종적으로 가중치 투표 모델인 앙상블 알고리즘 모델을 사용하여 97.8%로 정확도가 개선되었고 오탐률은 1.9%로 성능이 개선된 것이 확인되었다.

우수관망 시공간 딥러닝 모델: (2) 모델 강건성 향상을 위한 연구 (Spatio-temporal deep learning model for urban drainage network: (2) Improving model's robustness)

  • 안유빈;권순호;정동휘
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2023년도 학술발표회
    • /
    • pp.228-228
    • /
    • 2023
  • 국지적 지역에 내리는 강한 강도의 강우는 많은 인명 및 재산 피해를 발생시킨다. 이러한 피해를 예방하기 위해 도시 침수 예측에 관한 연구가 오랜 기간 수행되어 왔으며, 최근에는 다양한 신경망(neural network) 모델이 활발히 이용되고 있다. 강우 지속 기간이나 강도는 일정하지 않고, 공간적 특징 또한 도시마다 다르므로 안정적인 침수 예측을 위한 신경망 모델은 강건성(robustness)을 지녀야 한다. 강건한 신경망 모델이란 적대적 공격(adversarial attack)을 방어할 수 있는 능력을 갖춘 모델을 일컫는다. 따라서 본 연구에서는, 도시 침수 예측을 위한 시공간 신경망(spatio-temporal neural network) 모델의 강건성 제고를 위한 방법론을 제안한다. 먼저 적대적 공격의 유형과 방어 방법을 분류하고, 시공간 신경망 모델의 학습 데이터 특성 및 모델 구조구성 조건 등을 활용하여 최적의 강건성 제고 방안을 도출하였다. 해당 모델은 집중호우로 인해 나타날 다양한 관망에서의 침수 피해를 각각 예측하고 피해를 예방하기 위해 활용될 수 있다.

  • PDF

CLSM의 플로우 및 일축압축강도 예측을 위한 인공신경망 적용 (Application of Artificial Neural Networks for Prediction of the Flow and Strength of Controlled Low Strength Material)

  • 임종구;김연중;천병식
    • 한국지반공학회논문집
    • /
    • 제27권1호
    • /
    • pp.17-24
    • /
    • 2011
  • CLSM의 플로우 및 강도특성은 비회, 매립회, 시멘트, 수량 등과 같은 배합비에 크게 의존하므로, 각 구성요소들의 배합비와 플로우 및 강도값에 대한 역학적 관계를 정량적으로 도출하기가 현실적으로 매우 어렵다. 따라서 CLSM의 구성성분 비율에 대한 플로우 및 압축강도값을 도출할 수 있는 산정방법이 필요하다. 이에 본 연구에서는 인공신경망 학습을 통해 플로우 및 일축압축강도를 실험을 통하지 않고 인공신경망을 이용하여 CLSM의 플로우 및 일축압축강도를 예측하고자 한다. 본 연구에 사용한 인공신경망모델에는 BPNN 학습 알고리즘을 적용, 인공신경망 학습효율 및 예측능력에 영향을 미치는 은닉층, 모멘텀상수, 목표시스템 오차값, 은닉층의 노드 수와 학습률을 변화시키면서 학습하여 각각의 변화에 따른 인공신경망 모델의 학습효율 및 예측능력을 평가하고 인공신경망의 유효성 검증을 위해 모델 구축 시에 사용하지 않은 새로운 자료에 대해 예측을 실시하여 실내실험 결과와 비교하여 이를 기준으로 CLSM의 플로우 및 압축강도 산정에 적합한 최적인공신경망 모델을 제안하였다.

음절 임베딩과 양방향 LSTM-CRF를 이용한 한국어 문장 자동 띄어쓰기 (Bi-LSTM-CRF and Syllable Embedding for Automatic Spacing of Korean Sentences)

  • 이현영;강승식
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2018년도 제30회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.605-607
    • /
    • 2018
  • 본 논문에서는 음절 임베딩과 양방향 LSTM-CRF 모델을 이용한 한국어 문장 자동 띄어쓰기 시스템을 제안한다. 문장에 대한 자질 벡터 표현을 위해 문장을 구성하는 음절을 Unigram 및 Bigram으로 나누어 각 음절을 연속적인 벡터 공간에 표현하고, 양방향 LSTM을 이용하여 현재 자질에 양방향 자질들과 의존성을 부여한 새로운 자질 벡터를 생성한다. 이 새로운 자질 벡터는 전방향 신경망과 선형체인(Linear-Chain) CRF를 이용하여 최적의 띄어쓰기 태그 열을 예측하고, 생성된 띄어쓰기 태그를 기반으로 문장 자동 띄어쓰기를 수행하였다. 문장 13,500개와 277,718개 어절로 이루어진 학습 데이터 집합과 문장 1,500개와 31,107개 어절로 이루어진 테스트 집합의 학습 및 평가 결과는 97.337%의 음절 띄어쓰기 태그 분류 정확도를 보였다.

  • PDF

계층적 자기조직화 분류기를 이용한 다수 음성자판의 생성과 레이블링 (Creation and labeling of multiple phonotopic maps using a hierarchical self-organizing classifier)

  • 정담;이기철;변영태
    • 한국통신학회논문지
    • /
    • 제21권3호
    • /
    • pp.600-611
    • /
    • 1996
  • 최근, 신경망 모델의 적응성과 학습성을 이용한 음성인식 연구가 진행되어 왔다. 그러나, 기존의 신경망 모델로는 한국어 음성의 조음결합의 처리 및 유사 음소간의 경계 분류가 용이하지 않다. 또한, 한 개의 형상지도를 이용하는 경우 이질적인 음성자료의 처리를 위한 학습속도의 급격한 증가와 균일한 학습 및 판별방법의 적용이 갖는 부정확성이 야기될 수 있다. 이에따라, 본 논문에서는 계층적 자기조직화 분류기(HSOC)를 이용한 신경망타자기를 설계하고, 관련 알고리즘들을 제안한다. 본 HSOC는 Kohonen의 자기조직화형상지도(SOFM)를 이용하여 학습시 입력되는 음소 데이타를 계층적인 구조를 갖는 다수의 형상 지도(map) 즉 음성자판에 배치한다. 또한 본 논문에서는 자판의 수효, 각 자판의 크기, 소속될 음소의 선택과 배치, 적합한 학습 및 인식기법의 자동 결정을 위한 알고리즘을 제시하고 실험하여 자기조절식인 음성자판을 구성하였다. 자판을 분류하는 방식을 언어학적 사전지식에 의존할 경우 언어학적 지식의 습득과 적용방법(예를 들면, 확장 음소의 처리)등을 결정하는 어려움을 가지는 반면, 본 HSOC를 이용하면 주어진 입력 데이타에 적합한 다수의 음성자판을 자기 조절식으로 구성할 수 있는 장점이 있다. 제안된 방식에 따라 최종 생성된 세 개의 한글 음성자판은 최적 자판과 최적 전처리기법을 갖추고있으며, 기존의 언어학적 지식과도 부합됨을 확인할 수 있었다.

  • PDF