• 제목/요약/키워드: 학습 속도 향상

검색결과 521건 처리시간 0.031초

Jacobian 행렬의 주부분 행렬을 이용한 Levenberg-Marquardt 알고리즘의 개선 (Improving Levenberg-Marquardt algorithm using the principal submatrix of Jacobian matrix)

  • 곽영태;신정훈
    • 한국컴퓨터정보학회논문지
    • /
    • 제14권8호
    • /
    • pp.11-18
    • /
    • 2009
  • 본 논문은 Levenberg-Marquardt 알고리즘에서 Jacobian 행렬의 주부분 행렬을 이용하여 학습속도를 개선하는 방법을 제안한다. Levenberg-Marquardt 학습은 오차함수에 대한 2차 도함수를 계산하기 위해 Hessian 행렬을 사용하는 대신 Jacobian 행렬을 이용한다. 이런 Jacobian 행렬을 가역행렬로 만들기 위해, Levenberg-Marquardt 학습은 ${\mu}$값을 증가시키거나 감소시키는 과정을 수행하고 ${\mu}$값의 변경에 따른 역행렬의 재계산이 필요하다. 따라서 본 논문에서는 ${\mu}$값의 설정을 위해 Jacobian 행렬의 주부분 행렬을 생성하고 주부분 행렬의 고유값 합을 이용하여 ${\mu}$값을 설정한다. 이와 같은 방법은 추가적인 역행렬 계산을 하지 않으므로 학습속도를 개선할 수 있다. 제안된 방법은 일반화된 XOR 문제와 필기체 숫자인식 문제를 대상으로 실험하여 학습속도의 향상을 검증하였다.

동적 근사곡선을 이용한 자기조직화 지도의 수렴속도 개선 (Improved Speed of Convergence in Self-Organizing Map using Dynamic Approximate Curve)

  • 길민욱;김귀정;이극
    • 한국멀티미디어학회논문지
    • /
    • 제3권4호
    • /
    • pp.416-423
    • /
    • 2000
  • 기존 Kohonen의 자기조직화 지도(self-organizing feature map)는 학습시 많은 입력 패턴이 필요하며 이에 따른 학습 시간 역시 증가하는 단점이 있다. 이러한 단점을 보완하기 위해 B. Bavarian은 위상학적 위치에 따라 각기 다른 학습률(learning rate)을 갖도록 하였으나 자기조직화가 정밀하게 되지 않는 단점을 갖고 있다. 본 논문에서는 자기조직화 지도의 학습시 계산량이 많은 가우시안 함수를 근사곡선(approximate curve)으로 변형하여 수렴속도를 향상시켰고 학습 횟수에 따라 근사곡선의 폭을 동적으로 변화시킴으로써 자기조직화지도의 수렴도를 개선하였다.

  • PDF

자연어처리를 통한 온라인 학습 플랫폼 사용자 질의 답변 및 Word cloud를 활용한 키워드 시각화 (Answering User Queries on Online Learning Platforms through Natural Language Processing and Keyword Visualization Using Word Cloud)

  • 유경록;정영섭
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2024년도 제69차 동계학술대회논문집 32권1호
    • /
    • pp.351-354
    • /
    • 2024
  • 최근 온라인 학습의 비중이 증가함에 따라 온라인 학습 서비스의 일부인 온라인 상담 부분도 비례하여 증가하고 있으며, 많은 상담량으로 인해 상담 서비스의 품질이 저하되고 답변의 속도, 효율성도 감소하는 문제가 발생한다. 국내 교육기관에서는 서비스 개선과 사용자 맞춤형서비스를 제공하기 위해 다양한 연구를 진행하고 있으며 민원을 처리하는 챗봇 등 자동 답변 서비스 도입을 추진하고 있다. 챗봇 및 자동 답변 서비스는 서비스 제공자 입장에서 저예산으로 단순한 질문에 대하여 신속하고 효율적인 서비스를 제공할 수 있으며 서비스 이용자는 즉각적인 답변과 유사한 답변 예시를 확인함으로 질문을 빠르게 해결할 수 있는 장점이 있다. 국가 공공기관에서 제공하는 학습 서비스는 단순하고 반복적인 문의가 많고 정형적인 질의응답이 주로 등록이 되고 있다. 자동 답변 서비스는 이런 문제점을 해결할 수 있는 대안이 된다. 서비스 이용자가 등록한 문의를 기반으로 학습한 답변 서비스는 담당자의 반복된 업무처리 경감과 사용자의 답변감소, 일관된 답변처리로 서비스 품질개선에 큰 영향을 줄 수 있다. 본 연구에서는 사용자의 질문에 효율적인 답변 및 민원 처리 서비스를 제공할 수 있는 방법을 제시하며, 관리자의 업무능력 향상과 효율성을 위해 기간별 키워드 빈도수를 계산하여 Word cloud를 생성하여 제공함으로써 사용자들에게 일정 기간 내 빈도수가 높은 키워드 관련 공지 및 안내를 할 수 있도록 한다.

  • PDF

초등학교에서 PBL을 이용한 영어과학 수업의 실제적 적용에 관한 연구 (A Study on the Applications of English Science Class using PBL)

  • 박인화
    • 한국산학기술학회논문지
    • /
    • 제21권5호
    • /
    • pp.559-564
    • /
    • 2020
  • 영어가 세계 공용어로 자리매김 됨과 더불어 다양한 방면에서 급격히 변화하고 있는 현대사회가 추구하는 인재상을 기르기 위해 본 논문은 PBL 학습법을 영어과학 수업에 적용하였다. PBL 수업을 위하여 직접 PBL 문제를 개발하여 수업에 적용하였으며 PBL 학습 효과를 확인하였다. 본 논문의 연구 대상은 외국어 특성화 교육이 중점이 되어 각 학년당 수준별로 나뉘어 분반 수업으로 진행되는 A 초등학교의 4학년 상반에 속한 7명 학습자를 대상으로 1학기 동안 5개의 PBL 문제 활동이 모두 끝난 후 PBL 학습에 대한 설문을 받았다. 연구 결과는 PBL 활동을 통해 발표력 향상 86%, 학습에 대한 흥미도 86%, 학습에 대한 이해력 향상 86%, 문제해결능력 향상 100%, 협동력 100% 효과를 학습자들이 경험할 수 있었다. 반면에 처음 접한 활동이라 이해하기 어려움, 문제에 이해에 대한 어려움, 인터넷을 통한 자료조사에 대한 어려움이 도출되었다. PBL 학습은 학습자들에게 다소 생소하였으나 활동을 통해 중요성 및 효과성을 인식하고 있었으며 큰 관심을 보인 점을 보았을 때 교육 현장에서는 더욱 PBL 적용에 힘써야 하는 큰 시사점을 준다.

산업용 IoT환경에서 기계학습을 통한 비정상 디바이스 판별 (A Study of Improving System Security Using Abnormal Devices Detection in Industrial IoT Environment)

  • 노태균;이수연;정태명
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2018년도 춘계학술발표대회
    • /
    • pp.556-558
    • /
    • 2018
  • 다양한 센서들과 디바이스들이 실시간으로 정보를 주고받는 산업 IoT환경에서 싱크노드에게 속하는 하위 센서 및 디바이스들을 통한 데이터 손실 및 시스템 마비를 발생시킬 수 있는 상황이 발생될 수 있다. 따라서 본 논문은 위의 상황을 고려하여 센서 및 디바이스의 정상범주를 파악하고 비정상적인 디바이스를 판별을 통해 시스템 보안성을 향상시키는 방안을 제시한다. 싱크노드에 속하는 센서 및 디바이스들의 로그데이터를 통해 주성분 분석법을 통해 데이터의 차원을 감소시키고 차원 감소시킨 데이터를 K-means 클러스터링 알고리즘에 적용하여 정상범주 내에 속하지 않는 디바이스를 판별하여 비정상 센서 및 디바이스를 판별한다. 비정상 데이터로 판별된 센서 및 디바이스의 모니터링을 통해 시스템의 보안성을 향상시킬 수 있도록 한다.

점진적 패턴 선택에 의한 다충 퍼셉트론의 효율적 구성 및 학습 (Efficient Construction and Training Multilayer Perceptrons by Incremental Pattern Selection)

  • 장병탁
    • 한국정보처리학회논문지
    • /
    • 제3권3호
    • /
    • pp.429-438
    • /
    • 1996
  • 본 논문에서는 주어진 문제를 해결하기 위해 사용될 최적의 다충 퍼센트론을 구성 하기 위한 하나의 점진적 학습 방법을 제시한다. 고정된 크기의 트레이닝 패턴 집합을 반복적으로 사용하는 기존의 알고리즘들과는 달리, 제시되는 방법에서는 학습 패턴의 수를 점차 증가시키면서 전체 데이터를 학습하기 위해 필요하고도 충분한 은닉뉴런의 수를 찾는다. 이와 같이 신경망 크기의 최적화에 학습 패턴을 점차적으로 선택하여 늘려나감으로써 일반화 능력과 학습 속도가 기존의 방법에서보다 향상됨을 필기체 숫자인식 문제에 있어서 실험적으로 보여준다.

  • PDF

Hybrid Feature Selection과 Data Balancing을 통한 네트워크 침입 탐지 모델 (Network intrusion detection Model through Hybrid Feature Selection and Data Balancing)

  • 민병준;신동규;신동일
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2020년도 춘계학술발표대회
    • /
    • pp.526-529
    • /
    • 2020
  • 최근 네트워크 환경에 대한 공격이 급속도로 고도화 및 지능화 되고 있기에, 기존의 시그니처 기반 침입탐지 시스템은 한계점이 명확해지고 있다. 이러한 문제를 해결하기 위해서 기계학습 기반의 침입 탐지 시스템에 대한 연구가 활발히 진행되고 있지만 기계학습을 침입 탐지에 이용하기 위해서는 두 가지 문제에 직면한다. 첫 번째는 실시간 탐지를 위한 학습과 연관된 중요 특징들을 선별하는 문제이며 두 번째는 학습에 사용되는 데이터의 불균형 문제로, 기계학습 알고리즘들은 데이터에 의존적이기에 이러한 문제는 치명적이다. 본 논문에서는 위 제시된 문제들을 해결하기 위해서 Hybrid Feature Selection과 Data Balancing을 통한 심층 신경망 기반의 네트워크 침입 탐지 모델을 제안한다. NSL-KDD 데이터 셋을 통해 학습을 진행하였으며, 평가를 위해 Accuracy, Precision, Recall, F1 Score 지표를 사용하였다. 본 논문에서 제안된 모델은 Random Forest 및 기본 심층 신경망 모델과 비교해 F1 Score를 기준으로 7~9%의 성능 향상을 이루었다.

기계학습 기반 유체 시뮬레이션의 비말 검출 알고리즘 (Splash Detection Algorithm for Machine Learning-based Fluid Simulation)

  • 김재형 ;성수경 ;신병석
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2023년도 춘계학술발표대회
    • /
    • pp.427-429
    • /
    • 2023
  • 인공지능 기술의 발전에 따라 유체 시뮬레이션 분야에서는 복잡한 액체의 흐름을 모사하기 위해 기계학습 기술이 많이 활용되고 있다. 이러한 시뮬레이션에서 성능 향상의 가장 중요한 요소는 학습 데이터다. 이 논문에서는 기계학습 기반 유체 시뮬레이션의 학습 데이터 생성 단계 중 기존의 방법보다 효율적으로 비말(splash) 탐색하는 방법을 제안한다. 기존 방법에서는 CPU 환경에서 큐(queue)를 이용하는 너비우선탐색(breadth first search) 기법을 사용하기 때문에 처리속도가 느리다. 반면에 제안하는 기법에서는 배열로 되어 있는 해시 테이블(hash table)을 이용해 충돌 문제를 해결해 GPU 환경에서 비말을 신속하게 검출하도록 하기 때문에 빠른 학습 데이터 생성이 가능하도록 했다. 이 알고리즘의 유효성을 확인하기 위하여 정확성과 수행시간을 확인하였다.

복합 유전자 알고리즘에서의 국부 탐색을 위한 셀룰러 학습 전략 (A Cellular Learning Strategy for Local Search in Hybrid Genetic Algorithms)

  • 고명숙;길준민
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제28권9호
    • /
    • pp.669-680
    • /
    • 2001
  • 유전자 알고리즘(GA:Genetic Algorithm)은 최적화 문제를 풀기 위해 생물학적 진화(evolution) 과정을 모방한 최적화 알고리즘이다. 유전자 알고리즘은 복잡한 상태 공간에서 최적 해를 찾기 위해 전통적인 최적화 기법과는 달리 유향적 임의 탐색을 행한다. 학습에 해당하는 국부 탐색(local search)을 유전적 알고리즘은 exploration 탐색과 exploitation 탐색의 균형을 유지시켜 줄 수 있는 한 방법이다. 모집단 내의 각 개체가 진화 과정 중에 학습한 유전적 특질들은 그 다음 세대에서 되물림 되며 이러한 학습(learning) 과정을 유전자 알고리즘과 결합시킴으로써 탐색 속도의 향상을 기대할 수 있다. 이 논문에서는 함수 최적화를 위해 속도를 개선한 셀룰러 학습을 기반으로 하는 유전자 알고리즘을 제안한다. 제안하는 셀룰러 학습 전략은 셀룰러 오토마타의 주기성과 수렴성을 기반으로 하며, 유기체가 그 개체의 생명 주기의 한 세대에서 얻게되는 지식과 경험들을 자손에게 전달한다는 이론을 바탕으로 한다. 제안한 셀룰러 학습 전략의 효율을 기존의 복합 유전자 알고리즘에서의 라마키안 진화 및 볼드윈 효과와 비교하였다. 다양한 테스트 베드 함수에 대한 실험을 통하여 셀룰러 학습에 의한 개체의 국부적 향상이 전체적인 성능 향상에 기여함을 알 수 있었고 제안한 학습 전략이 기존의 방법보다 더 빨리 전역 최적 해를 찾을 수 있음을 증명하였다.

  • PDF

패턴인식의 MLP 고속학습 알고리즘 (A Fast-Loaming Algorithm for MLP in Pattern Recognition)

  • 이태승;최호진
    • 한국정보과학회논문지:컴퓨팅의 실제 및 레터
    • /
    • 제8권3호
    • /
    • pp.344-355
    • /
    • 2002
  • MLP(multilayer perceptron)는 다른 패턴인식 방법에 비해 여러 가지 훌륭한 특성을 가지고 있어 패턴인식에서 폭넓게 사용되고 있다. 그러나 MLP의 학습에 일반적으로 사용되는 EBP(error backpropagation) 알고리즘은 학습시간이 비교적 오래 걸린다는 단점이 있다. 패턴인식에 사용되는 학습 데이타는 풍부한 중복특성을 내포하고 있으므로 패턴마다 MLP의 내부변수를 갱신하는 온라인 계열의 학습방식이 속도의 향상에 상당한 효과가 있다. 일반적인 온라인 EBP 알고리즘에서는 내부변수 갱신시 고정된 학습률을 적용한다. 고정 학습률을 적절히 선택함으로써 패턴인식 웅용에서 상당한 속도개선을 얻을 수 있지만, 학습률이 고정되고 학습이 진행됨에 따라 학습패턴 영역이 달라지는 학습과정의 각 단계에 효과적으로 대웅하지 못하는 문제가 있다. 이 문제에 대해 본 논문에서는 학습과정을 세 단계로 정의하고, 각 단계별로 필요한 패턴만을 학습에 반영하는 패턴별 가변학습속도 및 학습생략(ILVRS) 방법을 제안한다. ILVRS의 기본개념은 다음과 같다. 학습단계마다 학습에 필요한 패턴의 부분이 달라지므로 이를 구별 하여 학습에 적용할 수 있도록 (1)패턴마다 발생하는 오류치를 적절한 범위 이내로 제한하여 가변 학습률로 사용하고, (2)학습이 진행됨에 따라 불필요한 부분의 패턴을 학습에서 생략한다. 제안한 ILVRS의 성능을 입증하기 위해 본 논문에서는 패턴인식 응용의 한 갈래인 화자증명을 실험하고 그 결과를 제시한다.