• 제목/요약/키워드: Weight Learning

검색결과 658건 처리시간 0.033초

Very Fast Decision Tree 기반 Naive Bayesian 알고리즘의 Weight 부여 기법 (An Attribute Weighting Approach for Naive Bayesian based on Very Fast Decision Tree)

  • 김세준;유승언;이병준;김경태;윤희용
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2018년도 제58차 하계학술대회논문집 26권2호
    • /
    • pp.139-140
    • /
    • 2018
  • 본 논문에서는 지도 기계 학습 알고리즘 중 하나인 Naive Bayesian (NB) 알고리즘의 데이터 분류 정확도를 향상시키기 위하여 데이터 속성에 Weight를 부여하는 새로운 기법을 제안하였다. 기존에 Decision Tree(DT) 알고리즘의 깊이를 이용하여 Weigth를 부여하는 방법이 제안되었으나, DT를 구축하는데 오버헤드가 크기 때문에 데이터의 실시간 분석이나 자원 제한적인 환경에서의 적용은 어렵다는 단점이 있다. 이를 해결하기 위하여 본 논문에서는 최소한의 데이터를 사용하여 신속하게 DT를 구축하는 Very Fast Decision Tree (VFDT) 알고리즘 기반의 Weight 부여 기법을 제안함으로써 적은 오버헤드로 NB의 정확도를 향상시킨다.

  • PDF

Novel Optimizer AdamW+ implementation in LSTM Model for DGA Detection

  • Awais Javed;Adnan Rashdi;Imran Rashid;Faisal Amir
    • International Journal of Computer Science & Network Security
    • /
    • 제23권11호
    • /
    • pp.133-141
    • /
    • 2023
  • This work take deeper analysis of Adaptive Moment Estimation (Adam) and Adam with Weight Decay (AdamW) implementation in real world text classification problem (DGA Malware Detection). AdamW is introduced by decoupling weight decay from L2 regularization and implemented as improved optimizer. This work introduces a novel implementation of AdamW variant as AdamW+ by further simplifying weight decay implementation in AdamW. DGA malware detection LSTM models results for Adam, AdamW and AdamW+ are evaluated on various DGA families/ groups as multiclass text classification. Proposed AdamW+ optimizer results has shown improvement in all standard performance metrics over Adam and AdamW. Analysis of outcome has shown that novel optimizer has outperformed both Adam and AdamW text classification based problems.

돼지의 빠른 자세 결정과 머리 제거를 위한 영상처리 및 딥러닝 기법 (Image Processing and Deep Learning Techniques for Fast Pig's Posture Determining and Head Removal)

  • 안한세;최원석;박선화;정용화;박대희
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제8권11호
    • /
    • pp.457-464
    • /
    • 2019
  • 양돈 업계에서 돼지의 무게는 돼지의 건강이나 성장 상태, 출하 여부, 사육 환경, 사료 배급을 결정하는 주요 요인 중 하나이며, 따라서 돼지의 무게를 측정하는 것은 돼지의 생산성 측면에서 중요한 문제이다. Top-view 카메라에서 획득한 영상으로부터 돼지의 픽셀 수를 이용하여 돼지의 무게를 추정하고자 할 때, 정확한 픽셀 수 측정에 영향을 주는 돼지의 자세를 결정할 필요가 있으며, 픽셀 수 측정에 영향을 주는 머리부분을 제거할 필요가 있다. 본 논문에서는 빠른 영상처리 기법을 이용하여 돼지의 자세를 빠르게 결정하고, 딥러닝 기반의 빠른 객체탐지 기법인 YOLO를 이용하여 돼지 머리 위치를 파악한 후, 경량화된 영상처리 기법을 이용하여 돼지의 머리와 몸통 경계를 획득하고 머리를 제거하는 방법을 제안한다. 즉, 빠른 영상처리 기법으로 이진화된 돼지의 영상 데이터에서 돼지의 몸통 중심점으로부터 돼지의 외곽선까지의 길이를 비교하여 돼지의 자세를 결정한다. 또한, 돼지의 머리 위치를 탐지하기 위하여 YOLO를 이용하여 영상 데이터 내의 돼지의 머리, 몸통, 엉덩이의 위치를 학습시킨 후, 곧은 자세의 돼지 머리 위치를 획득하고 머리 바깥 영역을 제거한다. 마지막으로 Convex-hull을 이용하여 돼지의 머리와 몸통 경계를 추정한 후, 머리를 제거한다. 실험 결과, 0.98의 정확도와 250.00fps의 수행속도로 돼지의 자세를 결정하였으며, 0.96의 정확도와 48.97fps의 수행속도로 돼지의 머리탐지 및 제거가 가능함을 확인하였다.

비용함수와 파라미터를 이용한 효과적인 디지털 데이터 기계학습 방법론 (An efficient machine learning for digital data using a cost function and parameters)

  • 지상민;박지은
    • 디지털융복합연구
    • /
    • 제19권10호
    • /
    • pp.253-263
    • /
    • 2021
  • 기계학습은 학습에 이용되는 학습 데이터와 데이터를 예측할 인공신경망을 이용하여 비용함수를 만들고, 비용함수를 최소화시키는 파라미터들을 찾는 과정이다. 파라미터들은 비용함수의 그래디언트 기반 방법들을 이용하여 변화하게 된다. 디지털 신호가 복잡할수록, 학습하고자 하는 문제가 복잡할수록, 인공신경망의 구조는 더욱 복잡해지고 깊어진다. 복잡하고, 깊어지는 인공신경망 구조는 과적합(Over-fitting) 문제를 발생시킨다. 과적합 문제를 해결하기 위하여 파라미터의 가중치 감소 정규화 방법이 사용되고 있다. 우리는 이러한 방법에서 추가로 비용함수의 값을 이용한다. 이러한 방법으로 기계학습의 정확도가 향상되는 결과를 얻었으며 이는 수치 실험을 통하여 우수성이 확인된다. 이러한 결과는 기계학습을 통한 인공지능의 폭넓은 데이터에 대한 정확한 값을 도출한다.

신경망 협업 필터링을 이용한 운동 추천시스템 (Exercise Recommendation System Using Deep Neural Collaborative Filtering)

  • 정우용;경찬욱;이승우;김수현;선영규;김진영
    • 한국인터넷방송통신학회논문지
    • /
    • 제22권6호
    • /
    • pp.173-178
    • /
    • 2022
  • 최근, 소셜 네트워크 서비스에서 딥러닝을 활용한 추천시스템이 활발하게 연구되고 있다. 하지만 딥러닝을 이용한 추천시스템의 경우 콜드스타트 문제와 복잡한 연산으로 인해 늘어난 학습시간이 단점으로 존재한다. 본 논문에서는 사용자의 메타데이터를 활용하여 사용자 맞춤형 운동 루틴 추천 알고리즘을 제안한다. 본 논문에서 제안하는 알고리즘은 메타데이터(사용자의 키, 몸무게, 성, 등)를 입력받아 설계된 모델에 적용한다. 본 논문에서 제안한 운동 추천시스템 모델은 matrix factorization 알고리즘과 multi-layer perceptron을 활용한 neural collaborative filtering(NCF) 알고리즘을 기반으로 설계된다. 제안된 모델은 사용자 메타데이터와 운동 정보를 입력받아 학습을 진행한다. 학습이 완료된 모델은 특정 운동이 입력되면 사용자에게 추천도를 제공한다. 실험 결과에서 제안하는 운동 추천시스템 모델이 기존 NCF 모델보다 10% 추천 성능 향상과 50% 학습 시간 단축을 보였다.

훈련 데이터 개수와 훈련 횟수에 따른 과도학습과 신뢰도 분석에 대한 연구 (A Study on Reliability Analysis According to the Number of Training Data and the Number of Training)

  • 김성혁;오상진;윤근영;김완기
    • 한국인공지능학회지
    • /
    • 제5권1호
    • /
    • pp.29-37
    • /
    • 2017
  • The range of problems that can be handled by the activation of big data and the development of hardware has been rapidly expanded and machine learning such as deep learning has become a very versatile technology. In this paper, mnist data set is used as experimental data, and the Cross Entropy function is used as a loss model for evaluating the efficiency of machine learning, and the value of the loss function in the steepest descent method is We applied the Gradient Descent Optimize algorithm to minimize and updated weight and bias via backpropagation. In this way we analyze optimal reliability value corresponding to the number of exercises and optimal reliability value without overfitting. And comparing the overfitting time according to the number of data changes based on the number of training times, when the training frequency was 1110 times, we obtained the result of 92%, which is the optimal reliability value without overfitting.

Effect of Fish Oils on Brain Fatty Acid Composition and Learning Performance in Rats

  • Lee, Hye-Ju
    • Journal of Nutrition and Health
    • /
    • 제27권9호
    • /
    • pp.901-909
    • /
    • 1994
  • The effects of sardine oil(high in eicosapentaenoic acid : EPA) and tuna oil(high in docosahexaenoic acid : DHA, also high in EPA) on fatty acid composition of brain and learning ability were evaluated in male weanling Sprague-Dawley rats and compared with the effects of corn oil and beef tallow. Animals assigned by randomized block design to one of the four experimental diet groups containing dietary lipid at 15%(w/w) level were given ad libitum for 7 weeks. Food intake and body weight gain of the fish oil groups were significantly lower than those of the corn oil and beef tallow groups. However, brain weights of the groups were not significantly different. In the brain fatty acid composition, the corn oil group showed high concentrations of n-6 fatty acids, the fish oil groups of n-3 fatty acids, and the beef tallow group of saturated fatty acids. Brain EPA and DHA contents of the fish oil groups showed significantly higher than the other groups while the brain ratio of saturated/monounsaturated/polyunsaturated fatty acid was controlled in a narrow range. In a maze test, the fish oil groups appeared to arrive at the goal faster than the corn oil and beef tallow groups. It explained that EPA in diets might efficiently convert to DHA resulting in DHA accumulation in brain tissue and might increase the learning performance as DHA did.

  • PDF

다층 신경회로망과 가우시안 포텐샬 함수 네트워크의 구조적 결합을 이용한 효율적인 학습 방법 (Efficient Learning Algorithm using Structural Hybrid of Multilayer Neural Networks and Gaussian Potential Function Networks)

  • 박상봉;박래정;박철훈
    • 한국통신학회논문지
    • /
    • 제19권12호
    • /
    • pp.2418-2425
    • /
    • 1994
  • 기울기를 따라가는 방식(gradient descent method)에 바탕을 둔 오류 역전파(EBP : Error Back Propagation) 방법이 가장 널리 사용되는 신경회로망의 학습 방법에서 문제가 되는 지역 최소값(local minima), 느린 학습 시간, 신경망 구조(structure), 그리고 초기의 연결 강도(interconnection weight) 등을 기존의 다층 신경 회로망에 지역적인 학습 능력을 가진 가우시안 포텔샵 네트워크(GPFN : Gaussian Potential Function Networks)를 병렬적으로 부가하여 해결함으로써 지역화된 오류 학습 패턴들이 나타내는 문제에 대하여 학습 성능을 향상시킬 수 잇는 새로운 학습 방법을 제시한다. 함수 근사화 문제에서 기존의 EBP 학습 방법과의 비교 실험으로 제안된 학습 방법이 보다 개선된 일반화 능력과 빠른 학습 속도를 가짐을 보여 그 효율성을 입증한다.

  • PDF

영상 인식을 위한 개선된 자가 생성 지도 학습 알고리듬에 관한 연구 (A Study on Enhanced Self-Generation Supervised Learning Algorithm for Image Recognition)

  • 김태경;김광백;백준기
    • 한국통신학회논문지
    • /
    • 제30권2C호
    • /
    • pp.31-40
    • /
    • 2005
  • 오류 역전파 알고리즘의 문제점과 ART 신경회로망의 문제점을 개선하기 위해 Jacobs가 제안한 delta-bar-delta 방법과 신경회로망을 결합한 자가 생성 지도 학습 알고리듬을 제안한다. 입력층과 은닉층에서는 ART-1과 ART-2 알고리듬을 이용하고, winner-take-all 방식은 완전 연결 구조이나 연결된 가중치만을 조정하도록 채택하였다. 실험을 위해 학생증, 주민등록증, 컨테이너의 영상으로 추출한 패턴을 신경회로망의 은닉층 노드에 대해 실험하였고, 실험결과 제안된 자기 생성 지도 학습알고리듬이 지역최소화, 학습 속도, 정체 현상이 기존의 방법보다 성능이 개선된 것을 확인하였다.

기계학습 알고리즘을 이용한 UAS 제어계수 실시간 자동 조정 시스템 (UAS Automatic Control Parameter Tuning System using Machine Learning Module)

  • 문미선;송강;송동호
    • 한국항행학회논문지
    • /
    • 제14권6호
    • /
    • pp.874-881
    • /
    • 2010
  • 무인기의 자동 비행 제어 시스템은 기체의 형태, 크기, 무게 등의 정적 및 동적 변화에 따라 스스로 비행계수를 조정하여 목표 비행궤적을 정확히 따라가도록 제어할 필요가 있다. 본 논문에서는 PID 제어 기법을 이용하는 비행제어시스템에 기계학습모듈(MLM)을 추가하여 기체의 특성 변화에 따라 제어계수를 비행중 실시간 자동으로 조정하는 시스템을 제안한다. MLM은 선형회귀분석과 보정학습을 이용하여 설계되었으며 MLM을 통해 학습된 제어계수의 적합성을 평가하는 평가모듈(EvM)을 함께 모델링 하였다. 이 시스템은 FDC 비버 시뮬레이터를 기반으로 실험하였으며 그 결과를 분석 제시하였다.