• 제목/요약/키워드: 이진신경망

검색결과 187건 처리시간 0.029초

한글 텍스트 감정 이진 분류 모델 생성을 위한 미세 조정과 전이학습에 관한 연구 (A Study on Fine-Tuning and Transfer Learning to Construct Binary Sentiment Classification Model in Korean Text)

  • 김종수
    • 한국산업정보학회논문지
    • /
    • 제28권5호
    • /
    • pp.15-30
    • /
    • 2023
  • 근래에 트랜스포머(Transformer) 구조를 기초로 하는 ChatGPT와 같은 생성모델이 크게 주목받고 있다. 트랜스포머는 다양한 신경망 모델에 응용되는데, 구글의 BERT(bidirectional encoder representations from Transformers) 문장생성 모델에도 사용된다. 본 논문에서는, 한글로 작성된 영화 리뷰에 대한 댓글이 긍정적인지 부정적인지를 판단하는 텍스트 이진 분류모델을 생성하기 위해서, 사전 학습되어 공개된 BERT 다국어 문장생성 모델을 미세조정(fine tuning)한 후, 새로운 한국어 학습 데이터셋을 사용하여 전이학습(transfer learning) 시키는 방법을 제안한다. 이를 위해서 104 개 언어, 12개 레이어, 768개 hidden과 12개의 집중(attention) 헤드 수, 110M 개의 파라미터를 사용하여 사전 학습된 BERT-Base 다국어 문장생성 모델을 사용했다. 영화 댓글을 긍정 또는 부정 분류하는 모델로 변경하기 위해, 사전 학습된 BERT-Base 모델의 입력 레이어와 출력 레이어를 미세 조정한 결과, 178M개의 파라미터를 가지는 새로운 모델이 생성되었다. 미세 조정된 모델에 입력되는 단어의 최대 개수 128, batch_size 16, 학습 횟수 5회로 설정하고, 10,000건의 학습 데이터셋과 5,000건의 테스트 데이터셋을 사용하여 전이 학습시킨 결과, 정확도 0.9582, 손실 0.1177, F1 점수 0.81인 문장 감정 이진 분류모델이 생성되었다. 데이터셋을 5배 늘려서 전이 학습시킨 결과, 정확도 0.9562, 손실 0.1202, F1 점수 0.86인 모델을 얻었다.

벡터 오차 확산법을 이용한 색보정 기반의 칼라 중간조 처리법 (Color halftoning based on color correction using vector error diffusion)

  • 최원희;이철희;김정엽;김희수;하영호
    • 대한전자공학회논문지SP
    • /
    • 제37권5호
    • /
    • pp.76-83
    • /
    • 2000
  • 본 논문에서는 벡터오차 확산법을 이용한 색수정 방법으로 장치간 색재현시 필연적으로 발생하는 색차를 줄이는 칼라 하프토닝(halftoning)법을 제안하였다 각 장치의 출력색을 추정하기 위하여 신경망을 이용하였으며 장치 특성화 과정의 평균 추정 오차를 정의하여 이를 색수정의 임계치로 정의하였다 즉 화소 단위로 색차를 비교하여 최대 허용 색차(임계치)보다 클 경우 그 화소의 프린팅을 위한 이진 도트 집합은 벡터 오차 확산법을 이용해 재배열된다 제안된 방법은 선택적으로 벡터 오차 확산법을 적용함으로써 기존의 벡더 오차 확산법이 갖는 스미어 현상(smear effect)을 줄일 수 있으며 색수정을 통하여 필연적으로 발생하는 장치간 색차를 줄일 수 있었다.

  • PDF

ABR 서비스에서 퍼지 트래픽 제어 방식 (The Fuzzy Traffic Control Method for ABR Service)

  • 유재택;김용우;이진이;이광형
    • 한국정보처리학회논문지
    • /
    • 제3권7호
    • /
    • pp.1880-1893
    • /
    • 1996
  • 본 논문에서는 ATM 링크의 이용을 향상을 위해 ABR 서비스에서의 퍼지 트래픽 제어 방식을 제안한다. 제안된 방식은 ABR 서비스에서 전송률 제어 방식인 EPRCA를 개선한 것으로써 송신원의 전송률 제어값을 스위치단의 버퍼량과 버퍼 별화율로 퍼지 추론을 실시하여 얻는 방식이다. 본 논문에서는 ATM 트래픽 제어에 적용된 퍼지, 신경 망의 경우와 ATM의 ABR 서비스 제어 방식인 EPRCA 방식을 알아본 후, 퍼지 트래픽 제어 방식의 모형과 알고리즘, 퍼지 트래픽 제어기 등을 연계한다. 퍼지 트래픽 제어 기에서는 사용 소속함수, 퍼지 제어 규칙,max-min 추론 방법 등을 설계한다. 본 논문 에서 제안된 방식은 모의 실험을 통해 기존의 EPRCA 방식과 퍼지 트래픽 제어방식의 링크 이용율을 비교·분석함으로써 그 우수성을 검증한다. 모의 실험 결과 퍼지 트래 픽 제어 방식이 EPRCA 방식보다 송신원의 정규 분포 모델의 경우 2.3%, MMPP 모델의 경우 2.7%의 링크 이용률 개선을 얻었다.

  • PDF

인공지능형 삼차원 Foot Scanning 시스템에 관한 연구 (A Study on the Intelligent 3D Foot Scanning System)

  • 김영탁;박주원;탁한호;이상배
    • 한국지능시스템학회논문지
    • /
    • 제14권7호
    • /
    • pp.871-877
    • /
    • 2004
  • 본 논문은 맞춤형 신발제작을 위하여 신발에 필요한 화형제작용 데이터를 3차원 측정 장치를 통해 획득한 발의 형상을 인공지능 기법을 기반으로 하는 최적화된 형상을 복원하는 방법을 제시하고자 한다. 본 연구를 위해 개발된 시스템은 PC를 기반으로 하는 기존의 3차원측정 방식을 이용하여 상, 하, 좌, 우로 각각 장착된8대의 CCD 카메라와 4대의 laser를 통해 화형 및 발의 형상 데이터를 획득한다. 획득된 데이터들은 인공지능 기법을 이용한 영상처리 알고리즘으로 처리되며, 처리 결과는 기존의 지능 기법을 도입하지 않은 시스템에 비해 노이즈제거 특성이 향상되었고, 후처리과정을 간소화 할 수 있다. 따라서 본 논문에서는 3차원 측정을 위해 하드웨어적인 부분과 이를 제어하기 위한 소프트웨어 및 GUI로 전체 시스템을 구성하고, 본 논문에서는 데이터 처리용 소프트웨어에서 입력영상의 전처리 과정 중 영상의 이진화 단계에서 임계값을 결정하기 위하여 신경망을 사용하였으며, 이에 대한 결과를 제시하고자 한다.

부분적 템플릿 매칭을 활용한 악보인식 (Music Recognition by Partial Template Matching)

  • 유재명;김기홍;이귀상
    • 한국콘텐츠학회논문지
    • /
    • 제8권11호
    • /
    • pp.85-93
    • /
    • 2008
  • 악보인식기술에는 형상 매칭 방법, 통계적인 방법, 신경망을 이용한 방법, 구조적 방법 등이 있다. 본 논문에서는 핸드폰의 디지털 카메라로 얻은 저해상도 이미지를 인식하는 기술에 대해 접근한다. 이러한 저해상도 이미지에는 많은 왜곡이 포함되어 있어 기존 기술을 활용할 때 많은 문제점들을 나타난다. 문제점은 입력영상이 저해상도이며 조명 등의 촬영 상태가 좋지 않는 점이며, 인식 이전 단계 과정에서 음표 부분에 손실과 약간의 변형이 생긴다는 것이다. 이들 인식 방법들의 일반적인 흐름은 먼저, 디지털이미지를 확보하기 위해 카메라 기능을 이용하여 획득한다. 그런 후에 이진화, 오선 제거, 객체영역 분리가 이루어진 후 인식과정을 통해 악보 인식이 이루어진다. 본 연구에서는 특히 핸드폰이라는 제한적인 상황에서 탑재된 카메라를 통해 획득된 이미지를 대상으로 이러한 문제점을 극복하기 위한 인식 기술을 연구하였다. 먼저, 음표를 머리, 대, 꼬리 부분으로 분리하였다. 그리고 음표의 머리 부분에 템플릿을 적용하였고, 나머지 부분에는 패턴을 적용하여 단일 음표로 이루어진 악보에 대해서 100% 가까운 인식률을 얻을 수 있었다.

왜곡 불변 차량 번호판 검출 및 인식 알고리즘 (Distortion Invariant Vehicle License Plate Extraction and Recognition Algorithm)

  • 김진호
    • 한국콘텐츠학회논문지
    • /
    • 제11권3호
    • /
    • pp.1-8
    • /
    • 2011
  • 최근 차량의 출입통제 및 주차관리 그리고 불법 차량의 단속 등 다양한 분야에서 차량 번호판 자동 인식 기술들이 활용되고 있다. 그러나 기울어지거나 햇빛 또는 조명 등의 영향을 받은 차량 영상에서는 번호판의 고유한 정보가 변형될 수 있다. 본 논문에서는 왜곡에 불변한 차량 번호판 검출 및 인식 알고리즘을 제안하였다. 먼저 DoG(Difference of Gaussian) 필터를 이용해서 번호판의 문자 획이 잘 보전된 이진영상을 생성하였다. 그리고 왜곡에 불변한 연속된 큰 숫자들의 위치를 찾고 그 정보를 이용해서 번호판영역을 검출하였다. 기하학적 왜곡 보정과 영상 개선 작업을 수행한 다음 신경망을 이용해서 번호판을 인식하였다. 제안한 알고리즘을 상용 LPR(License Plate Recognition) 시스템으로부터 획득한 6,200장의 차량 영상을 대상으로 시뮬레이션 한 결과 98.4%의 번호판 영상 인식률과 0.05초의 인식 속도를 얻을 수 있었다.

SVM의 다중결정템플릿을 이용한 지문분류 (Fingerprint Classification using Multiple Decision Templates with SVM)

  • 민준기;홍진혁;조성배
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제32권11호
    • /
    • pp.1136-1146
    • /
    • 2005
  • 지문분류는 대규모 자동지문식별시스템에서 지문을 카테고리별로 나누어 매칭시간을 줄이는데 유용하다. 지문을 5가지 클래스로 분류하는 헨리시스템을 기반으로 신경망이나 SYM(Support Vector Machines) 등과 같은 다양한 패턴분류 기법들이 지문분류에 널리 사용되고 있다. 특히 최근에는 높은 분류 성능을 보이는 SVM 분류기를 이용한 연구가 활발하다. 이진분류기인 SVM을 지문분류문제에 적용하기 위해서 본 논문에서는 새로운 분류기 결합모델인 다중결정템플릿(Multiple Decision Templates, MuDTs)을 제안한다. 이 방법은 클래스 구분이 모호한 지문영상들의 분류에서 단일 결합모델들의 한계를 극복하기 위해, 하나의 지문클래스로부터 서로 다른 특성을 갖는 클러스터들을 추출하여 각 클러스터에 적합한 결합모델을 생성한다. NIST Database4 데이타로부터 추출한 핑거코드에 대해 실험한 결과, 5클래스와 4클래스 분류문제에 대하여 각각 $90.4\%$$94.9\%$의 분류성능(거부율 $1.8\%$)을 획득하였다.

반사 하이라이트 맵을 이용한 뉴럴 재조명 (Neural Relighting using Specular Highlight Map)

  • 이연경;고현성;이진우;김준호
    • 한국컴퓨터그래픽스학회논문지
    • /
    • 제26권3호
    • /
    • pp.87-97
    • /
    • 2020
  • 본 논문에서는 사용자가 지정한 반사 하이라이트 맵을 가이드 영상으로 하는 뉴럴 재조명 기법을 제안한다. 제안하는 신경망은 다양한 조명 위치에서 렌더링 된 영상을 이용해 사전학습시킨 백본 뉴럴 렌더러를 활용하며, 기저 영상과 렌더링 영상의 차이가 사용자가 제공한 반사 하이라이트 맵과 유사하도록 역전파에 의해 광원의 위치와 관련된 재조명 영상을 동시 최적화한다. 제안하는 방법은 아티스트가 선호하는 이차원 화면 공간 인터페이스를 제공하면서도 삼차원 조명의 위치를 명시적으로 추론할 수 있는 장점이 있다. 제안하는 뉴럴 재조명의 성능은 실제 값을 설정할 수 있는 실험 상황을 수립하여, 본 논문의 방법이 주어진 하이라이트 맵을 얼마나 잘 반영하는지 평가하고 실제 하이라이트 맵으로 추론한 조명 및 재조명 영상의 오차를 측정하였다. 제안하는 뉴럴 재조명이 추정한 광원 위치의 평균 오차율은 정규화된 삼차원 장면 크기 대비 0.11이다.

한정된 자원을 갖는 FPGA에서의 이진가중치 신경망 가속처리 구조 설계 및 구현 (Design and Implementation of Accelerator Architecture for Binary Weight Network on FPGA with Limited Resources)

  • 김종현;윤상균
    • 전기전자학회논문지
    • /
    • 제24권1호
    • /
    • pp.225-231
    • /
    • 2020
  • 본 연구에서는 임베디드 시스템에 적용하기 위해 자원이 제한된 조건의 FPGA를 기반으로 BWN 가속처리를 하는 방법을 제시하였다. 사용할 수 있는 로직의 개수가 제한적이기 때문에 다양한 크기의 Conv-layer, FC-layer를 처리할 수 있는 하나의 연산장치를 설계해서 재활용하였다. Input feature map 데이터를 한번에 병렬처리를 할 수 없는 경우 데이터를 여러 번 읽어서 중간결과를계산하고 합산하여 최종 출력을 계산하였다. 사용할 수 있는 BRAM 모듈 개수가 제한적이기 때문에 BWN 가속기내의 데이터 bit수를 최소화한 구조를 사용하였다. 구현한 BWN가속기의 이미지 분류 처리 시간은 소형 시스템과 비교하였을 때 처리시간 측면에서 우수함을 보였고 고성능 시스템과 비교하였을 때는 데스크탑 PC보다는 빠르고 높은 클럭속도의 GPU시스템의 50%정도 느렸다. BWN가속기는 50MHz의 느린 clock을 사용하므로 성능대비 전력측면에서 유리함을 확인할 수 있었다.

다중모델을 이용한 자동차 보험 고객의 이탈예측 (Customer Churn Prediction of Automobile Insurance by Multiple Models)

  • 이재식;이진천
    • 지능정보연구
    • /
    • 제12권2호
    • /
    • pp.167-183
    • /
    • 2006
  • 데이터마이닝은 우리가 완벽하게 알고 있지 못하는 데이터 집합으로부터 알려지지 않은 사실이나 규칙을 찾아내는 작업이기 때문에 항상 높은 오류율의 위험에 처해 있다. 다중모델은 하나의 문제에 다수의 모델을 사용함으로써 오류율을 줄이고자 하는 접근 방법이다. 본 연구에서는 데이터마이닝의 예측 성능을 개선시킬 수 있는 새로운 방식의 다중모델을 제시한다. 이 다중모델은 입력사례의 특성에 따라 그에 적합하게 개발된 모델이 선정되어 적용되는 특징을 가지고 있다. 제시된 다중모델의 현실적인 성능 검증을 위해 국내 자동차 보험 가입 고객의 이탈 예측 문제에 적용하여, 그 결과를 단일모델의 결과와 비교 평가하였다. 비교 대상 단일모델로는, 사례기반추론, 인공신경망, 의사결정나무 등이 사용되었는데, 다중모델의 예측 성능이 어떤 단일모델의 예측 성능보다 우수한 것으로 나타났다.

  • PDF