• 제목/요약/키워드: Fully connected

검색결과 336건 처리시간 0.027초

은닉지식 추출을 이용한 신경망회로망 정제 (Neural Network Refinement using Hidden Knowledge Extraction)

  • 김현철
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제27권11호
    • /
    • pp.1082-1087
    • /
    • 2000
  • 신경회로망 구조의 정제(精製)는 회로망의 일반화능력이나 효율성의 관점에서 중요한 문제이다. 본 논문에서는 feed-forward neural networks로부터 은닉지식을 추출하는 방법을 사용하여 네트워크 재구성을 통한 정제방법을 제안한다. 먼저, 효율적인 if-then rule 추출방법을 제시하고 그 추출된 룰들을 사용하여 룰기반 네트워크로 변환하는 과정을 보여준다. 생성된 룰기반 네트워크 fully connected network에 비하여 상당히 축소된 연결 복잡도를 가지게 되며 일반적으로 더 우수한 일반화능력을 가지게 된다. 본 연구는 도메인 지식이 없이 데이타만 사용하여 어떻게 정제된 룰기반 신경망회로를 생성하고 있는가를 보여준다. 도메인 데이타들에 대한 실험결과도 제시하였다.

  • PDF

주목 메커니즘 기반의 심층신경망을 이용한 음성 감정인식 (Speech emotion recognition using attention mechanism-based deep neural networks)

  • 고상선;조혜승;김형국
    • 한국음향학회지
    • /
    • 제36권6호
    • /
    • pp.407-412
    • /
    • 2017
  • 본 논문에서는 주목 메커니즘 기반의 심층 신경망을 사용한 음성 감정인식 방법을 제안한다. 제안하는 방식은 CNN(Convolution Neural Networks), GRU(Gated Recurrent Unit), DNN(Deep Neural Networks)의 결합으로 이루어진 심층 신경망 구조와 주목 메커니즘으로 구성된다. 음성의 스펙트로그램에는 감정에 따른 특징적인 패턴이 포함되어 있으므로 제안하는 방식에서는 일반적인 CNN에서 컨벌루션 필터를 tuned Gabor 필터로 사용하는 GCNN(Gabor CNN)을 사용하여 패턴을 효과적으로 모델링한다. 또한 CNN과 FC(Fully-Connected)레이어 기반의 주목 메커니즘을 적용하여 추출된 특징의 맥락 정보를 고려한 주목 가중치를 구해 감정인식에 사용한다. 본 논문에서 제안하는 방식의 검증을 위해 6가지 감정에 대해 인식 실험을 진행하였다. 실험 결과, 제안한 방식이 음성 감정인식에서 기존의 방식보다 더 높은 성능을 보였다.

GPGPU와 Combined Layer를 이용한 필기체 숫자인식 CNN구조 구현 (Implementation of handwritten digit recognition CNN structure using GPGPU and Combined Layer)

  • 이상일;남기훈;정준모
    • 문화기술의 융합
    • /
    • 제3권4호
    • /
    • pp.165-169
    • /
    • 2017
  • CNN(Convolutional Nerual Network)는 기계학습 알고리즘 중에서도 이미지의 인식과 분류에 뛰어난 성능을 보이는 알고리즘 중 하나이다. CNN의 경우 간단하지만 많은 연산량을 가지고 있어 많은 시간이 소요된다. 따라서 본 논문에서는 CNN 수행과정에서 많은 처리시간이 소모되는 convolution layer와 pooling layer, fully connected layer의 연산수행을 SIMT(Single Instruction Multiple Thread)구조의 GPGPU(General-Purpose computing on Graphics Processing Units)를 통하여 병렬로 연산처리를 수행했다. 또한 convolution layer의 출력을 저장하지 않고 pooling layer의 입력으로 바로 사용함으로 메모리 접근횟수를 줄여 성능 향상을 기대했다. 본 논문에서는 이 실험검증을 위하여 MNIST 데이터 셋을 사용하였고 이를 통하여 제안하는 CNN 구조가 기존의 구조보다 12.38% 더 좋은 성능을 보임을 확인했다.

분산 실시간 시스템에서 우선순위와 통신비용을 고려한 주기적 타스크들의 중복 스케줄링 (Duplication Scheduling of Periodic Tasks Based on Precedence Constraints and Communication Costs in Distributed Real-Time Systems)

  • Park, Mi-Kyoung;Kim, Chang-Soo
    • 한국멀티미디어학회논문지
    • /
    • 제2권4호
    • /
    • pp.378-389
    • /
    • 1999
  • 분산 실시간 시스템에서 타스크들은 여러 개의 서브 타스크들로 분할되어지고 그들의 실시간 특성들에 따라 병렬로 실행되지만, 이러한 서브 타스크들의 마감시간 분실을 최소화하면서 타스크 마감시간을 서브 타스크에 할당하는 최적의 해를 얻기란 어렵다. 본 논문에서는 주기적 타스크들의 통신시간과 수행시간을 이용해서 각 서브 타스크들의 속성에 따라 마감시간을 할당하는 알고리즘을 제시한다. 또한, 처리기들간의 통신시간을 고려한 처리기 사상 알고리즘과 서브 타스크들간의 통신시간을 개선하기 위해 동일한 처리기에 할당하는 효율적인 중복 알고리즘을 제시한다 결과적으로 FUTD(Fully connected, Unbounded Task Duplication) 알고리즘에 효율적인 실시간 특성을 적용함으로써 IPC(Inter-Processor Communication) 시간을 줄이고 유휴 처리기를 이용해서 평균 처리기 이용률을 개선하였다

  • PDF

내부 FC층을 갖는 새로운 CNN 구조의 설계 (Design of new CNN structure with internal FC layer)

  • 박희문;박성찬;황광복;최영규;박진현
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2018년도 춘계학술대회
    • /
    • pp.466-467
    • /
    • 2018
  • 최근 이미지 인식, 영상 인식, 음성 인식, 자연어 처리 등 다양한 분야에 인공지능이 적용되면서 딥러닝(Deep learning) 기술에 관한 관심이 높아지고 있다. 딥러닝 중에서도 가장 대표적인 알고리즘으로 이미지 인식 및 분류에 강점이 있고 각 분야에 많이 쓰이고 있는 CNN(Convolutional Neural Network)에 대한 많은 연구가 진행되고 있다. 본 논문에서는 일반적인 CNN 구조를 변형한 새로운 네트워크 구조를 제안하고자 한다. 일반적인 CNN 구조는 convolution layer, pooling layer, fully-connected layer로 구성된다. 그러므로 본 연구에서는 일반적인 CNN 구조 내부에 FC를 첨가한 새로운 네트워크를 구성하고자 한다. 이러한 변형은 컨볼루션된 이미지에 신경회로망이 갖는 장점인 일반화 기능을 포함시켜 정확도를 올리고자 한다.

  • PDF

차세대 무선랜을 위한 Carrier Sensing Multiple Access with Collision Resolution (CSMA/CR) 프로토콜 (Carrier Sensing Multiple Access with Collision Resolution (CSMA/CR) Protocol for Next-Generation Wireless LAN)

  • 최현호
    • 한국통신학회논문지
    • /
    • 제38A권1호
    • /
    • pp.33-43
    • /
    • 2013
  • 본 논문에서는 차세대 무선랜 환경으로 고밀도 fully-connected single hop 네트워크 구조를 고려하여 CSMA/CR이라 불리는 분산 MAC 프로토콜을 제안한다. 제안방안은 CSMA/CA 방식을 준수하여 기존 MAC 프로토콜과 호환성을 보장하며, CSMA/CD의 충돌 검출 방식을 무선 상황에 맞게 도입하여 RTS/CTS 사용 없이도 빠른 시간 내에 충돌을 검출할 수 있다. 또한 충돌이 검출되면 다음 전송 시에는 자원을 전용으로 할당하여 추가적으로 발생 가능한 충돌을 해결한다. 아울러 제안 CSMA/CR의 실용화를 위한 구현 이슈를 살펴보고, 대표적인 분산 무선 MAC 프로토콜과 성능비교를 수행한다. 시뮬레이션 결과 제안하는 CSMA/CR은 RTS/CTS 사용 없이 충돌을 발견할 수 있어 오버헤드가 적으며, 충돌 발생 시에는 다음번 전송에 대해서는 예약방식으로 충돌을 없애줌으로써 접속 노드 수에 상관없이 항상 가장 좋은 전송효율을 보여준다.

깊은 Convolutional Neural Network를 이용한 얼굴표정 분류 기법 (Facial Expression Classification Using Deep Convolutional Neural Network)

  • 최인규;송혁;이상용;유지상
    • 방송공학회논문지
    • /
    • 제22권2호
    • /
    • pp.162-172
    • /
    • 2017
  • 본 논문에서는 딥러닝 기술 중의 하나인 CNN(Convolutional Neural Network)을 이용한 얼굴 표정 인식 기법을 제안한다. 기존의 얼굴 표정 데이터베이스의 단점을 보완하고자 질 좋은 다양한 데이터베이스를 이용한다. 제안한 기법에서는 '무표정', '행복', '슬픔', '화남', '놀람', 그리고 '역겨움' 등의 여섯 가지 얼굴 표정 data-set을 구축한다. 효율적인 학습 및 분류 성능을 향상시키기 위해서 전처리 및 데이터 증대 기법(data augmentation)도 적용한다. 기존의 CNN 구조에서 convolutional layer의 특징지도의 수와 fully-connected layer의 node의 수를 조정하면서 여섯 가지 얼굴 표정의 특징을 가장 잘 표현하는 최적의 CNN 구조를 찾는다. 실험 결과 제안하는 구조가 다른 모델에 비해 CNN 구조를 통과하는 시간이 가장 적게 걸리면서도 96.88%의 가장 높은 분류 성능을 보이는 것을 확인하였다.

직관과 연결된 나선관 입구영역의 층류 유동 (Laminar Flow in the Entrance Region of Helical Tubes Connected with Straight Ones)

  • 김영인;박종호
    • 한국유체기계학회 논문집
    • /
    • 제11권1호
    • /
    • pp.9-17
    • /
    • 2008
  • A numerical study for three-dimensional laminar flow in the entrance region of helical tubes connected with straight ones is carried out to investigate the effects of Reynolds number, pitch and curvature ratio on the oscillation periods of the flow. The fully elliptic governing equations were solved by means of a finite volume method. The fully developed laminar flow boundary condition was applied at the straight tube inlet. This results cover a curvature ratio range of 1/10${\sim}$1/320, a pitch range of 0.0${\sim}$3.2, and a Reynolds number range of 62.5${\sim}$2000. A comparison is made with previous experimental correlations and numerical data. The developments of velocity, local and average friction factors are discussed. The average friction factors are oscillatory in the entrance region of helical pipes. It has been found that the angle required for the flow to be similarly developed is most affected by the curvature ratio. The pitch and Reynolds number do not have any significant effect on the angle. The characteristic angle ${\phi}_c(={\phi}/sqrt{\delta})$, or the characteristic length to diameter ratio $s_c(=l\sqrt{\delta} cos(atan{\lambda})/d)$, can be useful to represent the development of flow in helical tubes. As the pitch increases and as the curvature ratio and Reynolds number decrease, the amplitude and the number of flow oscillations along the main streamwise direction decrease.

포화상태인 무선랜 네트워크에서 Carrier Sensing Multiple Access with Collision Resolution (CSMA/CR) 프로토콜의 실용화를 위한 충돌 보상 방법 (A Collision Compensation Method for CSMA/CR Protocol in Wireless LAN)

  • 김지인;박병현;권영호;이병호
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2013년도 추계학술대회
    • /
    • pp.1033-1036
    • /
    • 2013
  • 무선랜을 통해서 대용량 파일, 비디오, 멀티미디어 정보들을 전송해야 함에 따라 quality of service(QoS)를 중요시 하는 응용 프로그램이 많아지므로 무선랜 네트워크에서의 충돌을 해결하기 위한 방법에 대해 연구가 필요하다. CSMA/CD의 충돌 검출 방식을 무선상황에 도입한 distributed MAC 프로토콜인 CSMA/CR[1]에서는 접속 단말 간 공평성은 보장하지만 서비스의 질(QoS)은 고려하지 않았다. 본 논문에서는 포화상태인 fully-connected single hop 네트워크 환경에서 CSMA/CR 프로토콜의 실용화를 위한 충돌 보상 방법을 제안한다. 기존의 CSMA/CR프로토콜은 단말 간 공평성만을 고려하여 CR Slot을 랜덤하게 선택하지만, 본 논문에서는 충돌을 경험한 단말에게는 우선순위를 주어 충돌 보상을 제공하기 위해 CR Slot의 앞쪽 번호를 부여한다. 충돌이 발생한 경우 jam 신호를 전송한 후 채널 우선 사용권을 가지게 되어 성공적인 전송을 보장받을 확률이 높아져 단말 간 우선순위를 보장하고 전송 효율을 높일 수 있다. 본 논문에서 제안하는 방법은 하드웨어 비용의 추가 없이 간단하게 충돌을 경험한 단말에게 혜택을 제공할 수 있다.

  • PDF

RGB-Depth 카메라와 Deep Convolution Neural Networks 기반의 실시간 사람 양손 3D 포즈 추정 (Real-time 3D Pose Estimation of Both Human Hands via RGB-Depth Camera and Deep Convolutional Neural Networks)

  • 박나현;지용빈;기건;김태연;박혜민;김태성
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2018년도 추계학술발표대회
    • /
    • pp.686-689
    • /
    • 2018
  • 3D 손 포즈 추정(Hand Pose Estimation, HPE)은 스마트 인간 컴퓨터 인터페이스를 위해서 중요한 기술이다. 이 연구에서는 딥러닝 방법을 기반으로 하여 단일 RGB-Depth 카메라로 촬영한 양손의 3D 손 자세를 실시간으로 인식하는 손 포즈 추정 시스템을 제시한다. 손 포즈 추정 시스템은 4단계로 구성된다. 첫째, Skin Detection 및 Depth cutting 알고리즘을 사용하여 양손을 RGB와 깊이 영상에서 감지하고 추출한다. 둘째, Convolutional Neural Network(CNN) Classifier는 오른손과 왼손을 구별하는데 사용된다. CNN Classifier 는 3개의 convolution layer와 2개의 Fully-Connected Layer로 구성되어 있으며, 추출된 깊이 영상을 입력으로 사용한다. 셋째, 학습된 CNN regressor는 추출된 왼쪽 및 오른쪽 손의 깊이 영상에서 손 관절을 추정하기 위해 다수의 Convolutional Layers, Pooling Layers, Fully Connected Layers로 구성된다. CNN classifier와 regressor는 22,000개 깊이 영상 데이터셋으로 학습된다. 마지막으로, 각 손의 3D 손 자세는 추정된 손 관절 정보로부터 재구성된다. 테스트 결과, CNN classifier는 오른쪽 손과 왼쪽 손을 96.9%의 정확도로 구별할 수 있으며, CNN regressor는 형균 8.48mm의 오차 범위로 3D 손 관절 정보를 추정할 수 있다. 본 연구에서 제안하는 손 포즈 추정 시스템은 가상 현실(virtual reality, VR), 증강 현실(Augmented Reality, AR) 및 융합 현실 (Mixed Reality, MR) 응용 프로그램을 포함한 다양한 응용 분야에서 사용할 수 있다.