• 제목/요약/키워드: 동적 가중치

검색결과 204건 처리시간 0.023초

동적 필터 프루닝 기법을 이용한 심층 신경망 압축 (Dynamic Filter Pruning for Compression of Deep Neural Network.)

  • 조인천;배성호
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송∙미디어공학회 2020년도 하계학술대회
    • /
    • pp.675-679
    • /
    • 2020
  • 최근 이미지 분류의 성능 향상을 위해 깊은 레이어와 넓은 채널을 가지는 모델들이 제안되어져 왔다. 높은 분류 정확도를 보이는 모델을 제안하는 것은 과한 컴퓨팅 파워와 계산시간을 요구한다. 본 논문에서는 이미지 분류 기법에서 사용되는 딥 뉴럴 네트워크 모델에 있어, 프루닝 방법을 통해 상대적으로 불필요한 가중치를 제거함과 동시에 분류 정확도 하락을 최소로 하는 동적 필터 프루닝 방법을 제시한다. 원샷 프루닝 기법, 정적 필터 프루닝 기법과 다르게 제거된 가중치에 대해서 소생 기회를 제공함으로써 더 좋은 성능을 보인다. 또한, 재학습이 필요하지 않기 때문에 빠른 계산 속도와 적은 컴퓨팅 파워를 보장한다. ResNet20 에서 CIFAR10 데이터셋에 대하여 실험한 결과 약 50%의 압축률에도 88.74%의 분류 정확도를 보였다.

  • PDF

다중 동적 위상보존 자기구성 지도의 결합을 통한 필기숫자 데이타의 분류율 향상 (Improvement of Classification Rate of Handwritten Digits by Combining Multiple Dynamic Topology-Preserving Self-Organizing Maps)

  • 김현돈;조성배
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제28권12호
    • /
    • pp.875-884
    • /
    • 2001
  • 자기 구성지도는 데이타 시각화, 위상보존 매핑 등의 분야에서 널리 사용되고 있지만. 학습이 되기 전에 위상을 미리 고정시켜야 하기 때문에 실제 문제에 적용하기 어렵다는 것과 클러스터링 능력에 비해 분류율이 낮다는 결점이 있다. 이를 해결하기 위해서 자기구성 지도의 출력 노드를 동적으로 분화하고 분화된 노드를 파습하는 동적 위상보존 사기구성 지도를 제안하고, 이를 다중 결합함으로써 분류율을 향상 시켰다. 동적 위상보존 자기구성 지도의 결함 방법으로는 자기구성 지도의 K개 노드가 출격을 내도록하는 K-Winner 방법 및 K-Winner+ 가중치 방법이 제안되었는데, 이는 다수결 투표, 가중치, BKS, Byayesian, Borda, Condorect, 신뢰값 합산 등의 기존 결합 방법보다도 우수한 결과를 나타내었다. 동적 위상보존 자기 구성 지도를 통해서 위상을 고정 시켜야 하는 결점을 해결할 수 있었고. 서로 다른 특징으로 학습된 동적 위상보존 자기구성 지도들을 결합하여 분류 능력을 향상시킬 수 있었다. 필기 숫자데이타로. 실험한 결과, 제안한 방법이 자기구성 지도의 결점을 효과적으로 해결하여 98.1% 의 높은 인식률을 보였다.

  • PDF

객체지향 컴퓨터를 위한 확장-가중치 버디 시스템 (An Extended-Weighted Buddy System for an Object-Oriented Computer)

  • 김관중;김병기
    • 한국정보처리학회논문지
    • /
    • 제4권6호
    • /
    • pp.1625-1635
    • /
    • 1997
  • 객체지향 컴퓨터의 동적 메모리 할당을 위해 가중치 버디 시스템을 확장한 확장-가중치 버디 시스템을 제안하였다. 가중치 버디 시스템이 블럭의 크기를 $2^k와\;3*2^k$ 두가지로 제공하는데 비해 확장-가중치 버디 시스템은 블럭의 크기를 $2^k,\;3*2^k,\;5*2^k,\;7*2^k$등으로 제공한다. 이 확장은 각 블럭당 3비트의 추가 비용의 부담만으로 메모리 관리 장치를 실현할 수 있다. 그리고 본 기법과 가중치 버디 시스템을 비교 실험한 결과를 제시하였다. 확장-가중치 버디 시스템은 메모리 할당 요구 크기가 균일분포일 때 가중치 버디 시스템에 비해 내부단편화가 약 60% 정도 감소하였으며, 지수분포일 때 약 50% 정도 감소하였다. 외부단편화는 가중치 버디 시스템에 비해 본 논문에서 제안한 시스템이 크지만, 전체단편화는 지수분포시 확장-가중치 버디 시스템이 적으며 균일 분포시 두 시스템간에 큰 차가 없으므로 가중치 버디 시스템을 대체할 수 있다.

  • PDF

시간적으로 증가하는 가중치 기반의 파노라마 영상 구성 (Construction of Panorama Image Based on Temporally Incremental Weight)

  • 이중재;장석우;최형일
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 1999년도 가을 학술발표논문집 Vol.26 No.2 (2)
    • /
    • pp.380-382
    • /
    • 1999
  • 파노라마 영상은 카메라의 동작을 고려하여 시공간적으로 영상을 정렬한 영상으로서 효과적으로 비디오 데이터를 표현할 수 있는 방법이다. 그러나 기존의 파노라마 영상 구성 기법들은 영상을 정렬할 때 오버랩(overlap)되는 화소값들을 단순히 미디언 필터링하기 때문에 시간의 경과에 따른 밝기값의 동적인 변화를 수용하지 못한다. 따라서 본 논문에서는 이런 문제점을 해결하기 위해 시간적으로 증가하는 가중치를 사용하여 영상을 통합함으로써 최근의 영상 정보를 충분히 반영하는 파노라마 영상 구성 방법을 제안한다.

  • PDF

혼합 분포와 은닉 과정 모의를 통한 비정상성 강우/빈도 빈도해석: 전지구 기상학적 변동성의 역할 (Mixed distributions and Laten Process over Nonstationary Rainfall/Flood Frequency Estimates over South Korea: The Role of Large Scale Climate Pattern)

  • 권현한
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2018년도 학술발표회
    • /
    • pp.8-8
    • /
    • 2018
  • 전통적인 빈도해석은 정상성 가정을 기초로 단일 확률분포를 강우 및 홍수량 자료에 적용하는 과정을 통해 확률수문량을 추정하는 것을 목적으로 하고 있다. 그러나 전지구적인 기상학적 변동성 및 기후변화로 기인하는 극치수문량의 발생 빈도 및 양적 크기의 변화는 확률통계학적 관점에서 서로 다른 분포특성을 가지게 된다. 대표적인 기상변동성인 엘니뇨가 발생하는 경우 지역에 따라 홍수 및 가뭄이 발생 발생하게 되며, 이러한 극치수문량은 일반적으로 나타나는 홍수 및 가뭄의 분포특성과는 상이한 경우가 많다. 즉, 2개 이상의 확률분포 특성이 혼재된 혼합분포의 특성을 가지는 경우가 나타내게 되며 이를 고려한 빈도해석 기법의 개발 및 적용이 필요하다. 혼합분포를 활용한 빈도해석에서 가장 중요한 사항 중에 하나는 개별 분포에 적용되는 가중치를 추정하는 것으로서 통계학적 관점에서 자료의 특성에 근거하여 내재되어 있는 은닉상태(latent process)를 추정하는 과정과 유사하다. 이와 더불어 앞서 언급된 기상학적 변동성을 빈도해석에 반영하기 위한 비정상성 해석기법의 개발 및 적용도 필요하다. 본 연구에서는 혼합분포를 활용한 비정상성빈도해석모형을 개발하는데 목적이 있으며 개별매개변수의 동적거동 뿐만 아니라 가중치에 대한 시간적인 종속성도 고려할 수 있는 모형으로 동적모형으로 다양한 실험적 해석이 가능하다. 본 연구에서는 개발된 모형을 기반으로 엘니뇨와 같은 기상변동성에 따른 강우 및 홍수빈도해석 측면에서 은닉상태에 변화, 이로 인한 확률분포의 특성 및 설계수문량의 동적변동성을 평가하고자 한다.

  • PDF

하이브리드 SOM을 이용한 동적 웹 정보 추천 기법 (Dynamic Web Recommendation Method Using Hybrid SOM)

  • 윤경배;박창희
    • 정보처리학회논문지B
    • /
    • 제11B권4호
    • /
    • pp.471-476
    • /
    • 2004
  • 최근, 사용자에게 가장 필요한 정보를 제공하기 위한 웹 정보 추천 시스템에 대한 연구가 인터넷 쇼핑몰등을 대상으로 활발히 진행되고 있다. 그 중 SOM(Self-Organizing Feature Maps)을 이용한 동적 웹 정보 추천 기법은 빠른 수행 속도와 간편하게 사용할 수 있는 장점이 존재하나, 모형에 대한 설명력 부족 및 최종적으로 구축된 모형에서 출력층의 각 노드가 한 개의 가중치 값들로 고정되는 단점이 존재한다. 본 논문에서는 이러한 단점인 모형에 대한 설명력 부족을 베이지안 추론 기법으로 해결하며, 하이브리드 SOM을 이용하여 최종적으로 구축된 모형에서 출력층의 각 노드가 한 개의 가중치 값들로 고정되는 것이 아니라 가중치가 속하게 되는 분포가 결정되도록 한다. 이러한 하이브리드 SOM을 이용하여 동적 웹 정보 추천 기법을 설계하고 구현하여 기존의 웹 정보 추천 기법과 성능 비교를 수행한 결과, 제안된 기법의 우수함이 입증되었다.

능동형 기울기 가중치 제약에 기반한 환경소리 인식시스템용 DTW 알고리듬 (Active Slope Weighted-Constraints Based DTW Algorithm for Environmental Sound Recognition System)

  • 정영진;이윤정;김필운;김명남
    • 한국멀티미디어학회논문지
    • /
    • 제11권4호
    • /
    • pp.471-480
    • /
    • 2008
  • 농자들은 청각장애를 가지고 있기 때문에 알람, 도어 벨, 싸이렌, 경적, 전화 벨 등과 같은 유용한 소리정보를 인식할 수 없다. 이러한 문제를 해결하기 위해서는 주요한 환경소리 인식방법을 탑재한 휴대형 청각보조 장구가 요구되어진다. 본 논문에서는 환경소리 인식시스템에 적용할 수 있는 능동형 기울기 가중치제약 방식의 새로운 동적 시간정합 알고리듬을 제안하였다. 환경소리 인식방법은 크게 세 단계로 구성된다. 첫 번째 단계에서는 소리의 주파수 성분과 크기를 이용하여 시작점과 끝점을 추출한다. 두 번째 단계에서는 추출된 구간에 대하여 특징을 추출하며 세 번째 단계에서는 추출된 특징들을 분류한다. 실험 결과 제안한 방법의 인식률이 거의 90%가 되었다. 그리고 기존의 동적 시간정합 알고리듬과 비교하였을 때 인식율에 있어서 약 20%정도의 개선이 있었다. 따라서 제안된 방법을 사용하여 농자가 환경소리를 인식할 수 있는 휴대형 청각 보조 장구가 개발된다면 그들의 생활에 편리함을 줄 수 있을 것으로 판단된다.

  • PDF

이산 확률 기법에 기반한 웹미디어 교육 시스템을 위한 동적 적응 모델 (Dynamic Adaptive Model for WebMedia Educational Systems based on Discrete Probability Techniques)

  • 이윤수
    • 한국컴퓨터산업학회논문지
    • /
    • 제5권9호
    • /
    • pp.921-928
    • /
    • 2004
  • 이 논문에서는 웹 기반의 하이퍼미디어 교육시스템에서 이산 확률 분포 함수와 사용자 프로파일 기반의 동적 적응 모델을 제안하였다. 이 모델은 응용 영역을 동적 적응 객체의 가중치 방향성 그래프로 표현하며, 사용자 행위를 이산 확률 함수를 동적으로 구축하는 접관 방식을 이용하여 모델링한다. 제안한 확률적 해석은 웹 미디어 구조에서 사용자의 탐색 행위를 추적하여 사용자 행위에 대한 잠재적 속성을 나타내는데 사용될 수 있다. 이러한 접근 방식은 사용자에게 가장 알맞은 프로파일을 동적으로 할당할 수 있다.

  • PDF

웹 상에서 사용자 브라우징 행위를 이용한 하이퍼텍스트 네트워크 재구성 (Hypertext Networks Restructure using User Browsing Behaviors on WWW)

  • 백영태;이세훈
    • 한국컴퓨터산업학회논문지
    • /
    • 제2권11호
    • /
    • pp.1365-1372
    • /
    • 2001
  • 이 연구는 사용자의 브라우징 행위에 따라 자동적으로 하이퍼텍스트 네트워크를 재구성하는 세 가지 학습 규칙을 제안하고, 실험적 시스템을 구현하였다. 시스템은 링크 가중치를 하이퍼링크 네트워크에 부여하고 학습 규칙에 따라 가중치를 변경한다. 학습 규칙은 하이퍼링크가 얼마나 자주 이용되고 있는지에 따라 해당 하이퍼링크의 가중치만 변경되며, 다른 하이퍼링크에는 영향을 미치지 않는다. 네트워크 구조의 변경은 링크 가중치의 내림차순에 따라 동적으로 링크가 배열되어 사용자에게 제시된다. 이것은 협력 필터링 기술의 장점과 탐색 지원 접근 방식을 혼합한 것이다. 실험을 위해 임의적인 하이퍼텍스트 네트워크를 만들고 사용자의 브라우징 선호에 따라 네트워크 구조가 변화되는 과정을 관찰한다.

  • PDF