• Journal of Computing Science and Engineering
• /
• 제9권4호
• /
• pp.204-213
• /
• 2015

Under the conditional independence assumption among local features, the Naive Bayes Nearest Neighbor (NBNN) classifier has been recently proposed and performs classification without any training or quantization phases. While the original NBNN shows high classification accuracy without adopting an explicit training phase, the conditional independence among local features is against the compositionality of objects indicating that different, but related parts of an object appear together. As a result, the assumption of the conditional independence weakens the accuracy of classification techniques based on NBNN. In this work, we look into this issue, and propose a novel Bayesian network for an NBNN based classification to consider the conditional dependence among features. To achieve our goal, we extract a high-level feature and its corresponding, multiple low-level features for each image patch. We then represent them based on a simple, two-level layered Bayesian network, and design its classification function considering our Bayesian network. To achieve low memory requirement and fast query-time performance, we further optimize our representation and classification function, named relation-based Bayesian network, by considering and representing the relationship between a high-level feature and its low-level features into a compact relation vector, whose dimensionality is the same as the number of low-level features, e.g., four elements in our tests. We have demonstrated the benefits of our method over the original NBNN and its recent improvement, and local NBNN in two different benchmarks. Our method shows improved accuracy, up to 27% against the tested methods. This high accuracy is mainly due to consideration of the conditional dependences between high-level and its corresponding low-level features.

• 한국정보통신학회논문지
• /
• 제22권10호
• /
• pp.1300-1306
• /
• 2018

본 연구는 자연어 처리 문제 중 하나인 문장 유사도 판별 문제를 딥러닝으로 해결하는 데에 있어 Char2Vec기반으로 문장을 전 처리하고 학습시켜 그 성능을 확인하고 대표적인 Word Embedding 모델 Word2Vec를 대체할 수 있는 가능성이 있는지 파악하고자 한다. 임의의 두 문장을 비교할 때 쓰는 딥러닝 구조로 Siamese Ma-STM 네트워크를 사용하였다. Word2Vec와 Char2Vec를 각각 기반으로 한 문장 유사도 판별 모델을 학습시키고 그 결과를 분석하였다. 실험 결과 Char2Vec를 기반으로 학습시킨 모델이 validation accuracy 75.1%을 보였고 Word2Vec를 기반으로 학습시킨 모델은 validation accuracy 71.6%를 보였다. 따라서 고 사양을 요구하는 Word2Vec대신 임베딩 레이어를 활용한 Char2Vec 기반의 전처리 모델을 활용함으로 분석 환경을 최적화 할 수 있다.

• 정보과학회 컴퓨팅의 실제 논문지
• /
• 제23권4호
• /
• pp.268-273
• /
• 2017

최근 감정 분류 분야에서 딥러닝 인코더 기반의 접근 방법이 활발히 적용되고 있다. 딥러닝 인코더 기반의 접근 방법은 가변 길이 문장을 고정 길이 문서 벡터로 압축하여 표현한다. 하지만 딥러닝 인코더에 흔히 사용되는 구조인 장 단기 기억망(Long Short-Term Memory network) 딥러닝 인코더는 문서가 길어지는 경우, 문서 벡터 표현의 품질이 저하된다고 알려져 있다. 본 논문에서는 효과적인 감정 문서의 분류를 위해, 장 단기 기억망의 출력을 중요도에 따라 가중합하여 문서 벡터 표현을 생성하는 주목방법 기반의 딥러닝 인코더를 사용하는 것을 제안한다. 또한, 주목 방법 기반의 딥러닝 인코더를 문서의 감정 분류 영역에 맞게 수정하는 방법을 제안한다. 제안하는 방법은 윈도우 주목 방법(Window Attention Method)을 적용한 단계와 주목 가중치 재조정(Weight Adjustment) 단계로 구성된다. 윈도우 주목 방법은 한 단어 이상으로 구성된 감정 자질을 효과적으로 인식하기 위해, 윈도우 단위로 가중치를 학습한다. 주목 가중치 재조정에서는 학습된 가중치를 평활화(Smoothing) 한다, 실험 결과, 본 논문에서 제안하는 방법은 정확도 기준으로 89.67%의 성능을 나타내어 장 단기 기억망 인코더보다 높은 성능을 보였다.

• 인지과학
• /
• 제16권3호
• /
• pp.155-174
• /
• 2005

최근 연구들은 공간적 작업기억 과제를 수행하면서 시각 탐색 과제를 수행했을 때 시각 탐색의 효율성과 작업기억 과제의 정확률이 동시에 낮아지는 결과를 보고하였다(Oh & Kim, 2004; Woodman & Luck, 2004). 이러한 결과는 두 과제의 처리 과정이 동일한 인지적 자원을 요구하기 때문인 것으로 해석할 수 있는데, 동일한 인지적 자원은 공간적 주의(공간적 주의 부하 가설)나, 공간적 작업기억(공간적 작업기억 부하 가설), 혹은 이 둘과 모두 관련될 가능성이 있다. 시각 탐색과 공간적 작업기억 간 상호 간섭의 기제를 밝히기 위해 작업기억에 유지해야 하는 위치와 공간적 주의를 사용해야 하는 시각 탐색의 자극 위치를 변화시켜 2개의 실험을 수행하였다. 실험 1에서는 공간적 작업기억 과제의 자극을 탐색 자극이 제시될 수 있는 주변 영역에 제시하는 경우에도 두 과제간의 간섭이 나타남을 보임으로써 이전 연구 결과들을 재확인하였다. 실험 2에서는 기억 자극과 탐색 자극을 모두 동일한 사분면에 제시하는 경우와 그렇지 않은 경우에서 시각 탐색과 작업기억 과제 수행을 비교하였다. 실험 결과 시각 탐색의 효율은 시각 탐색 과제만을 수행한 조건과 동일 위치 조건에 비해 비동일 위치 조건에서 유의미하게 저하되었다. 공간적 작업기억 과제의 정확률역시 다른 조건보다 비동일 위치 조건에서 더 낮게 나타났다. 이러한 결과들은 선행 연구들에서 밝혀진 공간 기억과 시각 탐색간의 상호 간섭이 작업기억의 과부하보다는 공간적 주의의 과부하로 인한 것임을 시사한다.

• 한국의학물리학회지:의학물리
• /
• 제16권1호
• /
• pp.32-38
• /
• 2005

작동기억 및 얼굴 영상에 대한 정보 처리 과정의 장애는 정신분열병 환자에서 나타나는 광범위한 인지기능 장애 중의 하나이다. 본 연구는 기능적 자기공명영상기법을 이용하여 정신분열병 환자군과 정상 대조군 간의 얼굴 영상의 작동기억에 관여하는 뇌 활성의 차이를 분석하고자 하였다 10명의 정신분열병 환자와 10명의 정상 대조군을 대상으로 선정하였다. 얼굴영상 자극을 이용한 1-back 작동기억 파라다임을 수행하는 동안 뇌 피질의 활성을 측정하기 위해 기능적 자기공명영상으로 두 군간의 뇌 활성의 차이를 SPM을 사용하여 분석하였다. 정신분열병 환자군은 정상대조군에 비해 작동기억 수행 점수가 유의하게 저하되어 있었다 환자군에서 대뇌의 좌측 방추상 이랑, 우측 위 전두 이랑, 양측 중간 전두 이랑, 도, 좌측 중간 측두 이랑, 설전부 피질과 소뇌의 사각엽과 충부의 활성이 감소되어 있었다. 반면, 외측 전전두 피질과 두정엽의 활성이 증가되었고, 또한 두 군 모두에서 우측반구의 활성이 증가되어 있었다. 정신분열병 환자에서 좌측 방추상 이랑의 활성이 감소된 것은 얼굴 영상에 대한 정보 처리 과정의 장애를 의미하며 기능적 자기공명영상분석법으로 작동기억능력의 유용성을 평가하였다.

• 한국심리학회지 : 문화 및 사회문제
• /
• 제22권1호
• /
• pp.41-64
• /
• 2016

본 연구에서는 두 개의 실험연구를 통해 질투와 존경의 이득을 자기향상의 동기화와 정보처리의 측면에서 비교하고, 작업기억용량의 개인차가 정서조절에 영향을 주는지를 분석하였다. 연구 1에서는 참가자(N=38)들의 작업기억용량을 측정한 후, 질투나 존경 중의 한 가지 조건에서 자신의 경험을 생생하게 머릿속에 떠올려보게 하였다. 그 결과 질투조건에서는 존경조건보다 타인의 우월성을 합당하다고 인식하는 정도가 낮게 나타났다. 또한 질투조건에서는 작업기억용량이 높을수록 행복감이 높았으며, 불안이 증가할수록 자기향상을 위한 학습시간을 증가시키려는 경향이 나타났다. 반면 존경조건에서는 작업기억용량과 정서, 학습시간과의 관계가 유의하지 않았다. 연구 2(N=43)에서는 참가자들의 작업기억용량을 측정한 후, 질투/존경/통제조건에서 질투시나리오에 대한 회상을 비교하였다. 그 결과 질투조건에서 존경/통제조건보다 시나리오 회상율이 더 높게 나타났다. 또한 질투조건에서는 참가자의 작업기억용량이 높을수록 불안을 더 적게 느꼈고, 정확회상율이 더 높았던 데 비해, 존경/통제조건에서는 작업기억용량, 불안 및 회상율과의 관계가 유의하지 않았다. 이 결과는 질투가 정보처리과정에서 중요한 역할을 할 가능성을 보여주며, 작업기억용량이 정서조절능력과 관계있음을 시사한다.

• 지구물리와물리탐사
• /
• 제3권2호
• /
• pp.39-47
• /
• 2000

복잡한 지층구조에 대한 파동방정식의 해를 유한 차분법을 이용하여 구하는것은 많은 컴퓨터 계산시간과 기억 용량이 필요하다. 컴퓨터 계산시간과 기억용량은 최소 파장당 격자수를 줄이므로써 감소 시킬 수 있지만 수치분산으로 인해 정확도가 떨어지게 마련이다. 본 연구에서는 정확도를 유지하면서 파장당 격자수를 줄이는 방법으로 이용되고 있는 가중평균법을 최대 169점 까지 확장하여 주파수 영역에서 음향파동방정식의 해를 유한차분법으로 구할 때 최소 격자수를 구하기 위한 격자분석을 실시하였다. 지금까지 수치오차가 정확도 $1\%$내에 존재하기 위해서는 일반적인 5점을 이용하는 경우 파장당 격자수가 13개 이상이 필요하고, 9점의 경우 9개, 25점에서는 3개, 49점에서는 2.7개 이상이 필요하였다. 본 연구에서 정확도를 유지하기 위한 최소격자수를 결정하기 위해 실시된 격자분석 결과 81점에서는 2.5개 121점에서는 2.3개 그리고 169점에서는 오차 한계를 벗어나 가중평균 계수를 구할 수 없었으며 격자수를 2개까지 줄일 수 없음을 알 수 있었다. 또한 격자분석을 통해 가중평균에 적용되는 격자수가 증가할수록 정확도는 증가하지만 차분식 자체가 증가하여 매우 복잡하게 된다.

• 인터넷정보학회논문지
• /
• 제22권2호
• /
• pp.59-68
• /
• 2021

최근 급속도로 성장하고 있는 인공지능 기술이 자율운항선박과 같은 해상 환경에서도 적용되기 시작하면서 디지털 영상에 특화된 CNN 기반의 모델을 적용하는 관련 연구가 활발히 진행되고 있다. 이러한 해상 서비스의 경우 인적 과실을 줄이기 위해 충돌 위험이 있는 부유물을 감지하거나 선박 내부의 화재 등 여러 가지 기술이 접목되기에 실시간 처리가 매우 중요하다. 그러나 기능이 추가될수록 프로세서의 제품 가격이 증가하는 문제가 존재해 소형 선박의 선주들에게는 비용적인 측면에서 부담이 된다. 또한 대형 선박의 경우 자율운항선박의 시스템을 감안할 때, 연산 속도의 성능 향상을 위해 복잡도가 높은 딥러닝 모델의 성능을 개선하는 방법이 필요하다. 따라서 본 논문에서는 딥러닝 모델에 경량화 기법을 적용해 정확도를 유지하면서 고속으로 처리할 수 있는 방법에 대해 제안한다. 먼저 해상 부유물 검출에 적합한 영상 전처리를 진행하여 효율적으로 CNN 기반 신경망 모델 입력에 영상 데이터가 전달될 수 있도록 하였다. 또한, 신경망 모델의 알고리즘 경량화 기법 중 하나인 학습 후 파라미터 양자화 기법을 적용하여 모델의 메모리 용량을 줄이면서 추론 부분의 처리 속도를 증가시켰다. 양자화 기법이 적용된 모델을 저전력 임베디드 보드에 적용시켜 정확도와 처리 속도를 사용하는 임베디드 성능을 고려하여 설계하는 방법을 제안한다. 제안하는 방법 중 정확도 손실이 제일 최소화되는 모델을 활용해 저전력 임베디드 보드에 비교하여 기존보다 최대 4~5배 처리 속도를 개선할 수 있었다.

• 한국정보전자통신기술학회논문지
• /
• 제12권5호
• /
• pp.467-474
• /
• 2019

본 이 논문에서는 NVIDIA Jetson TX1에서 YOLO v2 모델의 정확도를 유지하면서 FPS를 개선하는 방법을 제안한다. 일반적으로, 딥러닝 모델에서는 연산량을 줄여 처리 속도를 높이기 위해 파라미터들을 실수형에서 정수형으로 변환하여 정수 연산을 통해 속도를 높이거나 네트워크의 깊이를 감소시키는 방법을 사용한다. 그러나 이 방법들은 인식 정확도가 떨어질 수 있다. 이 논문에서는 YOLO v2 모델을 이용해 표정인식기를 개발하고 정확도 유지 시키기 위해 정수 연산이나 네트워크 깊이 감소를 사용하는 대신, 다음 세 가지 방법을 통해 연산량 및 메모리 소모를 줄인다. 첫 번째, $3{\times}3$ 필터를 $1{\times}1$ 필터로 교체하여 각 Layer 당 매개 변수 수를 9 분의 1로 줄인다. 두 번째, TensorRT의 추론 가속 기능 중 CBR (Convolution-Add Bias-Relu)을 통해 연산량을 줄이고, 마지막으로 TensorRT를 사용하여 반복되는 동일한 연산구조를 가진 레이어를 통합하여 메모리 소비를 줄인다. 시뮬레이션 결과, 기존 YOLO v2 모델에 비해 정확도는 1 % 감소했지만 FPS는 기존 3.9 FPS에서 11 FPS로 282%의 속도 향상을 보였다.

• 대한원격탐사학회지
• /
• 제38권3호
• /
• pp.299-309
• /
• 2022

최근 한반도 주역 해역의 수온이 꾸준히 증가하고 있다. 수온변화는 어업생태계에 영향을 미칠 뿐만 아니라 해양에서의 군사작전과도 밀접히 연관되어 있다. 본 연구는 딥러닝 기술을 기반으로 하는 다양한 예측모델을 통해 단기간 수온예측을 시도함으로써 어떠한 모델이 수온예측분야에 더욱 적합한지를 제시하는 것에 목적을 두었다. 예측을 위해 사용한 데이터는 국립수산과학원에서 해양 관측부이를 통해 관측한 2016년부터 2020년까지 동해 지역(고성, 양양, 강릉, 영덕)의 수온 데이터이다. 또한 예측을 위한 모델로는 시계열 데이터 예측에 우수한 성능을 보이는 Long Short-Term Memory (LSTM), Bidirectional LSTM 그리고 Gated Recurrent Unit (GRU) 기법을 사용하였다. 기존 연구가 LSTM만을 활용하였던데 반해 이번 연구에서는 LSTM 외에 다양한 기법을 적용함으로써 각 기법의 예측 정확도와 수행시간을 비교하였다. 연구결과, 1시간 예측을 기준으로 모든 관측지점에서 Bidirectional LSTM과 GRU 기법이 실제값과 예측값의 오차가 가장 적은 것으로 확인되었으며, 학습시간에 있어서는 GRU가 가장 빠른 것으로 확인되었다. 이를 통해, 예측 오차를 줄이면서 정확도를 향상하기 위한 수온예측에는 Bidirectional LSTM을 활용하고 대잠작전처럼 정확도 외에 실시간 예측이 필요한 분야에 있어서는 GRU 기법을 활용하는 방안이 더욱 적절할 것으로 판단된다.