• 제목/요약/키워드: Neural network control

검색결과 2,579건 처리시간 0.028초

오프 폴리시 강화학습에서 몬테 칼로와 시간차 학습의 균형을 사용한 적은 샘플 복잡도 (Random Balance between Monte Carlo and Temporal Difference in off-policy Reinforcement Learning for Less Sample-Complexity)

  • 김차영;박서희;이우식
    • 인터넷정보학회논문지
    • /
    • 제21권5호
    • /
    • pp.1-7
    • /
    • 2020
  • 강화학습에서 근사함수로써 사용되는 딥 인공 신경망은 이론적으로도 실제와 같은 근접한 결과를 나타낸다. 다양한 실질적인 성공 사례에서 시간차 학습(TD) 은 몬테-칼로 학습(MC) 보다 더 나은 결과를 보여주고 있다. 하지만, 일부 선행 연구 중에서 리워드가 매우 드문드문 발생하는 환경이거나, 딜레이가 생기는 경우, MC 가 TD 보다 더 나음을 보여주고 있다. 또한, 에이전트가 환경으로부터 받는 정보가 부분적일 때에, MC가 TD보다 우수함을 나타낸다. 이러한 환경들은 대부분 5-스텝 큐-러닝이나 20-스텝 큐-러닝으로 볼 수 있는데, 이러한 환경들은 성능-퇴보를 낮추는데 도움 되는 긴 롤-아웃 없이도 실험이 계속 진행될 수 있는 환경들이다. 즉, 긴롤-아웃에 상관없는 노이지가 있는 네트웍이 대표적인데, 이때에는 TD 보다는 시간적 에러에 견고한 MC 이거나 MC와 거의 동일한 학습이 더 나은 결과를 보여주고 있다. 이러한 해당 선행 연구들은 TD가 MC보다 낫다고 하는 기존의 통념에 위배되는 것이다. 다시 말하면, 해당 연구들은 TD만의 사용이 아니라, MC와 TD의 병합된 사용이 더 나음을 이론적이기 보다 경험적 예시로써 보여주고 있다. 따라서, 본 연구에서는 선행 연구들에서 보여준 결과를 바탕으로 하고, 해당 연구들에서 사용했던 특별한 리워드에 의한 복잡한 함수 없이, MC와 TD의 밸런스를 랜덤하게 맞추는 좀 더 간단한 방법으로 MC와 TD를 병합하고자 한다. 본 연구의 MC와 TD의 랜덤 병합에 의한 DQN과 TD-학습만을 사용한 이미 잘 알려진 DQN과 비교하여, 본 연구에서 제안한 MC와 TD의 랜덤 병합이 우수한 학습 방법임을 OpenAI Gym의 시뮬레이션을 통하여 증명하였다.

바이오칩을 이용한 간암진단 예측 시스템 (Liver cancer Prediction System using Biochip)

  • 이형근;김충원;이준;김성천
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국해양정보통신학회 2008년도 춘계종합학술대회 A
    • /
    • pp.967-970
    • /
    • 2008
  • 우리나라 암 발생빈도 중 간암은 위암에 이어 두 번째로 흔한 암으로, 초기에는 특이 증상이나 증후 없이 서서히 진행되는 경우가 많아 증상이 생긴 후 간암으로 진단될 경우, 대부분 마땅한 치료방법이 별로 없어 어떠한 치료를 해도 환자의 예후는 불량하나, 조기에 발견될 경우는 치료성적이 우수하여 조기 발견이 대단히 중요시된다. 본 시스템은 간암의 조기발견을 위한 시스템으로, 간암으로 확진된 환자와 간암이외의 대조군의 혈액을 바이오침에 반응시켜 바이오칩 프로파일을 기계학습을 통해 분류하는 시스템이다. 본 논문에서는 총 50샘플로 구성된 간암환자 와 100샘플로 구성된 간암 이외의 대조군의 혈액시료를 1149의 서로 다른 올리고로 구성된 바이오칩에 반응시켜 획득한 데이터를 인공신경 망을 통해 분석한 결과 $92{\sim}96%$의 분류 성능을 보였다.

  • PDF

복합 모델링 기법을 이용한 홍수시 저수지 최적 운영 (사례 연구 : 충주 다목적 저수지) (Optimal Reservour Operation for Flood Control Using a Hybrid Approach (Case Study: Chungju Multipurpose Reservoir in Korea))

  • 이한구;이상호
    • 한국수자원학회논문집
    • /
    • 제31권6호
    • /
    • pp.727-739
    • /
    • 1998
  • 일반적으로 저수지 최적운영의 목적은 한정된 수자원을 여러 목적으로 최적 분배하여 얻는 이익의 최대화와, 홍수 발생으로 인한 과잉 수량을 안전하게 배제시킴으로써 홍수 취약지역의 피해를 최소화시키는 것으로 구분할 수 있다. 저수지 운영에 대한 연구사를 고찰해 볼 때, 지난 수십 년간 첫 번째 영역에 연구가 집중되었음을 알 수 있다. 본 연구의 목적은, 충주 저수지의 홍수조절을 위한 저수지 최적운영의 방법론 개발에 중점을 두고, 하류 홍수피해 최소화와 댐 안전도 및 상류 홍수피해 최소화의 상충되는 목적들이 타협되는 최적 운영정책 수립을 위한 최적화 모형의 개발에 있다. 본 목적 달성을 위해 (1)HYMOS를 이용한 수문자료 검증, (2)강우-유출 호명과 SOBEK 1차원 부정류 홍수추적 모형의 간접결합을 통한 하류 홍수피해 평가 모형의 구성, (3)인공신경망 기법을 이용한 하유 홍수피해 평가 모형의 복제, (4)저수지 최적화모형 개발의 순차적 절차로 연구가 수행되었다.

  • PDF

LIBS를 이용한 흑색 플라스틱의 자동선별 시스템 개발 (Development of Automatic Sorting System for Black Plastics Using Laser Induced Breakdown Spectroscopy (LIBS))

  • 박은규;정밤빛;최우진;오성권
    • 자원리싸이클링
    • /
    • 제26권6호
    • /
    • pp.73-83
    • /
    • 2017
  • 소형가전 제품은 종류가 다양할 뿐만 아니라 구성부품의 재질도 복잡하여 폐기시 재활용이 매우 어려운 실정이다. 특히, 폐소형가전의 경우 흑색 플라스틱의 함유량이 높을 뿐만 아니라 재질이 다양하여 재활용 공정에서 발생하는 플라스틱의 재질을 인식하여 효율적으로 선별 회수하는 것이 매우 어렵다. 본 연구에서는 기존 선별기술이 가지고 있는 흑색 플라스틱의 재질별 선별에 대한 기술적 한계 및 단점을 보완하기 위하여 레이저유도붕괴분광법(Laser-Induced Breakdown Spectroscopy, LIBS)을 기반으로 하는 흑색 플라스틱의 재질별 자동선별 시스템을 개발하였다. 본 시스템은 정량 공급장치, 위치 자동인식 장치, 레이저유도기반분광분석(LIBS) 장치, 선별분리장치 및 Control unit 등으로 구성되어 있다. 레이저유도붕괴분광법(LIBS)을 이용하여 흑색 플라스틱의 재질별 특성 스펙트럼 데이터를 획득하고, 인공지능형 알고리즘을 적용한 분류기를 설계하여 적용함으로써 흑색 플라스틱의 재질을 효율적으로 인식하고 분류할 수 있다. 본 연구에서 개발한 방사형기저함수신경회로망(RBFNNs) 분류기의 분류율은 약 97% 이상으로 나타났으며, 자동선별 시스템의 흑색 플라스틱의 재질별 인식률은 약 94.0% 이상, 선별효율은 80.0% 이상으로 조사되었다. 본 연구에서는 실험실 규모의 자동선별장치를 개발하였으며, 본 장치에 대한 실험결과를 바탕으로 흑색 플라스틱 재질인식 및 선별효율 등을 분석하므로써 향후 폐소형가전의 재활용 현장에 적용할 예정이다.

3 방향 절환밸브의 공동현상 저감을 위한 형상최적화 (Shape Optimization of Three-Way Reversing Valve for Cavitation Reduction)

  • 이명곤;임채석;한승호
    • 대한기계학회논문집A
    • /
    • 제39권11호
    • /
    • pp.1123-1129
    • /
    • 2015
  • 자동차부품 세척장비는 엔진과 변속기 블록 등의 가공과정에서 잔류하는 기름때를 제거하며, 잦은 수류방향 전환과 고압수의 분사를 위해 한 쌍의 2 방향 밸브를 사용한다. 그러나 정교한 밸브제어장치 없이 2 방향 밸브를 사용하는 경우 급격한 수류방향 전환에 따른 맥동현상이 발생하여 사용에 어려움이 따른다. 대안으로 하나의 3 방향 절환밸브를 사용하는 방법은 정교한 제어장치 없이도 정확한 수류방향 절환이 원활히 이루어져 이러한 문제점을 해결할 수 있다. 그러나 복잡한 유로 및 바텀플러그 형상으로 인해 유속변화가 심하게 발생하여 공동현상이 나타날 수 있다. 본 연구에서는 3 방향 절환밸브 내의 유동특성을 해석적으로 평가하였으며, 바텀플러그 하부에서 나타나는 공동현상을 공동화지표와 POC(Percent of cavitation)를 도입하여 정량화하였다. 공동현상의 저감을 위해 바텀플러그 형상을 매개변수화하고, 해석의 수렴성 개선과 해석시간을 단축시킬 수 있는 단순 유한요소모델을 이용하여 유동해석을 통한 형상최적설계를 실시하였다. 완전요인배치법을 통한 실험계획법과 인공신경망 기반 반응표면모델을 적용하여 공동현상이 발생하지 않는 POC 가 30% 미만인 바텀플러그의 형상을 제시하였다. 얻어진 최적해는 POC 27%에 대하여 바텀플러그의 허리길이와 꼬리길이가 각각 6.42mm 및 6.96mm 이다.

Characteristic Intracelluar Response to Lidocaine And MK-801 of Hippocampal Neurons: An In Vivo Intracellular Neuron Recording Study

  • Choi, Byung-Ju;Cho, Jin-Hwa
    • The Korean Journal of Physiology and Pharmacology
    • /
    • 제2권3호
    • /
    • pp.297-305
    • /
    • 1998
  • This study used in vivo intracellular recording in rat hippocampus to evaluate the effect of lidocaine and MK-801 on the membrane properties and the synaptic responses of individual neurons to electrical stimulation of the commissural pathway. Cells in control group typically fired in a tonic discharge mode with an average firing frequency of $2.4{\pm}0.9$ Hz. Neuron in MK-801 treated group (0.2 mg/kg, i.p.) had an average input resistance of $3.28{\pm}5.7\;M{\Omega}$ and a membrane time constant of $7.4{\pm}1.8$ ms. These neurons exhibited $2.4{\pm}0.2$ ms spike durations, which were similar to the average spike duration recorded in the neurons of the control group. Slightly less than half of these neurons were firing spontaneously with an average discharge rate of $2.4{\pm}1.1$ Hz. The average peak amplitude of the AHP following the spikes in these groups was $7.4{\pm}0.6$ mV with respect to the resting membrane potential. Cells in MK-801 and lidocaine treated group (5 mg/kg, i.c.v.) had an average input resistance of $3.45{\pm}6.0\;M{\Omega}$ and an average time constant of $8.0{\pm}1.4$ ms. The cells were firing spontaneously at an average discharge rate of $0.6{\pm}0.4$ Hz. Upon depolarization of the membrane by 0.8 nA for 400 ms, all of the tested cells exhibited accommodation of spike discharge. The most common synaptic response contained an EPSP followed by early-IPSP and late-IPSP. Analysis of the voltage dependence revealed that the early-IPSP and late-IPSP were putative $Cl^--and\;K^+-dependent$, respectively. Systemic injection of the NMDA receptor blocker, MK-801, did not block synaptic responses to the stimulation of the commissural pathway. No significant modifications of EPSP, early-IPSP, or late-IPSP components were detected in the MK-801 and/or lidocaine treated group. These results suggest that MK-801 and lidocaine manifest their CNS effects through firing pattern of hippocampal pyramidal cells and neural network pattern by changing the synaptic efficacy and cellular membrane properties.

  • PDF

딥러닝 기반 LSTM 모형을 이용한 감조하천 수위 예측 (Prediction of water level in a tidal river using a deep-learning based LSTM model)

  • 정성호;조효섭;김정엽;이기하
    • 한국수자원학회논문집
    • /
    • 제51권12호
    • /
    • pp.1207-1216
    • /
    • 2018
  • 본 연구는 물리적 수리 수문모형의 적용이 제한적인 감조하천에서의 수위예측을 목적으로 하고 있으며, 이를 위해 한강 잠수교를 대상으로 딥러닝 오픈소스 소프트웨어 라이브러리인 TensorFlow를 활용하여 LSTM 모형을 구성하고 2011년부터 2017년까지의 10분 단위의 잠수교 수위, 팔당댐 방류량과 한강하구 강화대교지점의 예측조위 자료를 이용하여 모형학습(2011~2016) 및 수위예측(2017)을 수행하였다. 모형 매개변수는 민감도 분석을 통해 은닉층의 개수는 6개, 학습속도는 0.01, 학습횟수는 3000번로 결정하였으며, 모형 학습 시 학습정보의 시간적 양을 결정하는 중요한 매개변수인 시퀀스길이는 1시간, 3시간, 6시간으로 변화시키며 모의하였다. 최종적으로 선행시간에 따른 모의 예측능력을 평가하기 위해 LSTM 모형의 예측 선행시간을 6개(1 ~ 24시간)로 구분하여 실측수위와 예측수위와의 비교 분석을 수행한 결과, LSTM 모형의 최적의 성능을 내는 결과는 시퀀스길이를 1시간으로 하였을 때로 분석되었으며, 특히 선행시간 1시간에 대한 예측정확도는 RMSE는 0.065 m, NSE는 0.99로 실측수위에 매우 근접한 예측 결과를 나타내었다. 또한 시퀀스길이에 상관없이 선행시간이 길어질수록 모형의 예측 정확도는 2017년 전기간에 걸쳐 평균적으로 RMSE 0.08 m에서 0.28 m로 오차가 증가하였으며, NSE는 0.99에서 0.74로 감소하였다.

Ginseng gintonin alleviates neurological symptoms in the G93A-SOD1 transgenic mouse model of amyotrophic lateral sclerosis through lysophosphatidic acid 1 receptor

  • Nam, Sung Min;Choi, Jong Hee;Choi, Sun-Hye;Cho, Hee-Jung;Cho, Yeon-Jin;Rhim, Hyewhon;Kim, Hyoung-Chun;Cho, Ik-Hyun;Kim, Do-Geun;Nah, Seung-Yeol
    • Journal of Ginseng Research
    • /
    • 제45권3호
    • /
    • pp.390-400
    • /
    • 2021
  • Background: We recently showed that gintonin, an active ginseng ingredient, exhibits antibrain neurodegenerative disease effects including multiple target mechanisms such as antioxidative stress and antiinflammation via the lysophosphatidic acid (LPA) receptors. Amyotrophic lateral sclerosis (ALS) is a spinal disease characterized by neurodegenerative changes in motor neurons with subsequent skeletal muscle paralysis and death. However, pathophysiological mechanisms of ALS are still elusive, and therapeutic drugs have not yet been developed. We investigate the putative alleviating effects of gintonin in ALS. Methods: The G93A-SOD1 transgenic mouse ALS model was used. Gintonin (50 or 100 mg/kg/day, p.o.) administration started from week seven. We performed histological analyses, immunoblot assays, and behavioral tests. Results: Gintonin extended mouse survival and relieved motor dysfunctions. Histological analyses of spinal cords revealed that gintonin increased the survival of motor neurons, expression of brain-derived neurotrophic factors, choline acetyltransferase, NeuN, and Nissl bodies compared with the vehicle control. Gintonin attenuated elevated spinal NAD(P) quinone oxidoreductase 1 expression and decreased oxidative stress-related ferritin, ionized calcium-binding adapter molecule 1-immunoreactive microglia, S100β-immunoreactive astrocyte, and Olig2-immunoreactive oligodendrocytes compared with the control vehicle. Interestingly, we found that the spinal LPA1 receptor level was decreased, whereas gintonin treatment restored decreased LPA1 receptor expression levels in the G93A-SOD1 transgenic mouse, thereby attenuating neurological symptoms and histological deficits. Conclusion: Gintonin-mediated symptomatic improvements of ALS might be associated with the attenuations of neuronal loss and oxidative stress via the spinal LPA1 receptor regulations. The present results suggest that the spinal LPA1 receptor is engaged in ALS, and gintonin may be useful for relieving ALS symptoms.

캐나다 Athabasca 오일샌드의 투수도 모델링을 위한 다양한 탄성파 속성들을 이용한 상 구분 향상 (Improvement in facies discrimination using multiple seismic attributes for permeability modelling of the Athabasca Oil Sands, Canada)

  • Kashihara, Koji;Tsuji, Takashi
    • 지구물리와물리탐사
    • /
    • 제13권1호
    • /
    • pp.80-87
    • /
    • 2010
  • 본 연구는 Athabasca 오일샌드광구의 역청 생산방법인, SAGD 수행에 영향을 주는 불균질한 유효투수도의 분포도를 만드는 저류층 모델링 작업 공정을 개발하기 위한 것이다. 암석학적 상 분포는 연구 지역 역청 저류층 내의 불균질성의 주요 원인이다. 대상 매질은 사암과 이암으로 구성된 하천에서 바다로 이어지는 채널로서 이암이 유체의 흐름을 방해해 유효 투수도를 감소시키고 있다. 본 연구에서는 암석학적 상등을 이암의 모양에 따라 마른 특성의 유효투수도를 갖는 세 종류로 분류하였다. 본 연구의 저류층 모델링 작업과정은 상 모델과 투수도 모델링, 두 가지 주요 모듈로 구성되어 있다. 상 모델링은 확률적인 접근을 이용하여 유효투수도 결정에 중요한, 세가지 상등 중에 어떤 종류에 속하는지를 알려준다. 투수도 모델링은 먼저 이암의 체적율을 구하고 그것을 유효투수도로 변환시킨다. 암석상들의 소형 모델에 대한 일련의 시뮬레이션 적용을 통해 이암 체적율을 유효투수도로 변환시키는 변환함수를 얻는다. 탄성파 자료는 지구통계학적 방법으로 상 모델링에 입력되는 상등의 우선 확률을 제공함으로써 상 모델링에 기여한다. 특히, 본 연구에서는 상들의 우선 확률을 개선하기 위해 상등의 예측 시 다양한 탄성파 속성들을 복합적으로 사용하는 신경망 방법을 이용하였다. 상 구분에 있어서의 얼마만큼 개선되었는지를 보여주기 위해 상 모델링 시 개선된 우선 확률을 사용한 결과를 단일 탄성파 속성을 이용하는 기존 방법의 결과와 비교하였다. 다중 탄성파 속성들의 복합적인 사용에서 밀도와 P파 속도를 조합해서 이용하는 것이 상구분을 향상시키는데 필수적이다. 또한 본 연구에서는 검층으로부터 얻은 공극률과 P파 속도, 사진찍은 것 같이 예측된 이암의 부피를 이용하여 sand matrix의 공극률이 정확하게 평가원 연구지역에서, 다른 상등 사이에서 P파 속도가 달라지게 하는 sand matrix의 공극률에 대해서도 논의하였다.

SSAE 알고리즘을 통한 2003-2016년 남한 전역 쌀 생산량 추정 (Rice Yield Estimation of South Korea from Year 2003-2016 Using Stacked Sparse AutoEncoder)

  • 마종원;이경도;최기영;허준
    • 대한원격탐사학회지
    • /
    • 제33권5_2호
    • /
    • pp.631-640
    • /
    • 2017
  • 쌀 생산량 예측 및 조사는 농가 소득 보전 및 농업 분야 기관에 영향을 주고 수급 조절과 가격 예측 등 정부의 정책 수립과 관련하여 중요한 의미를 갖는다. 이에 따라 작황 추정 모델의 구축이 필요하며 과거로부터 기상 자료 및 위성 자료를 통해 경험적 통계 모델 또는 인공신경망 알고리즘을 기반으로 한 연구가 다수 진행되었다. 현재 인공신경망 모델을 기반으로 개발된 딥 러닝 알고리즘이 패턴 인식, 컴퓨터 비전, 음성 인식 등의 분야에서 폭넓게 사용되며 뛰어난 성능을 보이고 있다. 최근 다양한 딥 러닝 알고리즘 중 SSAE 알고리즘이 시계열 자료를 통한 예측 분야에서 적용 가능성이 확인되었으며 본 연구에서는 SSAE를 통해 남한 전역에 대한 쌀 생산량 추정 연구를 진행하였다. 입력 변수로 기상자료와 위성자료를 사용하였으며 남한 벼의 생육 기간을 고려하여 입력 자료를 기간별로 나누고 최적의 입력 자료롤 찾고자 하였다. 실험 결과, 5월부터 9월까지의 위성 자료와 16일 평균값을 사용한 기상 자료와의 조합을 사용하였을 경우 평균 연도별 %RMSE, 시군구 %RMSE 각각 7.43%, 7.16%로 가장 좋은 성능을 보였으며 이를 통해 쌀 생산량 추정 분야에 대한 SSAE 알고리즘의 적용 가능성을 확인할 수 있었다.