• 제목/요약/키워드: 확률적 교차 연산

검색결과 10건 처리시간 0.027초

개체간 해밍 거리 기반의 변이연산을 적용한 유전알고리즘을 이용한 다차원 배낭 문제 탐색 (Genetic Algorithm Applying Modified Mutation Operator Based on Hamming Distance for Solving Multi-dimensional Knapsack Problem)

  • 정재훈;이종현;안창욱
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2012년도 추계학술발표대회
    • /
    • pp.1728-1731
    • /
    • 2012
  • 본 논문에서는 부모 개체의 해밍 거리에 기반하여 선택적 변이연산을 적용한 유전알고리즘을 제안한다. 유전자 형이 매우 유사한 개체들 간의 유전연산은 알고리즘의 탐색성능을 저하시키고 조기 수렴의 가능성을 증가시킨다. 본 논문에서는 이러한 현상을 극복하기 위하여, 교차연산 시 선택된 두 부모 개체간의 해밍 거리에 따라 그 값이 낮으면 교차연산 후 생성된 두 자식 개체 중 한쪽에게 높은 변이확률을 적용하고 다른 한쪽 자식은 부모와 비슷한 유전자 형으로 탐색을 계속하게 하여 조기 수렴을 방지하면서 해집단의 다양성 유지 기능을 향상 시켰다. 제안한 유전 알고리즘을 다차원 배낭 문제에 적용한 결과, 같은 조건에서 단순 유전 알고리즘(SGA) 보다 향상된 탐색 성능을 보여주었다.

정규화 및 교차검증 횟수 감소를 위한 무작위 풀링 연산 선택에 관한 연구 (A Study on Random Selection of Pooling Operations for Regularization and Reduction of Cross Validation)

  • 류서현
    • 한국산학기술학회논문지
    • /
    • 제19권4호
    • /
    • pp.161-166
    • /
    • 2018
  • 본 논문에서는 컨볼루션 신경망 구조(Convolution Neural Network)에서 정규화 및 교차검증 횟수 감소를 위한 무작위로 풀링 연산을 선택하는 방법에 대해 설명한다. 컨볼루션 신경망 구조에서 풀링 연산은 피쳐맵(Feature Map) 크기 감소 및 이동 불변(Shift Invariant)을 위해 사용된다. 기존의 풀링 방법은 각 풀링 계층에서 하나의 풀링 연산이 적용된다. 이러한 방법은 학습 간 신경망 구조의 변화가 없기 때문에, 학습 자료에 과도하게 맞추는 과 적합(Overfitting) 문제를 가지고 있다. 또한 최적의 풀링 연산 조합을 찾기 위해서는, 각 풀링 연산 조합에 대해 교차검증을 하여 최고의 성능을 내는 조합을 찾아야 한다. 이러한 문제를 해결하기 위해, 풀링 계층에 확률적인 개념을 도입한 무작위 풀링 연산 선택 방법을 제안한다. 제안한 방법은 풀링 계층에 하나의 풀링 연산을 적용하지 않는다. 학습기간 동안 각 풀링 영역에서 여러 풀링 연산 중 하나를 무작위로 선택한다. 그리고 시험 시에는 각 풀링 영역에서 사용된 풀링 연산의 평균을 적용한다. 이러한 방법은 풀링 영역에서 서로 다른 풀링 조합을 사용한 구조의 평균을 한 것으로 볼 수 있다. 따라서, 컨볼루션 신경망 구조가 학습데이터에 과도하게 맞추어지는 과적합 문제를 피할 수 있으며, 또한 각 풀링 계층에서 특정 풀링 연산을 선택할 필요가 없기 때문에 교차 검증 횟수를 감소시킬 수 있다. 실험을 통해, 제안한 방법은 정규화 성능을 향상시킬 뿐만 아니라 및 교차 검증 횟수를 줄일 수 있다는 것을 검증하였다.

생화학 시스템의 동적 모델링을 위한 S-tree 기반의 진화연산 (S-tree-Based Evolutionary Computation for Dynamic Modeling of Biochemical Systems)

  • 조동연;장병탁
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2003년도 가을 학술발표논문집 Vol.30 No.2 (2)
    • /
    • pp.823-825
    • /
    • 2003
  • 시간이 흐름에 따라 생화학 시스템이 변화하는 것을 기록한 데이터로부터 이 시스템의 상태 전이 및 시스템을 구성하는 각 생화학 물질간의 관계를 모델링하기 위한 방법으로 S-tree 구조를 제안한다. 이것은 주로 생화학 시스템의 동적 특성을 모델링 하기 위하여 연구되어 온 S-system을 나무 구조로 표현한 것이다. 본 논문에서는 진화 연산을 통해 주어진 시계열 데이터를 잘 설명하는 S-tree의 구조 및 그 변수들을 동시에 효과적으로 탐색하는 방법을 개발하였다. 이 방법에서는 구조 탐색을 위해 유전 프로그래밍(genetic programming)에서 사용되어 온 나무 구조의 교차 및 돌연변이 연산과 더불어 다양한 형태의 구조 탐색 연산자들을 도입하였고, 또한 동시에 알맞은 변수 값들을 찾기 위하여 확률적 돌연변이 연산을 통한 언덕 오르기(hill-climbing)를 수행한다. 제안된 방법을 효모의 혐기성 발효 데이터에 적용한 결과 주어진 시스템을 성공적으로 모델링할 수 있었다.

  • PDF

확률적 교차 연산을 이용한 보편적 관계 추출 (General Relation Extraction Using Probabilistic Crossover)

  • 이제승;김재훈
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제12권8호
    • /
    • pp.371-380
    • /
    • 2023
  • 관계 추출은 텍스트로부터 개체(named entity) 사이의 관계를 추출하는 과정이다. 전통적으로 관계 추출 방법은 주어와 목적어가 미리 정해진 상태에서 관계만 추출한다. 그러나 종단형 관계 추출에서는 개체 쌍마다 주어와 목적어의 위치를 고려하여 가능한 모든 관계를 추출해야 하므로 이 방법은 시간과 자원을 비효율적으로 사용한다. 본 논문에서는 이러한 문제를 완화하기 위해 문장에서 주어와 목적어의 위치에 따른 방향을 설정하고, 정해진 방향에 따라 관계를 추출하는 방법을 제안한다. 제안하는 방법은 기존의 관계 추출 데이터를 활용하여 문장에서 주어가 목적어를 가리키는 방향을 나타내는 방향 표지를 새롭게 생성하고, 개체 위치 토큰과 개체 유형 정보를 문장에 추가하는 작업을 통해 사전학습 언어모델 (KLUE-RoBERTa-base, RoBERTa-base)을 이용하여 방향을 예측한다. 그리고 확률적 교차 연산을 통해 주어와 목적어 개체의 표상을 생성한다. 이후 이러한 개체의 표상을 활용하여 관계를 추출한다. 실험 결과를 통해, 제안 모델이 하나로 통합된 라벨을 예측하는 것보다 3 ~ 4%p 정도 더 우수한 성능을 보여주었다. 또한, 제안 모델을 이용해 한국어 데이터와 영어 데이터를 학습할 때, 데이터 수와 언어적 차이로 인해 한국어보다 영어에서 1.7%p 정도 더 높은 성능을 보여주었고, 최상의 성능을 내는 매개변수의 값이 다르게 나타나는 부분도 관찰할 수 있었다. 제안 모델은 방향에 따른 경우의 수를 제외함으로써 종단형 관계 추출에서 자원의 낭비를 줄일 수 있다.

확률기반 계층적 네트워크를 활용한 교차로 교통사고 인식 및 분석 시스템 (A Traffic Accident Detection and Analysis System at Intersections using Probability-based Hierarchical Network)

  • 황주원;이영설;조성배
    • 한국정보과학회논문지:컴퓨팅의 실제 및 레터
    • /
    • 제16권10호
    • /
    • pp.995-999
    • /
    • 2010
  • 매년 차량의 수가 꾸준히 증가함에 따라 이에 비례하여 도로의 혼잡도와 사고 발생률 또한 증가되고 있다. 이와 같은 교통문제를 완화하기 위해서 도로 설계 및 신호 체계 등이 발전되고 있음에도 불구하고 교통사고로 인한 인명 및 재산 피해는 감소되지 않고 있다. 본 논문에서는 발생원 사고를 실시간으로 인식하여 이에 빠르게 대응함으로써 후속사고를 예방하고 사고 원인을 파악하기 위한 실시간 사고 인식 및 분석 시스템을 제안한다. 제안하는 시스템은 특정 교차로에서 뿐만 아니라 교통흐름과 디자인이 다른 교차로에서 발생한 사고를 정확히 인식하는 것이 목적이다. 본 연구에서는 실제 교차로에서 수집되는 데이터가 정확하다고 보장할 수 없고, 사고 발생에 쓰이는 데이터는 서로 유기적으로 복잡한 관계가 있기 때문에 정확한 사고 인식을 위해 확률기반 연산을 하는 동적 베이지안 네트워크를 이용하였다.

변형된 개체기반 증가 학습을 이용한 소형 스테레오 정합 알고리즘 (A Compact Stereo Matching Algorithm Using Modified Population-Based Incremental Learning)

  • 한규필;정의윤;민각;김기석;하영호
    • 전자공학회논문지S
    • /
    • 제36S권10호
    • /
    • pp.103-112
    • /
    • 1999
  • 유전 알고리즘은 적절한 해를 찾기 위해서 자연선택과 개체군 유전학을 이용한 효율적 탐색기법이다. 그러나, 기존의 유전 알고리즘들은 수렴을 보장하기 위해서 유전자 풀의 크기를 증가시켜야 했고 그 결과 저장공간과 계산 시간이 많이 소요되었다. 또한, 염색체 교차와 유전자 돌연변이를 사용하여 새로운 염색체를 발생시켰기 때문에 알고리즘이 복잡하다는 단점이 있다. 본 논문에서는 이런 문제를 줄이기 위해서 확률벡터에 기반한 개체기반 증가 학습이라는 소형 유전 알고리즘을 정합 환경에 맞게 변형시킨 새로운 스테레오 정합 방법을 제안하였다. 제안된 알고리즘은 확률벡터의 사용으로 인해 유전 풀, 염색체 교차, 그리고 유전자 돌연변이 연산을 제거하였다. 그 결과 제안된 정합 알고리즘은 기존 방식보다 구조가 간단하고 계산량의 향상이 있었으며, 영상의 특성에 상관없이 안정된 결과를 얻을 수 있다는 장점이 있었다.

  • PDF

고차상관관계를 표현하는 랜덤 하이퍼그래프 모델 진화를 위한 베이지안 샘플링 알고리즘 (A Bayesian Sampling Algorithm for Evolving Random Hypergraph Models Representing Higher-Order Correlations)

  • 이시은;이인희;장병탁
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제36권3호
    • /
    • pp.208-216
    • /
    • 2009
  • 유전자알고리즘의 교차나 돌연변이 연산을 직접적으로 사용하지 않고 개체군의 확률분포를 추정하여 보다 효율적인 탐색을 수행하려는 분포추정알고리즘이 여러 방법으로 제안되었다. 그러나 실제로 변수들간의 고차상관관계를 파악하는 일은 쉽지 않은 일이라 대부분의 경우 낮은 차수의 상관관계를 제한된 가정하에 추정하게 된다. 본 논문에서는 데이타의 고차상관관계를 표현할 수 있고 최적 해를 좀 더 효율적으로 찾을 수 있는 새로운 분포추정알고리즘을 제안한다. 제안된 알고리즘에서는 상관관계가 있을 것으로 추정되는 변수들의 집합으로 정의된 하이퍼에지로 구성된 랜덤 하이퍼그래프 모델을 구축하여 변수들 간의 고차상관관계를 표현하고, 베이지안 샘플링 알고리즘(Bayesian Sampling Algorithm)을 통해 다음 세대의 개체를 생성한다. 기만하는 빌딩블럭(deceptive building blocks)을 가진 분해가능(decomposable) 함수에 대하여 실험한 결과 성공적으로 최적해를 구할 수 있었으며 단순 유전자알고리즘과 BOA (Bayesian Optimization Algorithm)와 비교하여 좋은 성능을 얻을 수 있었다.

유전자 알고리즘을 이용한 최적침투경로 분석 (Analysis of Optimal Infiltraction Route using Genetic Algorithm)

  • 방수남;손홍규;김상필;김창재;허준
    • 대한원격탐사학회지
    • /
    • 제27권1호
    • /
    • pp.59-68
    • /
    • 2011
  • 최적침투경로 분석은 GIS 기술을 군사적 목적을 위해 유용하게 사용할 수 있는 대표적인 분야 중 하나이다. 그러나 군사목적의 최적경로분석은 일반적인 최적경로분석이 네트워크 데이터에서 이루어지는 것과는 달리 래스터 데이터에서 이루어져야한 필요가 있으며, 래스터 데이터에서의 연산량은 네트워크 데이터를 사용할 때에 비해 급격히 증가하기에, 연산량은 많으나 일반적으로 네트워크 데이터에서 최적경로 탐색을 위해 사용되는 Dijkstra 알고리즘과 같은 방법을 적용시키기 어렵게 만든다. 따라서, 본 연구에는 최적화문제에서 우수한 성과를 거둔 유전자 알고리즘(Genetic algorithm)을 최적경로분석에 적용시켜 문제를 해결하고자 하였다. 이를 위해 최적침투경로를 적의 탐지에 발각될 확률을 최소화 시킬 수 있는 경로로 결정하고, 래스터 데이터에서의 침투경로분석에 적합한 2차원 2진 배열 (2D binary array)형태의 유전자형 및 이들의 교차(crossover) 및 변이(mutation) 방법을 제안하였다. 제안된 방법에 대한 실험은 개체집단의 크기를 500, 1000, 2000, 3000으로 증가시켜가며 각각의 경우에 대해 30번씩 실험을 수행하였다. 실험결과 세대가 거듭될수록 평균 누적탐지확률이 안정적으로 감소하며 성공적으로 최적침투경로를 찾아 수렴하였으며, 개체집단의 크기가 커질수록 그 성능이 향상되는 것을 확인할 수 있었다.

상수도 관망 최적설계에 대한 유전 알고리즘과 하모니써치 알고리즘의 적용 및 비교 (Application and Comparison of Genetic Algorithm and Harmony Search Algorithm for Optimal Cost Design of Water Distribution System)

  • 홍아리;이호민;최영환;최지호;김중훈
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2016년도 학술발표회
    • /
    • pp.521-521
    • /
    • 2016
  • 상수도 관망은 수원에서 수요절점까지 물을 안정적으로 공급하는 것을 목표로 한다. 상수도 관망의 최적설계는 수리학적 제한조건 (절점의 수압, 관로의 유속)을 만족하는 범위에서 비용을 최소화하는 설계안을 얻는 것으로 Savic and Walters (1997)는 유전 알고리즘 (Genetic Algorithms, Holland 1975)을 적용한 상수도 관망 설계 프로그램인 GANET를 제안하였고, Maier et al. (1996)은 개미군집알고리즘 (Ant Colony Optimization Algorithm, Dorigo et al. 1996)을 상수도 관망 최적설계에 적용한 후 그 결과가 유전 알고리즘에 비해 우수함을 증명하는 등 상수도 관망 최적설계에 관한 연구가 활발히 진행되어 오고 있다. 유전알고리즘은 선택, 교차, 돌연변이의 반복계산 과정을 통하여 최적해를 찾는 최적화 기법이다. 이 과정에서 결정변수는 유전자 (Gene)의 집합으로 표현되며, 염색체 (Chromosome) 내에서 근접한 유전 인자들은 일종의 Building Block을 형성하게 된다. Building Block은 좋은 해를 갖는 유전 인자를 높은 확률로 보관하여 지역해에 빠질 가능성을 줄이는 반면, 유전형 (Genotype)이 표현형 (Phenotype)을 충분히 모방하여 표현하지 못한 경우 오히려 최적해의 탐색을 방해할 수 있다는 한계점을 갖는다. 유전 알고리즘을 상수도 관망 최적설계에 적용하였을 때에도 이 한계점은 여실히 드러난다. 관로의 관경을 결정변수로 설정한 후 유전형으로 표현하였을 때, 관망도 상에서 근접하지 않은 두 관로가 염색체 내에서 연속으로 나열된다면 두 관로 간의 연관성이 실제보다 크게 고려되기 때문이다. 한편, 하모니써치 (Harmony Search, Geem et al. 2001) 알고리즘은 즉흥 연주 (Improvisation)를 통해 최상의 화음을 만들어내는 현상으로부터 착안하여 만들어진 최적화기법으로 연산 기법은 무작위선택, 기억회상, 피치조정 등으로 구성되어 있으며, 결정변수에 해당하는 연주자가 독립적으로 행동하며 해를 탐색한다는 점에서 유전알고리즘과 큰 차이를 갖는다. 본 연구에서는 유전알고리즘의 Building Block에 의해 발생하는 오류를 개선하고자, 상수도 관망 최적설계 연구에 많이 사용되는 Hanoi 관망 (Fujiwara and Khang 1990) 관로의 정렬 순서를 여러 가지 기준으로 설정하여 관망데이터를 구축한 후 하모니써치와 유전 알고리즘을 적용하여 최적화를 수행하였고 그 결과를 비교하였다. 그 결과 유전 알고리즘과 달리 하모니써치 알고리즘의 경우, 관로의 나열 순서와 상관없이 우수한 최적해 탐색 결과를 보이는 것을 확인할 수 있었다.

  • PDF

2단계 하이브리드 방법을 이용한 2D 스테레오 영상의 3D 모델링 (3D Modeling from 2D Stereo Image using 2-Step Hybrid Method)

  • 노윤향;고병철;변혜란;유지상
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제28권7호
    • /
    • pp.501-510
    • /
    • 2001
  • 일반적으로 2D 스테레오 영상으로부터 3차원 모델링을 위해서는 정확한 변위 측정이 필수이다. 기존의 스테레오 영상에서 변위 측정 방식은 전체 영상에 대하여 정합 연산을 수행함으로써 많은 연산 시간과 함께 높은 오 정합 확률의 문제가 있다. 본 논문에서는 스테레오 영상에서의 변위 벡터가 전체 탐색 범위 안에 골고루 분포되어 있지 않고 배경과 물체의 변위에 해당하는 값만을 갖는다는 특성을 이용하여 스테레오 영상을 웨이블릿 변환을 하고 1/4 크기로 줄어든 저주파 영역으로부터 영역 기반 방법을 이용하여 대략적인 변위 영역을 구한다. 대략적인 변위 백터로부터 변위 히스토그램을 생성하고, 이를 이용하여 전경과 배경을 분할 한 뒤, 다시 전경 영상만을 원 영상으로 복원하여 화소의 밝기값이 아닌 2차 미분값을 이용한 화소기반 방법을 통해 조밀한 변위를 구하는 2단계 하이브리드 방법을 제안한다. 또한, 분할된 전경 영역으로부터, 특징점들을 뽑아내고 변위 벡터와 카메라 파라미터를 이용하여 특징점들의 깊이 정보를 추정해 내는 3차원 모델링 과정을 제시한다. 본 논문에서 제안한 방법을 적용할 경우, 기존의 영역 기반 방법의 문제점인 계산 시간 문제를 상당 부분 단축시킬 수 있고, LOG 필터를 통한 2차 미분값을 이용한 화소기반 방법을 추가함으로써, 정밀한 변위를 구할 수 있다. 또한 교차 일치성 검사를 통해 잘못된 변위를 제거하고, 폐색 영역들을 검사할 수 있다. 아울러 3차원 모델링 과정에서, 기존의 Delaunay 삼각측량법의 문제점인 오정합 문제를 전경/배경 분할 알고리즘을 제안함으로써 효과적으로 해결 할 수 있다.

  • PDF