A Study on Portfolios Using Swarm Intelligence Algorithms

군집 지능 알고리즘을 활용한 포트폴리오 연구

Abstract

While metaheuristics have profoundly impacted various fields, domestic financial portfolio optimization research, particularly in asset allocation, remains underdeveloped. This study investigates metaheuristic algorithms for investment strategy optimization. Results reveal that metaheuristic-optimized portfolios outperform the Dow Jones Index in Sharpe ratios, highlighting their potential to significantly enhance risk-adjusted returns. A comparative analysis of Ant Colony Optimization (ACO) and Cuckoo Search Algorithm (CSA) shows CSA's slight superiority in risk-adjusted performance. This advantage is attributed to CSA's maintained randomness and Lévy flight model, which effectively balance local and global search, whereas ACO may converge prematurely due to path reinforcement. These findings underscore metaheuristics' capacity to maximize expected returns at given risk levels, offering flexible, robust solutions for investment strategy optimization.

1. 서론

재무이론에서 손실 가능성을 줄이고자 서로 연관성이 적은 여러 금융상품을 섞어 자금을 운용하는 방식을 '포트폴리오 다각화'라고 일컫는다 [1]. 투자이론에 있어 분산 투자는 근본적인 원칙이며, 이 개념을 기반으로 ‘현대 포트폴리오 이론’이 진화되고 체계화되었다[1]. ‘현대적 투자관점에서의 자산배분’은 1952년 마코위츠 교수(Harry M. Markowitz)가 제시한 평균-분산 최적화 모델로, 금융 자산들의 분산 투자를 통해 포트폴리오의 리스크를 경감시키는 데에 유의미한 영향을 미친다[1][2]. 자산구성 이론의 기틀을 마련한 마코위츠의 평균-분산 모형이 발표된 이래, 최적화 기법은 현대 재무관리 이론에서 핵심적인 위치를 차지하고 있다. 효과적인 투자자금 분배는 운용 성과를 극대화하고, 손실 가능성을 최소화하는 데 필수적이다. 이를 위해 선형, 이차 및 정수 프로그래밍 등 Exact 방법을 포트폴리오 문제를 해결하는 데 폭넓게 적용되고 효과적인 방법론으로 입증되어 왔다 [3].

그럼에도 불구하고 Exact 방법에 포트폴리오 내 한정된 자산의 수, 금융 시장에서 거래의 용이성과 거래량 등 여러 실질적 제한 사항들을 고려하면 난이도의 증대와 계산 요구 등으로 인해 복잡한 최적화 문제를 해결하는 데 제약을 가지고 있다. 다시 말해, 자산배분 최적화 모형이 다루어야 할 현실 문제의 크기가 광범위하여 이상적인 해답을 도출하는 것이 사실상 어렵다 [4]. 이러한 한계를 해결하고자 휴리스틱 기법(Heuristic Optimization)과 메타휴리스틱 기법(Meta-Heuristic Optimization)과 같은 근사 알고리즘(Approximation Methods)이 제시되었다. Setiawan [5]은 포트폴리오 최적화 문제를 해결하기 위해 인도네시아 주식 데이터와 평균-CVaR 모델를 활용하여 유전, 뻐꾸기 탐색, 메뚜기, 반딧불, 나방 불꽃, 입자 군집, 회색늑대, 잠자리 최적화 알고리즘을 비교·분석하였다. Reza Aghamohamadi [6]는 포트폴리오 최적화 문제를 해결하기 위해 테헤란 증권거래소에 상장된 기업들의 데이터를 활용하였다. 더불어 비지배 정렬 유전 알고리즘 II(Non-dominated Sorting Genetic Algorithm I I ), 개미 집단 최적화 알고리즘 그리고 인공 벌 군집(Artificial Bee Colony) 알고리즘을 사용하여 mean-pVaR모형, mean-SV 모형 그리고 평균-분산모형을 비교·분석하였다. 이 연구의 의의는 메타휴리스틱 알고리즘의 반복 횟수에 따른 성능 변화와 Value-at-Risk의 비율(pVaR)의 유용성을 입증하였다. Zhu [7]은 개미집단(Ant Colony) 알고리즘의 확장 버전과 입자군집 최적화 알고리즘을 마코위츠의 평균-분산 모형에 적용하여 포트폴리오 규모에 따른 성능 차이를 분석하였다. Can [8]는 포트폴리오 내 자산의 수에 제약이 있는 포트폴리오 최적화 문제를 해결하기 위해 연속 개미 집단 알고리즘과 인공 벌 군집 알고리즘 그리고 유전 알고리즘을 결합한 하이브리드 접근법을 제안했다. 공개적으로 사용 가능한 7개 인덱스에 대한 계산 결과는 이 하이브리드 통합 메커니즘의 효과성을 입증했다.

하지만 국내 학계에서는 자산배분 최적화에 관한 여러 메타 휴리스틱 기법 연구가 미진한 실정이다. 국내 선행 연구들[9][10][11]은 오직 유전 알고리즘에 초점을 맞추어 진행되어 왔다. 이우식[12]의 연구에서는 시뮬레이티드 어닐링과 타부 검색 알고리즘을 활용한 포트폴리오의 리스크 대비 투자 성과를 비교·분석하여 메타휴리스틱 알고리즘의 유용성을 입증하였다. 그러나 두 알고리즘 모두 단일 해(Single Solution)기반 메타휴리스틱 알고리즘으로, 한번에 하나의 해를 다루며 반복적인 개선 과정을 통해 최적해를 찾는다는 공통점이 있다. 이러한 특성은 해 공간 전체를 포괄적으로 탐색하는 데 있어 일정한 한계를 지닐 수 있다. 이에 대조적으로, 본 연구에서는 복수 해(Population Solution) 기반 메타휴리스틱 알고리즘을 활용하였다. 구체적으로, 개미집단 최적화 알고리즘과 뻐꾸기 탐색(Cuckoo Search) 알고리즘을 적용하여 포트폴리오 성과의 개선 가능성을 탐구하고자 하였다.

이 논문은 다음과 같은 구조로 이루어져 있다. 제1장 서론에서는 연구의 맥락과 의의를 기술한다. 제2장에서는 복수 해(Population Solution) 기반 메타휴리스틱 알고리즘인 개미집단 최적화 알고리즘과 뻐꾸기 탐색 알고리즘의 이론적 배경을 검토하고 요약한다. 제3장에서는 실험적 조사를 진행하기 위한 접근법을 구체화하고, 실제 자료 분석을 통해 도출된 성과를 서술한다. 끝으로, 제 4장에서는 연구 성과의 가치와 시사점을 고찰하여 본 연구의 마무리를 도출한다.

2. 이론적 배경

메타휴리스틱 알고리즘은 그 보편적 적용성과 탄력적 운용으로 인해 특정 도메인에 국한되지 않고 최근에는 기계학습과 딥러닝에도 광범위하게 적용된다. 이와 같은 기법들은 전역 최적화(Global Optimization) 난제뿐 아니라 국부 최적화(Local Optimization) 과제에서도 실효성 있는 답안을 도출할 수 있다. 특히, 계산 복잡도가 높거나 난해한 문제에 대해서도 실행 가능한 접근을 제공함으로서 그 유용성을 입증한다.

메타휴리스틱 알고리즘은 진화 영감(Evolutionary-inspired), 군집 영감(Swarm-inspired), 물리 기반(Physics-based), 인간 행동 기반(Human-based), 생물학 기반(Bio-based), 그리고 수학 기반(Math-based)과 같은 기본적인 프레임워크로 분류된다[13]. 최근에는 두 개 이상의 알고리즘을 결합하거나, Spider Wasp Optimizer, Geyser Inspired Algorithm 그리고 Chernobyl Disaster Optimizer와 같이 기존 알고리즘을 개선한 새로운 최적화 알고리즘이 등장하고 있다 [13][14][15].

2.1 개미 집단 최적화 알고리즘

개미 집단 최적화 알고리즘은 개미들의 행위를 분석하여 생성된 알고리즘으로, 차량 경로 문제, 의료 이미지 처리, 자원 할당 및 일정 계획, 약물 발견 등 다양한 영역에서 그 성과를 입증받고 있다.

개미들은 움직이면서 페로몬을 뿌린다. 이 페로몬은 개미들에게 소통의 수단이 되며, 이동 경로를 표시한다. 즉, 페로몬을 통해 먹이의 위치를 공유하고, 집으로 가는 길을 안내하면서 개미들은 이동한다. 장애물이 나타나면, 개미들은 장애물을 우회하는 두 경로 중 하나를 동일한 확률로 선택하고, 더 짧은 경로를 선택한 개미들이 더 많아지면 더 많은 페로몬이 그 경로에 축적된다. 시간이 지나면서 긴 경로의 페로몬이 증발하면서 누적된 페로몬 양이 줄어들게 되면, 긴 경로를 선택하는 개미 수는 감소하게 되고, 결국 짧은 경로만 선택하게 된다.

Table 1. Pseudocode for the Ant Colony Optimization

이러한 자연에서 관찰되는 개미들의 행동을 기반으로 본 알고리즘이 만들어졌기 때문에 직관적이고 이해하기 쉽다. 또한 여러 개미들이 독립적으로 해를 찾기 때문에 병렬 처리가 용이하며, 이는 큰 문제를 해결하는 데 유리하다.

개미 집단 최적화 알고리즘은 공학 설계, 특징 선택, 의료 진단, 전력 시스템 관리, 사물인터넷 장치 모델링, 구조 최적화 등에 성공적으로 적용되었다. 이는 복잡한 최적화 문제를 실효성 있게 처리할 수 있는 도구임을 입증하고 있다 [16].

2.2 뻐꾸기 탐색 알고리즘

뻐꾸기 탐색 알고리즘은 효율적인 해 탐색을 위해 Lévy 비행을 활용한다. 이는 이동 거리가 두꺼운 꼬리 확률 분포를 따르는 특수한 무작위 보행(Random Walk) 방식이다 [17]. Lévy 비행은 평균과 분산이 무한대인 특성으로 인해 해 공간을 효과적으로 탐색할 수 있게 하며, 정규분포 기반 무작위 보행보다 우수한 성능을 보인다 [18].

Table 2. Pseudocode for the Cuckoo Search Optimization

뻐꾸기 탐색 알고리즘에서 숙주의 알은 기존 해를, 뻐꾸기의 알은 신규 해를 상징한다. 목표는 저품질 해를 우수한 잠재력을 지닌 신규 해로 대체하는 것이다. 뻐꾸기 탐색 알고리즘에서 뻐꾸기의 습성을 본뜬 3가지 원칙은 다음과 같다 [19]. 첫째, 각 뻐꾸기는 한 번에 하나의 알(Solution)을 생성하고 무작위로 선택된 둥지에 알을 넣는다[19]. 둘째, 최고 품질의 알을 가진 둥지들은 다음 세대로 유지된다 [19]. 셋째, 사용 가능한 둥지의 수는 고정되어 있다. 아울러, 뻐꾸기의 알은 보금자리의 원주인 조류에 의해 P_a∈ [0, 1]의 가능성으로 탐지될 수 있다 [19]. 이러한 상황에서, 보금자리 원 소유주인 조류는 뻐꾸기의 알을 제거하거나 둥지를 포기하고 새로운 둥지를 만든다 [19]. 이러한 규칙을 기반으로 한 기본적인 뻐꾸기 탐색 알고리즘의 과정은 다음과 같다.

3. 실증 분석

3.1 자료의 구성

본 연구에서 사용한 자료는 다우존스 산업 평균 지수로, 이는 미국 주식 시장 전체를 완전히 반영하지는 않지만, 30개의 참여 기업으로 인해 비교적 간소하게 자산배분을 설계할 수 있다. 이는 국내 투자자들의 미국 증시 접근을 수월하게 하고, 자산구성의 다각화를 추구하도록 유도한다. 연구 기간은 2016년 1월 4일부터 2022년 12월 30일까지 일별 수정 종가를 기반으로 하며, 모형 성능 평가는 2023년의 투자 기간 자료를 활용하여 이루어졌다.다우존스 산업평균지수의 일일 수정 종가에 대한 기술통계량은 Table 3에 제시되어 있다. 지수에서 관찰되는 음의 첨도는 정규분포에 비해 분포의 꼬리가 얇다는 것을 의미한다. 또한, 지수 수익률의 음의 비대칭도는 정규분포와 비교했을 때 부정적인 극단값이 발생할 확률이 더 높다는 것을 나타낸다.

주가지수변화율 = log(주가지수(t)/주가지수(t-1))

Table 3. Descriptive Statistics

3.2 모델의 추정 및 분석

개미 집단 최적화 알고리즘과 뻐꾸기 탐색 알고리즘을 이용한 투자 안배를 통해 자산배분 성과를 대조 및 평가함으로써 최상의 자산 배분 방안으로 도출할 수 있었다. 개미 집단 최적화 알고리즘을 활용한 자산배분의 경우, 각 반복마다 50개의 서로 다른 포트폴리오를 생성하고, 총 50회의 반복을 수행하였다. 이때 페로몬 증발률을 0.5로 정하여 과거 정보의 영향력을 점진적으로 감소시키는 전략을 채택했다. 페로몬 중요도는 1.0으로 설정하여 알고리즘이 과거의 좋은 해결책을 활용하면서도 새로운 가능성을 탐색하는 균형을 유지하도록 하였다.

한편, 뻐꾸기 탐색 알고리즘을 이용한 자산 배분 방법에서도 각 반복마다 50개의 서로 다른 포트폴리오를 생성하고, 총 50회의 반복을 수행하였다. 이때 성과가 저조한 포트폴리오 교체 확률을 0.25로 정하여 최적해 탐색의 다양성 확보하였다. 새로운 해 생성과정에서는 Lévy 비행모형을 사용하여 지역 최적해에 갇히는 것을 방지하고, 전역 최적해를 찾을 가능성을 높였다.

Fig. 1 Flow Diagram depicting the Proposed Methodologies

마지막으로 두 알고리즘 모두에서 음수 가중치를 0으로 설정하고 남은 양수 가중치를 정규화함으로써, 공매도를 배제하고 총 투자 비중이 100%가 되도록 하였다. 증권거래세 및 배당소득세 등의 거래 수수료는 계산에 포함시키지 않았다.

결과적으로, Table 4의 결과를 분석해보면, 모든 포트폴리오가 양(+)의 샤프 비율을 나타내고 있어, 위험 대비 긍정적인 투자 수익이 발생했음을 확인할 수 있다. 특히 주목할만한 점은 뻐꾸기 탐색 알고리즘을 사용한 자산 배분 전략이 가장 높은 샤프 비율(1.73)을 기록하였다. 이는 해당 알고리즘이 위험 대비 수익률 최적화에 가장 효과적임을 시사한다. 또한 개미 집단 최적화 알고리즘을 활용한 상황에서도 다우지수를 상회하는 위험 조정 수익률 (1.50)을 달성했는데, 이는 메타휴리스틱 알고리즘들이 전통적인 시장 지표를 상회하는 성과를 낼 수 있음을 보여준다.

Table 4. Performance of Asset Allocation

마지막으로, Fig. 2는 개미 집단 최적화 알고리즘과 뻐꾸기 탐색 알고리즘을 이용한 자산배분의 누적 수익률을 보여준다. 분석 결과, 뻐꾸기 탐색 알고리즘을 적용한 자산배분 전략이 개미 군집 최적화 알고리즘과 벤치마크에 비해 일관되게 더 높은 누적 수익률을 기록했음을 확인할 수 있다. 이는 뻐꾸기 탐색 알고리즘이 해당 투자 기간 동안 더 효과적으로 최적의 자산배분을 찾아냈음을 시사한다.

Fig. 2 Cumulative Returns of ACO and CSO

3.3 결과 고찰

메타 휴리스틱을 도입한 자산배분 연구는 거래 수수료, 자금 운용 규모 등 다양한 실질적 제한 요소뿐 아니라 이익 극대화, 손실 위험 감소, 현금성 자산 조절 등 투자자가 여러 목적 사이의 조화를 이룰 수 있게 하는 것이 중요하다. 본 연구의 핵심 고찰 내용은 다음과 같다. 첫째, 메타 휴리스틱을 활용한 투자 전략의 샤프 지수가 벤치마크를 초과하였다. 이는 투자 전략에 대한 유연한 해결책을 모색함으로써, 위험 조정 수익률을 극대화할 수 있음을 보여준다. 개념적 및 응용적 관점에서 살펴볼 때, 메타 휴리스틱 최적화 기법은 비선형, 오목하지 않은, 도함수를 구할 수 없는 목표 함수 처리에 효과적이다. 따라서 메타 휴리스틱은 샤프 지수를 극대화하는 자산 운용 방안에 상당한 공헌을 할 수 있으며, 이는 주어진 위험 수준에서 최대의 기대 수익을 실현하는 데 핵심적인 역할을 수행할 수 있음을 시사한다.

둘째, 개미 집단 최적화 알고리즘과 뻐꾸기 탐색 알고리즘을 적용한 자산구성의 운용 실적을 대조해 보면, 뻐꾸기 탐색 알고리즘에서 다소 더 뛰어난 결과를 나타냈다. 이러한 결과는 개미 집단 최적화 알고리즘의 경우, 특정 경로를 강화함으로써 일부 해에 수렴할 가능성이 있기 때문으로 보인다. 반면, 뻐꾸기 탐색 알고리즘은 탐색 과정에서 적절한 수준의 무작위성을 유지하여 지역 최적 해에 빠지는 것을 방지하고, Lévy 비행모형을 사용하여 국소적 탐색과 광역적 탐색의 균형을 추구한다. 이러한 특성으로 인해 위험 대비 높은 투자 수익이 발생한 것으로 판단된다.

4. 결론

메타 휴리스틱이 경영과학, 전산학, 생물공학 등 다양한 영역에서 중대한 파급력을 행사하고 있음에도 불구하고, 국내 학계에서는 자산배분 최적화에 관한 다양한 메타 휴리스틱 최적화 연구가 미진한 실정이다.

본 연구는 최적화에 널리 활용되는 복수 해 기반 메타 휴리스틱을 이용해 포트폴리오 성적를 대조·고찰함으로써 개념적 및 응용적 가치를 지닌다. 즉, 마코위츠는 적절한 포트폴리오 가중치를 선택하여 분산 투자를 최적화하는 Exact 방법을 제공했다. 그럼에도 불구하고 Exact 방법에 포트폴리오 내 한정된 자산의 수, 금융 시장에서 거래의 용이성과 거래량 등 여러 실질적 제한 사항들을 고려하면 난이도의 증대와 계산 요구 등으로 인해 복잡한 최적화 문제를 해결하는 데 제약을 가진다. 이를 극복하고자 탐색 공간을 효율적으로 탐색하고, 전역 최적해에 근접한 방안을 도출할 개연성을 가진 메타 휴리스틱 기법을 사용하였다. 특히, 개미 군집 알고리즘과 뻐꾸기 탐색 알고리즘은 서로 다른 원리와 탐색 방식을 지닌 알고리즘으로, 복수 해 기반 메타휴리스틱 기법의 성능을 다각도로 평가하고 비교하고자 하였다. 개미군집 알고리즘은 집단적이고 경로 중심의 탐색을, 뻐꾸기 탐색 알고리즘은 무작위성과 광범위한 탐색 능력을 특징으로 한다. 이를 통해 서로 다른 특성을 가진 알고리즘을 비교하여 리스크 대비 수익 극대화 관점에서 이상적인 투자 배분을 실행할 수 있는지를 개미 군집 알고리즘과 뻐꾸기 탐색 알고리즘을 적용한 자산 배분 성과를 비교·평가하였다.

메타 휴리스틱을 적용한 자산배분의 실효성을 수긍한다 할지라도, 실질적으로 자산을 다각화하고, 실적을 창출하는 것은 난해한 과제이다. 메타 휴리스틱의 상세한 구현 매개변수 조정이 필요한 등의 사유로 인해 다양한 자산 구성 최적화에 난관이 존재하며, 이로 인해 목표 운용 실적을 달성하기 어렵다.

본 연구가 중요한 결과와 의미를 제공함에도 불구하고, 향후 연구에서 해결해야 할 보완점이 여전히 남아있다. 이번 연구에 적용한 최적화 알고리즘은 개미 집단 최적화 알고리즘과 뻐꾸기 탐색 알고리즘으로 복수 해 기반 메타휴리스틱 알고리즘이다. 복수 해 기반 메타휴리스틱은 최적화 문제를 처리하고자 여러 개의 해를 동시에 고려하고 개선해 나가는 방식을 취한다. 반면, 단일 해 기반 메타 휴리스틱은 시작점에서부터 하나의 해를 점진적으로 개선해 나가는 방식을 사용한다[12]. 이 기법은 초기에 도출된 하나의 해를 토대로, 순환적인 절차를 통해 해의 품질을 향상시켜 나가며 궁극적으로 최상의 해결책이나 유사 해결책을 발견한다. 단일 해 기반 메타휴리스틱은 한번에 하나의 해만 고려하므로 국소 최적점에 빠질 가능성도 존재한다 [12]. 그러므로 자산구성에 따른 운용 실적 수준을 제고하기 위해서는 단일 해 기반과 복수 해 기반이 결합된 하이브리드 기반의 메타휴리스틱 알고리즘(Hybrid Meta-Heuristic Algorithm)을 포함하여 국소 탐색의 효율성과 해집단 기반의 글로벌 탐색 능력을 동시에 활용할 수 있는 여러 기법들을 토대로 한 고찰이 요구된다. 아울러, 30개 기업을 활용한 운용 실적 수준에서 메타 휴리스틱이 유효함을 입증하였으나, 실제 수천 가지의 금융상품들 중에서 투자 대상을 선별하여 최적화된 포트폴리오를 구축하는 심층 조사가 필요하다.