Left-tail Risk and Expected Stock Returns in the Korean Stock Market

국내 주식시장에서 주가급락위험이 기대수익률에 미치는 영향

Abstract

This paper investigates the influence of stock-level left-tail risk, which is defined using Value-at-Risk(VaR) estimates of past one-year daily stock returns, in the expected stock returns in the Korean stock market. Our results are summarized as follows: First, monthly-constructed zero-cost portfolios that buy (shortsell) the highest (lowest) left-tail risk decile in the previous month exhibit an average monthly return (called left-tail risk premium) of -2.29%. Second, Fama-MacBeth cross-sectional regressions suggest that left-tail risk in the previous month shows significant and negative explanatory power over return in this month, after controlling for various firm characteristics such as firm size, B/M, market beta, liquidity, maximum daily return, idiosyncratic volatility, and skewness. Third, the stocks with larger recent month loss have lower returns in the next month. Fourth, the magnitude of left-tail risk premium is negatively related with lagged market-level volatility. These results support the hypothesis from a perspective of behavioral finance that the overpricing of stocks with left-tail risk is attributed to the investors' underreaction to it.

본 연구는 국내 주식시장에서 개별종목의 주가급락위험을 과거 1년간 일별수익률의 VaR(Value-at-Risk) 통계량으로 정의하고, 주가급락위험이 기대수익률에 미치는 영향을 분석하였다. 결과는 다음과 같이 요약된다. 첫째, 전체 종목을 전월의 주가급락위험의 크기 순으로 10개의 포트폴리오로 나눈 후, 주가급락위험이 가장 높은 포트폴리오를 매수하고 가장 낮은 포트폴리오를 공매도하여 매월 구성한 무비용 포트폴리오는 월평균 -2.29%의 수익률(주가급락위험 프리미엄)을 나타낸다. 둘째, Fama-MacBeth 횡단면 회귀분석에서 기업규모, 장부가대시장가비율, 시장베타, 유동성, 최대수익률, 고유변동성, 왜도 등의 다양한 기업특성변수를 통제한 후에도 전월의 주가급락위험은 금월 수익률에 대해 유의한 음(-)의 설명력을 갖는다. 셋째, 최근 1개월 이내에 주가급락폭이 큰 종목일수록 다음 달 수익률이 더 낮다. 넷째, 전월 시장수익률의 변동성과 주가급락위험 프리미엄의 크기는 음(-)의 상관관계를 갖는다. 이러한 결과는 주가급락위험에 대해 투자자들이 과소반응하는 경향으로 인해 주가급락위험이 높은 종목일수록 주가가 고평가된다는 행태재무학적 관점에서의 가설을 지지한다.

I. 서론

Sharpe(1964), Lintner(1965)의 CAPM 모형에 의하면 개별 주식의 체계적 위험과 기대수익률은 양(+)의 상관관계를 가진다[1][2]. 여기서 체계적 위험은 시장수익률 변화에 대한 개별종목 수익률 변화의 민감도를 의미하는데, 그 수학적 정의상 시장수익률이 상승할 때와 하락할 때를 특별히 구분하지 않는다.

그러나, 이론적 모형과 달리 일반적인 투자자들은 손실 회피(loss aversion)성향으로 인해 주가 상승으로부터 얻는 이익보다 주가하락으로 인한 손실에 더욱 민감한 경향이 있으므로(Kahneman and Tversky, 1979), 주가의 하락위험(downside risk)이 보다 실질적인 위험으로 투자자들에게 인식될 수 있다[3]. 이러한 점에 주목하여 특히 주식수익률의 하락위험이 기대수익률에 미치는 영향에 대한 연구결과들이 다수 보고되어 왔다. 예컨대 Ang et al.(2006)은 시장수익률 하락시 개별 종목 수익률 하락의 민감도를 하락베타(downside beta)로 정의하고, 하락베타가 큰 종목의 기대수익률이 상대적으로 더 높다고 주장하였다[4]. 이와 유사하게 Kelly and Jiang(2014), Bali et al.(2014), Van Oodt and Zhou(2016), Chabi-Yo et al.(2018) 등의 연구도 개별 종목의 하락베타를 저자들 나름의 방식으로 추정하고, 그것이 미래수익률을 설명할 수 있는지를 검증하고 있다[5-8].

이러한 연구 흐름 중에서 최근 주목받는 연구는 하락위험 중에서도 극단적인 경우, 즉 주가의 급락위험 (left-tail risk)이 기대수익률에 미치는 영향에 대한 것이다. Atilgan et al.(2020)는 미국 주식시장에서 개별종목의 주가급락위험을 지난 1년간 일별 수익률 관측치의 VaR(Value-at-Risk) 통계량으로 정의하고, 이 위험이 높은 종목일수록 기대수익률이 낮다는 사실을 보고하였다[9]. 그리고 이러한 결과에 대해 주가 급락위험이 가격에 미치는 영향을 투자자들이 과소평가하는 경향이 있어 주가급락이 발생한 종목들이 본질 가치보다 고평가되기 때문이라는 행태재무학적 관점에서 해석하였다.

한편 Atilgan et al.(2020)의 연구는 주로 미국 주식시장에 대한 것이며, 일부 해외국가 주식시장에 대한 분석도 포함되어 있으나 한국시장에 대한 분석은 이루어져 있지 않다. 또한 주가급락위험이 기대수익률에 미치는 영향의 정도는 시간의 흐름에 따라 변할 수 있다는 점도 고려하지 않고 있다. 이에 본 연구는 Atilgan et al.(2020)의 방법론을 활용하여 국내 주식시장에서도 VaR 방식으로 정의되는 주가급락위험이 기대수익률에 영향을 미치는지를 먼저 검증하고, 나아가 그러한 현상의 장기 시계열적 변화를 설명하는 변수가 무엇인지 발견하고자 하였다.

본 연구의 의의는 다음과 같다. 첫째, 기존의 주가 급락위험과 관련된 국내 논문들은 주로 주가 급락위험에 영향을 미치는 요인을 발견하는데 초점을 맞추고 있다[10-16]. 반면 본 연구는 국내 주식시장을 대상으로 개별 종목 차원의 주가급락위험이 해당 종목의 기대수익률에 미치는 영향을 분석하고, 그 결과를 ‘정보에 대한투자자의 과소반응’이라는 행태재무학적 관점에서 설명할 수 있는지 검증하였다. 둘째, 32년간의 자료를 사용한 장기 시계열 분석을 통해 주가급락위험이 가장 큰 종목을 매수하고 가장 작은 종목을 공매도하는 무비용 포트폴리오(High–Low)의 수익률 프리미엄이 시간에 따라 변화하는 특성이 있고, 이것이 특히 시장수익률의 변동성과 유의한 음(-)의 관계를 가짐을 밝혀냈다. 즉 주가 급락위험이 높은 종목에 대해 투자자들이 나타내는 행태재무학적 편의의 정도가 시장의 변동성 수준에 따라 달라진다는 점을 밝혔다. 셋째, 이러한 결과는 투자자들로 하여금 주가급락위험이 기존의 가격 결정요인과 중복되지 않는 새로운 요인으로서, 이를 투자의사 결정 시에 고려할 필요가 있다는 점을 시사한다.

이후 논문 구성은 다음과 같다. II장에서는 주가 급락위험과 관련된 기존 논문들을 정리한다. III장에서는 본연구에 사용된 자료 및 기초통계량에 대해 설명하고, IV장에서는 분석결과를 상세히 기술한다. 마지막으로 V장에서는 결론을 제시하고자 한다.

II. 선행연구

1. 2000년대 이전의 연구

CAPM에서의 시장베타는 시장수익률과 개별종목 수익률이 동일한 방향으로 움직이는 정도를 의미하나, 시장수익률이 상승할 때와 하락할 때를 따로 구분하지 않는다. 이 때문에 상승장과 하락장에서의 수익률의 움직임이 비대칭적인 종목의 경우, 단순히 시장 베타만으로는 그 체계적 위험을 정확히 측정하기 어려울 수 있다. 예컨대 상승장에서 주가가 크게 오르는 반면 하락장에서 가격방어에 강한 특성이 있는 종목이라면 주가상승베타(upside beta), 반대로 상승장에서는 주가가 잘 안 오르고 하락장일 때 주가가 더욱 많이 떨어지는 경향이 있는 종목이라면 주가하락베타(downside beta)가 그 종목의 기대수익률을 더 잘 설명할 수 있는 체계적 위험일 것이다. 특히 투자자들은 주가상승으로 인한 이익보다 주가하락으로 인한 손실에 더욱 민감한 경향이 있기 때문에(Kahneman and Tversky, 1979), 수익률의 하락위험이 자산가격에 미치는 영향에 대한 다양한 연구들이 진행되어 왔다[3].

2000년대 이전의 연구로 Markowitz(1959)는 위험의 측정치로 방향성이 없는 일반적인 분산(variance)보다 하락위험만을 측정하는 반쪽 변동성(semi-variance)을 제안하였으며, Hogan and Warren(1974), Kraus and Litzenberger(1976), Arczag and Bawa(1977), Harlow and Rao(1989) 등도 수익률의 하락위험에 주목하여 이것이 자산가격에 미치는 영향에 대한 모형을 제시하였다[17-21].

2. 2000년대 이후의 연구

2.1 하락베타가 기대수익률에 미치는 영향

2000년대 이후의 연구는 시장 수준의 체계적 하락 (또는 급락) 위험요인을 정의하고, 그에 대한 개별 종목수익률의 베타와 자산가격이 어떤 연관을 갖는지 살펴보는 연구가 주류를 이룬다. 하락위험과 관련된 연구로 Ang et al.(2006)은 시장수익률 하락시 이에 대한 개별종목의 수익률 하락의 민감도를 하락베타(downside beta)로 정의하고, 하락베타가 큰 종목들의 수익률이 상대적으로 더 높은 경향이 있다고 주장하였다[4]. Kelly and Jiang(2014)은 개별 종목들의 수익률 하락자료를 기초로 시장 수준의 하락위험을 정의하고, 이에 대한 베타가 큰 종목일수록 더욱 높은 미래수익률을 보인다고 주장하였으며, Bali et al.(2014)는 개별 종목의 수익률이 기준치 이하인 조건부 사건에서 ‘하이브리드 주가 급락 공분산 위험(H-TCR: Hybrid Tail Covariance Risk)’을 정의하고, 이 위험이 큰 종목일수록 미래 수익률이 더 높다고 보고하였다[5][6].

Van Oodt and Zhou(2016)는 주가급락위험에 대한 개별 종목의 주가급락베타를 추정하였다[7]. 그러나 다른 연구들과 달리 이 연구에서는 주가급락베타가 큰 종목일수록 더 높은 미래수익률을 보인다는 증거를 발견하지 못함으로써 주가급락베타의 위험 프리미엄은 존재하지 않는다고 주장하였다. Chabi-Yo et al.(2018)는 시장수익률과 개별종목 수익률의 결합분포로부터 개별종목의 주가급락 민감도를 추정하고, 이 민감도가 더 큰 종목일수록 미래수익률이 더 높다고 주장하였다[8].

2.2 개별종목의 주가급락위험이 기대수익률에 미치는 영향

주가하락베타를 사용하지 않고 개별 종목 단위로 추정한 주가급락위험이 기대수익률에 미치는 영향을 분석한 연구도 존재한다. Atilgan et al.(2020)는 개별 종목의 주가급락위험을 과거 1년간 일별 수익률 관측치로부터 추정되는 Value-at-Risk (VaR) 통계량으로 정의하고, 이 위험이 높은 종목일수록 기대수익률이 더 낮다는 사실을 발견하였다[9]. 이는 위험이 높은 종목의 기대수익률이 더 높을 것이라는 일반적인 예상과 반대되는 결과로, 이에 대해 저자들은 행태재무학적 관점의 해석을 제시하였다. 투자자들이 주가급락위험을 과소평가함으로써 주가급락위험이 높은 종목이 본질 가치보다 고평가되기 때문이라는 것이다.

3. 주가급락위험과 관련된 국내연구

주가급락위험과 관련된 국내 연구들은 주로 주가 급락위험에 영향을 미치는 요인을 탐색하는 논문들이 대부분이다. 예컨대 김현숙, 박순홍(2017)은 외국인 투자자가 기업의 주가급락위험에 영향을 미치는 유의한 증거를 발견하지 못했으며, 임병권, 박순홍(2019)은 기업내부자의 주식담보대출이 특히 코스닥시장에서 주가 급락위험을 유발한다고 주장하였다[10][13]. 김현숙, 조성순, 박순홍(2017)은 공매도 거래가 향후 주가 급락을 예측하는 정보거래인지를 분석하였으나, 해당 가설을 지지하는 직접적인 증거를 찾지 못함으로써 공매도 거래가 정보거래가 아닐 것으로 판단하였다[11]. 유혜영(2018)은 자기과신성향이 강한 경영자가 긍정적 정보를 우선적으로 공시하고 부정적 정보의 공시는 최대한 나중으로 미루려는 경향이 있기 때문에, 부정적 정보는 어느 한계시점 이후에 한꺼번에 공시됨으로써 주가 급락을 유발하는 경향이 있다고 주장하였다[12]. 이민규, 이상구(2016)는 주식수익률이 호재로 인한 양(+)의 수익률에 비해 예기치 못한 음(-)의 수익률에 더 민감하게 반응하는 비대칭적 변동성이 존재한다고 주장하였으며, 이윤정, 우균(2013)은 코스피200지수를 구성하는 종목들의 수익률간 상관관계가 높을 때 주가가 급락하는 현상이 있음을 보고하였다[15][16].

반면, 주가급락위험이 주식수익률에 미치는 영향에 대해 직접적으로 다룬 국내 논문은 매우 드물다. 예외적으로 오세경, 기혁도(2018)는 주가급락위험과 가격제한폭의 관계를 조사하고, 기업규모 및 거래소 유형이 주가 급락위험의 주식수익률에 미치는 영향을 평가하였다[22].

4. 본 연구의 차별점

본 연구의 차별점은 다음과 같다. 첫째, Atilgan et al.(2020)의 방법론을 적용하여 국내 주식시장에서 주가 급락위험이 기대수익률에 미치는 영향에 대해 최초로 살펴보고자 하였다. 둘째, 주가급락위험이 주식수익률에 미치는 영향의 정도가 시장의 변동성과 관계있는지를 추가적으로 분석하였다. 셋째, 오세경, 기혁도(2018)의 국내 논문은 시장 포트폴리오 수준에서 주가 급락위험의 기대수익률 예측력에 대해 다룬 반면, 이 논문은 개별 종목 수준의 주가급락위험이 해당 종목의 기대수익률에 미치는 영향에 대한 영향을 분석하고 그 원인과 특성을 살펴보고자 하였다.

III. 자료

본 연구에 사용된 자료는 국내 코스피시장 상장 종목들의 기업정보 및 주식거래자료로서, DataGuidePro DB에서 다운로드 받아 사용하였다. 표본기간은 1990년 1월부터 2021년 6월까지의 378개월(31년 6개월)이며, 전체 표본기간 중 36개월 미만으로 거래된 종목은 분석에서 제외하고 각 월마다 15일 이상 거래된 종목만 분석에 포함하였다.

[표 1]은 본 연구에 사용된 자료의 업종별 평균 종목 수 및 평균 시가총액을 보여준다. 먼저 정부의 한국표준산업분류(KSIC) 1에 의해 전체 종목을 매 월마다 16개의 업종으로 분류하고, 매 월 업종마다 종목 수 및 평균 시가총액을 계산한 후, 전체 표본기간에 걸쳐 그것을 시계열 평균한 값을 보고하였다. 결과를 살펴보면 제조업에 해당하는 종목이 평균 342개로 가장 많고, 그다음으로 전문, 과학 및 기술 서비스업, 그리고 도매 및 소매업의 순으로 나타난다. 표본 전체로는, 월평균 종목 수는 553개이며, 이들 기업의 시가총액의 월평균은 9066억원이다.

표 1. 표본자료의 업종별 종목수 및 시가총액 평균

한편, 본 연구에서 주가급락위험(left-tail risk)의 정의는 Atilgan et al.(2020)과 동일하며, 기본적으로 직전 1년간 1%의 확률로 발생할 수 있는 일별 주식수익률의 최대하락폭이 얼마인지를 추정하는 Value-at-Risk (VaR) 방식을 따른다2[9]. 구체적으로, 개별 종목별로 매월 말일 기준으로 직전 1년간의 일별 수익률 관측 치중 최하위 1%에 해당하는 수익률을 찾아낸다. 이렇게 찾아낸 최하위 1%의 수익률은 음(-)의 값을 갖는 것이 일반적이므로, Atilgan et al.(2020)에서와 같이 해석상의 편의를 위해 이 값에 –1을 곱한 값을 주가급락위험(VaR1)으로 정의하기로 한다. 즉 VaR1이 큰 종목일수록 과거 1년 동안 매우 큰 폭의 주가하락을 겪은 적이 있다는 것을 의미한다. 이 때 직전 1년간의 일별 수익률의 관측치가 적어도 200일 이상인 종목만 분석에 포함하였다.

IV. 분석결과

1. 포트폴리오 수준 분석

먼저 포트폴리오 수준에서, 주가 급락위험(VaR1)이 높은 종목들로 구성된 포트폴리오의 수익률이 상대적으로 더 높은지 혹은 낮은지를 살펴보고자 한다. [표 2]는 주가급락위험의 크기를 기준으로 정렬된 10개 포트폴리오의 가치가중 단순수익률 및 위험조정수익률을 나타낸 것이다. 매 월마다 전월말에 추정한 주가 급락위험을 기준으로 전체 종목을 오름차순으로 정렬하여 10개의 포트폴리오를 구성한 후, 각 포트폴리오의 금월 가치 가중수익률을 계산하여 이를 전체 표본기간에 걸쳐 시계열 평균한 결과를 [표 2]에 보고하였다.

표 2. 주가급락위험(VaR1)의 크기를 기준으로 정렬된 10개 포트폴리오의 단순수익률 및 FF-4 위험조정수익률

만약 주가급락위험이 기대수익률에 유의한 영향을 미친다면, 주가급락위험이 가장 큰 포트폴리오(High)와 가장 작은 포트폴리오(Low)의 미래수익률 차이(High-Low)는 통계적으로 유의한 부호의 값을 갖게 될 것이다. 반대로 주가급락위험과 미래수익률간에 별다른 상관관계가 없다면, High-Low의 수익률은 통계적으로 유의한 부호를 나타내지 않을 것이다.

단순수익률(Raw return)의 결과를 먼저 살펴보면, 주가급락위험이 가장 낮은 종목들로 구성된 포트폴리오(Low)는 통계적으로 유의하지 않은 양(+)의 수익률(0.81%)을 나타낸다. 반면 주가급락위험이 가장 높은 종목들로 구성된 포트폴리오(high)는 통계적으로 유의한 음(-)의 수익률(-1.48%)을 나타낸다. 만약 주가 급락위험이 가격에 반영되는 위험이고, 투자자들이 이성적이라면 주가급락위험이 높은 종목일수록 이론적으로는 수익률이 더욱 높아져야 할 것이다. 그러나, 실증분석 결과에 따르면 이는 전월의 주가급락위험이 높은 종목들은 금월에 수익률이 오히려 낮아지므로, 전월 기준으로 주가가 고평가되었다고 볼 수 있다. 특히, 주가 급락위험이 가장 높은 포트폴리오(High)를 매수하고 주가 급락위험이 가장 낮은 포트폴리오(Low)를 공매도하는 무비용 포트폴리오(H-L)는 월평균 약 –2.29%의 통계적으로 유의한 음(-)의 수익률을 보인다.

그러나 이러한 결과는 단순수익률(raw return)에 기반한 분석으로, 주식시장의 체계적 위험이 수익률에 미치는 영향을 고려하지 않았다는 문제가 있다. 수익률의 변동에서 주식시장의 체계적 위험의 변동에 의해 설명되는 부분을 제외한 위험조정수익률을 살펴보기 위해 다음 회귀모형(1)을 통해 각 포트폴리오의 수익률로부터 Fama-French의 4요인 알파(FF-4 alpha)를 추정하여 보고하였다[23]. 이 때, RMRF, SMB, HML 및 MOM은 국내 주식시장자료를 사용하여 계산된 Fama-French의 월별 4요인이다.

\(\begin{aligned} \text { Ret }_{t}=& \alpha_{t}+\beta_{1} R M R F_{t}+\beta_{2} S M B_{t}+\beta_{3} H M L_{t} \\ &+\beta_{4} M O M_{t}+\epsilon_{t} \end{aligned}\)       (1)

결과를 살펴보면, 주가급락위험이 가장 낮은 종목들로 구성된 포트폴리오(Low)의 위험조정수익률은 0.27%로 양(+)의 값을 가지지만, 통계적으로 유의하지 않다. 반면 주가급락위험이 가장 높은 종목들로 구성된 포트폴리오(High)의 위험조정수익률은 –1.62%이고 t- 값이 –3.17로 1% 유의수준에서 유의한 음(-)의 값을 보인다. 이는 전월의 주가급락위험이 높은 종목들이 고평가되었다는 단순수익률(Raw return) 분석결과를 강건하게 지지하는 결과로 볼 수 있다. 나아가 주가 급락위험이 가장 높은 포트폴리오(High)를 매수하고 가장 낮은 포트폴리오(Low)를 공매도하는 포트폴리오(H-L) 의 위험조정수익률은 -1.89% 이고, t-값이 –3.24로 여전히 매우 유의하다. 특히 이러한 무비용 포트폴리오 (H-L)의 음(-)의 수익률은 주가급락위험이 가장 높은 포트폴리오(High)가 음(-)의 수익률을 가지는 것에 기인하는 것을 알 수 있다. 이러한 결과로 미루어 볼 때, 주가급락위험이 큰 종목일수록 본질가치보다 고평가되어 있을 가능성이 크며, 이로 인해 향후 기대수익률이 낮을 수 있다. 이는 VaR 방식으로 정의되는 주가 급락위험이 기대수익률에 음(-)의 방향으로 영향을 미치는 새로운 변수임을 시사한다.

2. 주가급락위험의 지속성

[표 3]은 주가급락위험이 얼마나 오래 지속되는지를살펴본 결과이다. 매월 VaR1 기준으로 전체 종목을 오름차순으로 정렬한 후, 10개의 포트폴리오로 나누고 각 포트폴리오의 1개월 후(t+1)부터 12개월 후(t+12)까지 VaR1의 평균값을 구하여 이를 전체 표본기간에 대해 시계열 평균값을 구한 결과이다. 이를 살펴보면, 기준월인 t월에 주가급락위험이 높은 종목들로 구성된 포트폴리오는 t월 이후로 적어도 t+12월까지 주가 급락위험이 상대적으로 높은 수준에서 지속되는 것을 알 수 있다.

표 3. 주가급락위험의 지속성

이를 전통적인 자산가격결정이론의 위험-기대수익률 관계에 의거하여 추론해보면, 주가급락위험이 높은 종목일수록 투자자들은 그러한 특성이 미래에도 지속될것을 예상하여 해당 종목을 상대적으로 낮은 가격으로 거래할 것으로 짐작된다. 그러나 [표 2]에서의 실증결과, 이러한 예측과는 반대로 주가급락위험이 높은 종목을 투자자들은 본질가치보다 비싼 가격에 거래한다. 이는 투자자들이 주가급락위험의 지속 가능성에 대해 과소평가하고 있을 가능성을 시사한다. 즉, t월에 주가 급락위험이 높은 종목은 t월 이후로 수 개월간 주가 급락위험이 높은 수준에서 지속되는 실증적인 증거가 있는데도 불구하고, 이를 무시(과소평가)하고 해당 종목을 비싸게 매매한다는 것이다. 다시 말해 투자자들이 주가 급락위험이 큰 종목의 매매에 있어 행태재무학적 편의를 가지고 있기 때문으로 추측할 수 있다. 이러한 가설에 대한 검증은 5장의 DeltaVaR 분석 부분에서 다루기로 한다.

3. 포트폴리오 구성 이후 12개월까지의 위험조정수익률

[표 4]는 매월 VaR1 기준으로 전체 종목을 오름차순으로 정렬하여 10개의 포트폴리오로 나눈 뒤, 각 포트폴리오의 1개월 후부터 12개월 후의 기간 동안 월별 위험조정수익률을 나타낸 것이다. 주가급락위험이 가장 큰 포트폴리오(High)를 매수하고 가장 작은 포트폴리오(Low)를 공매도하는 무비용 포트폴리오의 위험조정수익률(FF-4 alpha)을 H-L로 표시하였다.

표 4. FF-4 위험조정수익률

결과를 살펴보면, 대체로 t+6월까지 H-L의 위험조정수익률이 유의한 음(-)의 값을 가진다. 이로부터 t 월에 주가 급락위험이 큰 종목이 본질가치보다 높게 평가됨으로써 수익률이 하락하는 현상은 t+1월 뿐만 아니라 그 이후에도 수 개월간 지속적으로 발생한다는 사실을 알 수 있다. 이러한 결과는 한 번 고평가된 주식가격이 본질 가치로 되돌아가는데 적어도 수 개월이 걸리며, 이는 정보가 완전히 주가에 반영되는데는 일정 정도의 시간이 걸린다는 Hong and Stein(1999)의 이론적 예측과 부합하는 결과이다[24].

4. Fama-MacBeth 횡단면 회귀분석

앞에서의 분석은 포트폴리오 수준의 개략적 분석으로서, 개별기업에 대한 정보를 상당 부분 소실하는 약점이 있다. 이 때문에 관심있는 주가급락위험 변수 (VaR1) 이외에 다른 기업특성변수가 기대수익률에 미치는 영향을 통제할 수 없는 것이 문제가 된다. 따라서 주가 급락위험이 기대수익률에 미치는 영향을 보다 상세하고 정확히 분석하기 위해 개별 종목 수준에서 Fama-MacBeth 횡단면 회귀분석을 실시하고자 한다[25]. 이를 위해 개별 종목의 기대수익률에 영향을 미치는 것으로 기존 문헌에서 알려진 다양한 기업특성 변수들을 통제변수로 고려한다:

\(\begin{aligned} R_{i, t} &=\lambda_{0}+\lambda_{1} \operatorname{VaR} 1_{i, t-1}+\lambda_{2} \log \left(M V_{i, t-1}\right) \\ &+\lambda_{3} \log \left(B M_{i, t-1}\right)+\lambda_{4} \text { MKTbeta }_{i, t-1} \\ &+\lambda_{5} \operatorname{SMBbeta}_{i, t-1}+\lambda_{6} \text { HMLbeta }_{i, t-1} \\ &+\lambda_{7} \operatorname{MOM}_{i, t-1}+\lambda_{8} \text { AMIHUD }_{i, t-1} \\ &+\lambda_{9} R E V_{i, t-1}+\lambda_{10} \text { IVOL }_{i, t-1} \\ &+\lambda_{11} \text { MAX }_{i, t-1}+\lambda_{12} \text { SKEWNESS }_{i, t-1} \\&+\epsilon_{i, t} \end{aligned}\)       (2)

Ri,t는 종목 i의 t월 수익률을 의미한다. Log(MV)는 월말의 시가총액(백만원 단위)에 자연로그를 취한 값이며, Log(BM)은 Book-to-Market 비율로 전년 말의 자본총계 값을 전년 말의 시가총액으로 나눈 후 자연로그를 취한 값이다. 그리고 개별 종목의 일별 수익률 자료를 사용하여 매월 Fama-French 3요인 회귀분석을 실시하고, 이로부터 종목별로 MKTbeta, SMBbeta, 그리고 HMLbeta를 추정하였다. MOM은 전월을 제외한 지난 1년간[t-12, t-2]의 누적수익률이다. AMIHUD는유동성을 측정하기 위한 변수로, 일별 수익률의 절대값을 그날의 거래대금으로 나누어 단위 거래대금 당 수익률 변화를 매일 계산하고, 그것을 월평균한 값이다. REV는 수익률 반전(reversal)을 통제하기 위한 변수로, 전월의 수익률을 의미한다. MAX는 당월의 일별 수익률 중 최대값으로 정의된다. IVOL은 개별 종목의 일별 수익률 자료를 사용하여 Fama-French 3요인 회귀분석을 월별로 실시할 때 얻어지는 잔차의 표준편차이다. SKEWNESS는 당월의 일별 수익률로 계산한 왜도이다. 매월 위 모형으로 회귀분석을 실시하여 회귀계수를 추정하고, 추정된 회귀계수의 시계열 평균값 및 t-값을 [표 5]에 보고하였다.

표 5. Fama-MacBeth 횡단면 회귀분석

[표 5]에서 모형(1)을 보면, 기대수익률에 영향을 미치는 전통적인 요소들인 기업규모(Log(MV)), 장부가 대시 장가 비율(Log(BM)), FF-3요인 베타(MKTbeta, SMBbeta, HMLbeta), 과거 1년간 수익률(MOM), 유동성(AMIHUD), 전월수익률(REV)의 기업특성 변수를 통제한 후에도 VaR1의 회귀계수는 -0.31이고 t값도 -2.53으로 여전히 유의함을 볼 수 있다.

한편, 주가급락위험이 큰 종목일수록 주식수익률의 변동성이 높아 극단적인 수익률이 나타나거나, 음(-)의 왜 도를 가짐으로써 낮은 확률로 큰 폭의 수익률 하락을 경험할 가능성이 높다. 이 때문에 본 논문에서 정의한 주가 급락위험이 기대수익률에 영향을 미치는 새로운 변수가 아니라 과거에 이미 보고된 극단적 수익률과 관련된 변수들의 대리변수(proxy)에 불과할 가능성을 배제할 수 없다. 이러한 가능성을 체크하기 위해 모형(1)을 기본으로 하여 모형(2)에서는 Bali et al. (2011)의방법에 따라 IVOL, MAX, SKEWNESS를 추가적으로 통제하고 회귀분석을 실시하였다[26]. 그 결과, IVOL, MAX, SKEWNESS를 통제한 후에 VaR1의 회귀계수는 -0.17이며, t-값이 –2.03으로 약간 감소하였으나, 5% 수준에서 여전히 유의하다고 볼 수 있다.

이러한 결과가 경제적으로 유의미한가? 본 연구에 사용된 자료에서 VaR1의 횡단면 표준편차의 시계열 평균값은 2.50%이다. 따라서 VaR1이 1-σ만큼 증가할 때, 모형(2)를 기준으로 다음 달 수익률은 -0.17*2.50% = -0.425%만큼 하락하고, 이를 연단위로 환산하면 -0.425%*12 = -5.1%가 되어 경제적인 관점에서도 의미 있는 수치라 볼 수 있다.

이러한 결과들을 종합하면 기대수익률에 영향을 미치는 것으로 알려진 기업규모, 장부가대시장가, 시장 베타 등과 같은 전통적인 기업특성변수들 뿐만 아니라 최대수익률(MAX), 고유변동성(IVOL), 왜도(SKEWNESS) 등 최근 보고된 극단적 수익률 관련 변수들을 통제한 후에도 주가급락위험은 기대수익률에 대한 설명력을 강건하게 유지한다고 판단된다.

5. DeltaVaR 분석

주가급락위험과 기대수익률간의 음(-)의 상관관계는 이성적인 투자자의 관점에서는 설명하기 어렵다. 일반적으로 자산의 위험이 클수록 기대수익률도 높아지는 것이 합리적이나, 앞에서 살펴보았듯이 주가 급락위험이 클수록 기대수익률이 낮아지는 경향이 있기 때문이다. 따라서 이러한 현상의 원인을 설명하는 한 가지 가설은, 주가급락사건의 위험에 대해 과소반응하는 행태 재무학적 편의를 투자자들이 나타낸다는 것이다.

투자자들이 새로운 정보에 대해 과소반응함으로써 주가가 본질가치로부터 이탈한다는 이론 및 실증결과에 대해서는 이미 많은 논문이 보고되어 있다. 예컨대 Barberis et al.(1998), Daniel et al.(1998), Hong and Stein(1999)은 부정적 뉴스에 대한 투자자들의 과소반응 행동을 설명하는 이론적 모형을 제시하였다 [24][27][28]. 또한 Eastorwood and Nutt(1999), Hong et al.(2000), Chan(2003) 등의 연구는 실제로 투자자들이 부정적 뉴스에 대해 과소반응한다는 실증적 결과를 제시한 바 있다[29-31].

만약 주가급락위험과 기대수익률 간의 음(-)의 상관관계가 투자자들의 과소반응 때문이라면, 주가 급락이 최근에 크게 발생한 종목일수록 이러한 음(-)의 상관관계가 더욱 강하게 나타날 가능성이 있다. 그 이유는 다음과 같다. 주가급락을 오래 전에 경험한 종목은 주가 급락 사건에 대한 정보가 수 개월 이상에 걸쳐 점진적으로 주가에 반영되었으므로 오래 전의 주가 급락 사건이 앞으로의 수익률에 별다른 영향을 미치기 어렵다고 생각된다. 그러나, 주가급락이 최근에 발생하였다면 투자자들의 과소반응으로 인해 아직까지 그 위험이 가격에 충분히 반영되지 않아서 고평가된 상태이고, 이에 따라 향후 수익률이 낮아질 것으로 예상할 수 있다. 특히, 주가 급락이 최근에 발생한 종목 중에서도 급락폭이 큰 종목일수록 향후 수 개월간 높은 주가급락위험이 지속되는 특성이 있음을 [표 3]에서 살펴본 바 있다. 만약 투자자들이 이러한 결과를 과소평가함으로써 급락 폭이 큰 종목을 본질가치보다 비싼 가격에 매매한다면, 이러한 종목은 향후 더욱 낮은 수익률을 나타낼 것이다.

[표 6]은 금월에 주가급락을 크게 경험한 종목들일수록 다음 달 수익률이 더 낮아지는지를 검증한 결과이다. 패널 A에서는 DeltaVaR1 = VaR1(t) – VaR1(t-1) 로 정의하고, 매월 전체 종목을 DeltaVaR1이 음(-)인 그룹, 0인 그룹 및 양(+)인 그룹의 세 포트폴리오로 나눈다. 그리고 각 포트폴리오 내에서 다시 DeltaVaR1 의 값을 기준으로 다섯 개의 포트폴리오로 나누고 각 포트폴리오의 익월 수익률을 계산하였다. 그리고 이를 Fama-French 모형에 따라 각 포트폴리오의 익월 수익률 중 체계적 위험요인(RMRF, SMB, HML, MOM) 의 변동에 의해 설명되는 부분을 제외한 위험조정수익률(FF -4 alpha)을 나타내었다.

표 6. DeltaVaR 분석

먼저 DeltaVaR1 < 0 인 그룹은 그 정의상 VaR1(t) < VaR1(t-1)인 종목들을 의미한다. 여기에 속하는 종목들은 [t, t-11] 구간의 일별 수익률 중 하락폭이 가장 큰 상위 1% 의 수익률보다 [t-1, t-12] 구간의 일별 수익률 중 하락폭이 가장 큰 상위 1% 수익률의 하락 폭이 더 크다는 것을 뜻한다. 이는 다시 말해 해당 종목이 비교적 오래 전인 t-12월에 큰 폭의 수익률 하락을 경험했다는 것이다. 반대로 DeltaVaR1 > 0 인 그룹은 VaR1(t) > VAR1(t-1)인 종목들이며, 이 종목들은 [t, t-11] 구간의 일별 수익률 중 하락폭이 가장 큰 상위 1% 의 수익률이 [t-1, t-12] 구간의 일별 수익률 중 하락 폭이 가장 큰 상위 1% 수익률의 하락폭보다 더 크다는 것을 뜻한다. 즉 해당 종목은 매우 최근인 t월에 큰 폭의 수익률 하락을 경험하였다는 것이다.

여기서 특히 DeltaVaR1 > 0 인 그룹, 즉 먼 과거가 아닌 최근(t월)에 급락을 경험한 종목들의 그룹들이 더 행태 재무학적 편의에 영향을 받을 가능성이 크며, 특히 그 중에서도 특히 급락폭이 큰 종목일수록 행태 재무학적 편의가 가장 강하게 작용하여 고평가가 심하게 나타남으로써 미래수익률이 더욱 낮을 듯으로 예상된다.

분석결과, DeltaVAR < 0 또는 DeltaVaR1 = 0인 그룹 내에서는 DeltaVaR1이 가장 높은 종목들(High)이라고 해도 익월의 수익률이 통계적으로 유의미한 부호를 갖지 않는다. 즉 High 그룹에 속하는 종목들이 고평가된다는 유의한 증거가 없다. High를 매수하고 Low를 매도하는 무비용 포트폴리오의 익월 수익률(High-Low) 역시 유의한 값을 갖지 않는다.

반면 DeltaVaR1 > 0 인 그룹 내에서도 특히 DeltaVaR1이 가장 높은 종목들(high)의 평균 수익률은 -2.69%이고 t-값이 –3.01로 유의한 음(-)의 수익률을 나타내며, H-L은 –2.75%이고, t-값이 –2.92로 매우 유의하다.

이러한 결과는, 최근 급락폭이 더 큰 종목일수록 수개월간 높은 주가급락위험이 지속되는데도 불구하고 투자자들이 이를 과소평가함으로써 해당 종목의 가치가 본질가치에 비해 고평가되는 경향이 더욱 강하게 나타난다는 행태재무학적 관점에서의 설명을 지지한다고 볼 수 있다.

6. 주가급락위험 프리미엄과 시장변동성

앞의 [표 2]에서, 주가급락위험의 크기를 기준으로 전체 종목을 10개 포트폴리오로 나누었을 때, 주가 급락위험이 가장 높은 종목들로 구성된 포트폴리오(High)를 매수하고 가장 낮은 종목들로 구성된 포트폴리오(Low) 를 공매도하는 무비용 포트폴리오(High–Low)는 음(-)의 수익률 프리미엄을 가짐을 보인 바 있다. 여기서 이 무비용 포트폴리오의 수익률을 주가급락위험 프리미엄(left-tail risk premium)이라 부르기로 한다. 주가 급락위험 프리미엄은 [표 2]에서 보듯이 전체 표본 기간 동안 평균적으로 음(-)의 값을 가지지만, 만약 이것이 행태재무학적 편의에 기인한 현상이라면 시기마다 그 크기가 다를 가능성이 있다. Daniel et al.(1998, 2001), Kumar(2009), Hirshleifer(2001) 등은 시장 수준의 불확실성이 클 때, 투자자들의 행태재무학적 편의가 더욱 강하게 일어나는 경향이 있다고 주장하였다[28][32-34].

음(-)의 주가급락위험 프리미엄이 특히 주가 급락위험이 높은 종목들의 고평가로부터 비롯된다는 점을 감안하면, 주식의 본질가치를 정확히 평가하기 어려운 시기일수록 이와 같은 주가급락위험 프리미엄이 더욱 강하게 나타날 수 있다. 따라서 시장의 변동성이 큰 시기일수록 해당 종목들이 본질가치 대비 더욱 고평가될 가능성이 있고, 이에 따라 주가급락위험 프리미엄이 더욱 큰 음(-)의 값을 가지게 될 것으로 예상할 수 있다. 이러한 추론이 실제 성립한다면, 주가급락위험 프리미엄은 시장의 변동성과 음(-)의 상관관계를 가지게 될 것이다. 이를 검증하기 위해 378개월의 표본기간에 대해 아래와 같은 시계열 회귀분석모형을 추정하였다:

\(\begin{aligned} \text { High }_{t} &-\text { Low }_{t}=\alpha_{t}+\beta_{1} \text { VOLA } T_{t-1} \\ &+\beta_{2} R M R F_{t}+\beta_{3} S M B_{t}+\beta_{4} H M L_{t} \\ &+\beta_{5} M O M_{t}+\epsilon_{t} \end{aligned}\)       (3)

전월의 주가급락위험(VaR1)을 기준으로 전체 종목을 오름차순으로 정렬하여 10개의 포트폴리오로 나눈 후, VaR1이 가장 작은 포트폴리오의 금월 수익률(Low), 가장 큰 포트폴리오의 금월 수익률(High) 및 가장 큰 포트폴리오를 매수하고 가장 작은 포트폴리오를 매도하는 무비용 포트폴리오의 금월 수익률인 주가 급락위험 프리미엄(High-Low)을 각각 종속변수로 하였다. 첫 번째 표의 시장변동성(VOLAT)은 전월의 KOSPI 지수의 일별 수익률의 표준편차로 측정하였다. RMRF, SMB, HML 및 MOM은 국내 주식시장자료를 사용하여 계산된 Fama-French의 월별 4요인이다.

[표 7]의 장기시계열 분석결과를 보면, Low 포트폴리오의 수익률을 VOLAT 및 시장의 체계적 요인들에 대해 회귀분석한 결과, VOLAT의 회귀계수는 유의하지 않다. 즉 Low 포트폴리오의 수익률은 시장수익률의 변동성과 유의한 관계를 나타내지 않는다. 반면 High 포트폴리오의 경우, VOLAT의 회귀계수는 -1.54이고 t-값이 -2.44로 매우 유의하다. 맨 오른쪽에서 주가 급락위험 프리미엄(High – Low)의 결과 역시 VOLAT의회귀계수가 -1.84이고 t-값이 -2.47로 유의한 음(-)의 값을 나타낸다. 즉 주가급락위험 프리미엄과 시장 변동성 간의 강한 음(-)의 상관관계는 특히 주가 급락위험이 높은 종목들로 구성된 포트폴리오의 수익률(High)이 시장변동성과 유의한 음(-)의 상관관계를 나타내는 것에서 비롯된다.

표 7. 주가급락위험 프리미엄과 시장변동성

[표 7]의 결과는 예상대로 시장의 불확실성이 큰 시기일수록 주식의 본질가치를 정확히 추정하기 어려움으로 인해 투자자들의 행태재무학적 편의가 더 강하게 나타나고, 이에 따라 주가급락위험이 큰 종목들의 고평가가 더욱 심하게 일어나는 경향이 있음을 시사한다.

V. 결론

전통적 CAPM 모형에서는 시장수익률 변화에 대한 개별 종목 수익률 변화의 민감도로 해당 종목의 체계적 위험을 정의한다. 여기서 시장수익률이 상승할 때와 하락할 때의 체계적 위험을 별도로 구분하지 않는 것이 CAPM 모형의 특징이다. 그러나 현실적으로 투자자들은 손실회피성향을 가지고 있기 때문에, 특히 주가 하락위험이 기대수익률에 미치는 영향에 대한 많은 연구가 이루어져 왔다.

본 연구는 Atilgan et al.(2020)의 방법론을 활용하여 국내 주식시장을 대상으로 개별종목의 주가 급락위험을 과거 1년간 일별수익률의 VaR(Value-at-Risk) 통계량으로 정의하고, 주가급락위험이 기대수익률에 미치는 영향을 분석하였다. 분석결과를 요약하면 다음과 같다. 첫째, 매월 전체 종목을 주가급락위험의 크기 순으로 10개의 포트폴리오로 나눈 후, 주가급락위험이 가장 큰 포트폴리오를 매수하고 가장 작은 포트폴리오를 공매도하여 구성한 무비용 포트폴리오의 단순수익률(주가급락위험 프리미엄)은 월평균 –2.29%로 유의한 음(-)의 수익률을 나타내며, 이 중에서 체계적 위험으로 설명되는 부분을 제외한 위험조정수익률(FF-4 alpha)도 –1.89%로 유의한 음(-)의 값을 갖는다. 둘째, Fama-MacBeth 횡단면 회귀분석을 통해 기업규모, 장부가대시장가비율, 시장베타, 유동성, 최대수익률, 고유변동성, 왜도 등의 다양한 기업특성변수를 통제한 후에도 금월의 수익률에 대한 전월의 주가급락위험의 회귀계수는 –0.17로 유의한 음(-)의 값을 나타낸다. 셋째, 최근 1개월 내에 주가급락을 경험한 종목들 중에서도 급락 폭이 큰 상위 20%의 종목들이 –2.69%로 유의한 음(-)의 수익률을 나타내는 반면, 1년여 전의 과거에 일어난 주가급락사건은 수익률에 별다른 영향을 미치지 못한다. 넷째, 주가급락위험이 가장 큰 포트폴리오를 매수하고 가장 작은 포트폴리오를 공매도하여 구성한 무비용 포트폴리오 수익률(주가급락위험 프리미엄)을 시장수익률 변동성을 설명변수로 하여 회귀 분석하였을 때, 회귀계수는 –1.84로 유의한 음(-)의 상관관계를 나타낸다.

이러한 결과는 주가급락위험이 기대수익률에 영향을 미치는 것으로 알려진 기존의 여러 기업 특성변수들과 중복되지 않는 새로운 변수임을 시사한다. 특히 주가 급락위험이 큰 종목일수록 기대수익률이 낮은 현상은 재무학의 전통적인 위험-기대수익률 관계로 설명하기 어려운 모순적인 현상이다. 본 연구는 이를 설명하기 위해 행태재무학적 관점에서 접근하였다. 즉, 주가 급락위험이 높은 종목일수록 주가가 본질가치보다 고평가되는 이유는 주가급락위험을 투자자들이 실제보다 과소평가하는 경향으로 인해 해당 위험이 가격에 즉시, 그리고 충분히 반영되지 않기 때문이라는 것이다. 나아가, 추가적인 분석을 통해 시장의 불확실성이 커서 적정 주가의 추정이 어려운 시기일수록 행태재무학적 편의가 더욱 강해지고, 이에 따라 주가급락위험이 높은 종목의 수익률이 상대적으로 더욱 낮아지는 경향이 있는 것을 발견하였다.

본 연구의 기여점은 다음과 같다. 첫째, 기존의 주가 급락위험과 관련된 국내 논문들은 주로 주가 급락위험에 영향을 미치는 다양한 요인을 탐색하는데 초점을 맞추고 있는 반면, 주가급락위험이 기대수익률에 미치는 영향을 분석한 논문은 거의 발견하기 어렵다. 이에 따라 본 연구는 국내 주식시장을 대상으로 개별 종목 차원의 주가급락위험이 해당 종목의 기대수익률에 미치는 영향을 분석하고, 그 결과를 행태재무학적 관점에서 설명할 수 있는지 검증하였다. 둘째, 378개월(31년 6개월) 간의 장기 시계열자료를 분석하여, 주가급락위험 프리미엄의 시간적 변동이 같은 시기의 시장수익률의 변동성으로 설명된다는 사실을 밝혀냈다. 셋째, 본 연구의결과는 투자자들로 하여금 주가급락위험이 기존의 가격 결정요인과 중복되지 않는 새로운 요인으로서, 이를 투자의사 결정 시에 고려할 필요가 있다는 점을 시사한다.

본 연구의 방법론을 더욱 확장하여 이민규, 이상구(2016) 및 김종호, 정재호, 백성준(2013)과 유사한 방법을 적용함으로서 전체 종목을 기업규모를 비롯한 다양한 기준의 세부그룹으로 나누어 주가급락위험과 기대수익률 간의 관계를 살펴보는 것도 생각해볼 수 있을 것이다. 만약 각 그룹별로 결과에 차이가 존재한다면 그 원인이 무엇인지 밝히는 것도 흥미있는 후속 연구가 될 것으로 기대한다[15][35].

* 본 연구는 인천대학교 2021년도 자체연구비 지원에 의해 연구되었음