행동재무학(behavioral finance)이 발전함에 따라 투자자의 과신(overconfidence)이 주식 시장과 기업의 의사결정에 대한 넓은 범위의 현상을 설명할 수 있다는 연구가 등장하기 시작했다. Chen et al.(2007)은 신흥시장에서 중국 투자자들이 디스포지션 효과, 과신, 그리고 대표성 편향으로 인해 비합리적인 의사결정을 하고 결과적으로 낮은 투자성과를 가진다고 주장한다. Statman et al.(2006)은 투자자의 과신과 편향된 자기귀인(biased self-attribution)으로 인해 거래량이 증가하는 현상을 확인하고, 거래량회전율과 수익률간의 유의한 양의 관계를 발견한다. Daniel et al.(1998)은 투자자의 과신과 편향된 자기귀인이 주식시장의 과소반응(underreaction)과 과잉반응(overreaction)을 설명할 수 있다고 주장한다. Daniel et al.(1998)의 모형에 따르면, 투자자는 스스로의 능력을 과신하여 그들의 사적인 정보(private information)에 대하여 과잉반응한다. 투자자의 과신은 그들의 양의(음의) 사적인 정보에 대한 추가적인 과잉반응을 야기하므로 과거수익률은 미래수익률을 예측하게 된다. 이처럼, 계속적인 과잉반응(continuing overreaction, CO)은 투자자가 자신의 능력을 과신하여 사적인 정보에 과잉반응하고 차후 발생되는 공적인 신호(public signals)가 그들의 과신을 더욱 증가시켜, 결과적으로 그들의 사적인 정보에 대한 더 높은 과잉반응을 야기하는 것을 의미한다. 사적인 정보에 대한 투자자의 계속적 과잉반응이 단기적으로 모멘텀 현상을 발생시킨다면, 이는 과거수익률보다 미래수익률을 잘 예측할 수 있을 것이다. Byun et al.(2016)은 계속적 과잉반응에 대한 측정치를 구성하여 Daniel et al.(1998)에 대한 실증적 증거를 제공한다. 본 연구에서는 계속적 과잉반응의 측정치를 이용하여 국내 주식시장에서 계속적 과잉반응이 과거수익률보다 미래수익률을 더 잘 예측하고, 계속적 과잉반응으로 인해 모멘텀 효과가 약화됨을 보인다.

본 연구에서는 계속적 과잉반응을 나타내는 CO변수를 국내 주식시장에 도입하여 미래수익률을 예측하는지 여부를 검토한다. CO변수는 월별거래대금과 부호화된 동시간대 수익률로 구성하며 과거 12개월 동안 가중치가 적용된 월별 부호화된 거래량(signed volume)의 합계로 도출된다. Benos(1998)와 Odean(1998)은 투자자의 과신이 거래량을 증가시키는 현상을 제시하여 거래량이 투자자의 과신과 과잉반응의 대용치로 사용될 수 있다고 주장한다. 우리는 CO변수가 미래 수익률에 대한 예측력을 가지는지 평가한다. 먼저, CO변수로 10분위수 포트폴리오를 구성하고, CO가 가장 높은 포트폴리오를 매입하고 가장 낮은 포트폴리오를 매도하는 CO전략을 구성한다. 만약, CO변수가 미래 수익률에 유의한 예측력을 가진다면, 6개월에서 12개월간의 보유기간동안 유의한 양의 수익률을 가질 것이다.

우리는 기존의 연구에서 CO와 모멘텀과의 관계에 집중한 것을 발전시켜, 통제변수의 영향을 확인한다. 통제변수를 포함하는 것은 계속적 과잉반응이 주식수익률에 영향을 미친다는 타당성을 높인다. 선행연구에 따르면 계속적 과잉반응은 모멘텀현상에 핵심요인으로 작용한다. 먼저, 우리는 기준조정 수익률을 통해 CO전략과 모멘텀전략의 수익성을 비교분석한다. 국내 주식시장 에서 계속적 과잉반응의 모멘텀 조정수익률은 CO와 유의한 양의 관계에 있다는 것을 확인하는 반면, 모멘텀 수익률은 계속적 과잉반응에 의해 부분적으로 통제됨을 확인한다. 둘째, CO가 기업특성 요인에 의해 통제 되는지 여부를 확인하기 위해 다변량 분석을 진행한다. 기업특성 요인은 기존의 연구들에 의해 주식수익률에 유의한 영향을 준다고 나타난 시장베타(BETA), 기업규모(SIZE), 장부가치 대 시장가치(BEME), 과거수익률(PRET), 단기수익률반전(REV), 유동성(ILLIQ), 고유변동성(IVOL)이며, 본 연구에서 사용하는 CO는 거래량을 기반으로 도출되기 때문에 거래량회전율(TURN)을 추가적으로 고려한다. 기업특성 요인들을 통제한 경우에 CO 전략의 수익성은 여전히 유의한 양의 값이며, 이는 CO전략이 주식수익률에 가지는 예측력은 기업특성 요인에 의존한 것이 아님을 나타낸다. 셋째, Grinblatt and Moskowitz(2004)와 Da et al.(2014)은 수익률 지속성(return consistency)과 정보의 불연속성(information discreteness)이 과거수익률과 주식수익률간의 관계에 영향을 미치는지 확인한다. Grinblatt and Moskowitz(2004)는 과거수익률이 양의 값으로 지속된다면 기대수익률은 과거수익률의 지속성에 유의한 영향을 받는다고 나타낸다. Da et al.(2014)은 포트폴리오 구성기간동안 정보의 흐름이 연속적인지 여부를 확인하는 측정치로 정보의 불연속성(information discreteness, ID)을 제시하고, 연속적인 정보는 더 강한 수익률의 지속을 유도한다고 나타낸다. 따라서 동일한 방향의 수익률 시계열을 가진 주식은 극단적인 CO 포트폴리오에 포함될 경향이 있고, 이러한 주식은 높은 수준의 수익률 지속성과 낮은 수준의 정보 불연속성을 가질 가능성이 있다. 우리는 포트폴리오 분석을 통하여 CO전략이 정보의 불연속성의 효과에 기인하는지 여부를 확인한다. 더 나아가, Fama and MacBeth(1973)의 횡단면 회귀분석을 이용하여 기업특성 요인과 행태적 요인을 동시에 통제한 후에도 CO전략이 횡단면적으로 주식수익률에 유의한 예측력을 가지는지 확인 한다. 넷째, Grinblatt and Han(2005)에 따르면 미실현 자본이익의 대용변수가 모멘텀전략의 수익성을 창출하는 핵심변수이므로 미실현 자본이익 변수를 통제한 경우에는 과거수익률이 횡단면적으로 수익률을 예측하지 못한다. 우리는 모멘텀전략의 핵심변수로 나타난 미실현 자본이익과 계속적 과잉반응의 동시간대 영향을 확인한다. 다변량 포트폴리오 분석을 통하여 두 변수 중 주식수익률에 대해 더 강한 예측력을 가지는 변수를 확인하고, 국내 주식시장에서 나타나는 비대칭적 미실현 자본이익을 고려하여 CO전략의 수익성을 확인한다. 다섯째, Blitz et al.(2011)에서 제시한 잔여모멘텀(residual momentum)에 따라 잔여수익률을 이용한 잔여 계속적 과잉반응을 도출한다. 잔여모멘텀 전략이 기존의 모멘텀 전략보다 2배가량 높은 수익률과 지속성을 가진다는 선행연구와는 달리, 잔여 계속적 과잉반응 전략은 기존의 수익률 계속적 과잉반응에 비하여 낮은 수익률을 가진다. 그럼에도 불구하고, 잔여 계속적 과잉반응은 주식 수익률에 대해 유의한 양의 예측력을 가지며 잔여모멘텀에 의해 통제되지 않는다.

포트폴리오를 구성하는 과거 기간과 시장상태, 시장동태에 따른 계속적 과잉반응을 확인하여 CO전략의 수익성을 재점검한다. 먼저, 포트폴리오 구성기간을 과거 6개월, 9개월, 18개월과 24개월로 변경하여도 주식수익률에 대한 계속적 과잉반응의 양의 영향은 지속되는 것을 확인한다. 또한, 단기 모멘텀 수익률이 시장상태와 시장동태에 따라 결정된다는 Cooper et al.(2004)과 Asem and Tian(2010)의 연구를 따라 시장상태와 시장동태에 따른 계속적 과잉반응과 주식 수익률 간의 관계를 확인한다. 시장상태를 기준으로 분석한 결과에 따르면 상승시장과 하락시장 에서 CO전략은 모두 유의한 양의 수익률을 가진다. 상승시장과 하락시장 결과간의 차이를 통해 두 시장의 수익률 차이가 없다는 것을 확인하여 CO전략은 시장상태에 큰 영향을 받지 않음을 나타낸다. 더 나아가, 시장동태에 따라 CO전략을 분석한다. 과거시장이 상승시장 이라면 상대적으로 높은 수익률을 가지며, 동시간대 시장이 상승시장일 때 그렇지 않은 경우에 비하여 더 높은 수익률을 가진다. 종합하면 과거시장이 상승시장이며 동시간대 시장도 상승시장 으로 유지될 경우에 CO전략의 수익성은 가장 높고, 주식수익률에 대한 계속적 과잉반응의 예측력이 가장 강하다.

본 연구는 국내 주식시장에서 투자자의 계속적 과잉반응이 주식수익률이 미치는 현상을 조사한다. 월별거래대금과 월별수익률을 기반으로 도출된 계속적 과잉반응의 측정치는 주식 수익률간의 유의한 양의 관계에 있다. 다시 말해, 국내 주식시장에서 투자자는 그들의 사적인 정보에 대해 과잉반응한다. 더 나아가, 다양한 통제변수를 도입하여 주식수익률에 대한 계속적 과잉반응의 예측력을 재점검한다. 기업특성 요인과 행태적 요인을 고려한 후에도 계속적 과잉반응 전략의 수익성이 유지되므로 국내 주식시장에서 거래량을 이용한 투자전략이 수익성을 가진다는 사실을 확인한다. 본 연구는 투자자의 계속적 과잉반응과 주식수익률에 유의한 관계를 확인하여 관련분야의 시사점을 제시한다. 또한, 행동재무학 관점에서 투자자의 비합리적인 행동을 확인 한다는 점에서 기여를 가진다.

본 연구는 다음과 같이 구성된다. 제 2장은 선행연구를 나타내고, 제 3장에서는 계속적 과잉 반응과 주요 변수, 자료 및 방법론에 대해 설명한다. 제 4장에서는 계속적 과잉반응과 주식수익률의 관계를 확인한다. 모멘텀, 기업특성 요인, 수익률 지속성, 정보의 불연속성, 그리고 미실현 자본이익을 통제한 결과를 나타내고 그 내용을 해석한다. 추가적으로 잔여 계속적 과잉반응과 주식수익률간의 관계를 확인한다. 제 5장에서는 강건성 검정을 나타내고, 제 6장에서는 결론을 제시한다.

Daniel et al.(1998)에 따르면 투자자의 과신과 편향된 자기귀인이 주식시장의 과소반응과 과잉반응을 설명한다. 투자자는 스스로의 능력을 과신하여 그들의 사적인 정보에 대하여 과잉 반응한다. 차후에 발생하는 공적 신호(public signal)는 그들의 사적인 정보에 대한 과잉반응을 촉진시킨다. 이와 같은 과잉반응은 편향된 자기귀인으로 이어져 추가적인 과신을 야기한다. 따라서 높은(낮은) 과거수익률은 투자자가 그들의 양의(음의) 사적인 정보에 더욱 과신하게 하며 투자자의 과신은 양의(음의) 사적인 정보에 대한 추가적인 과잉반응을 야기한다. 사적인 정보에 대한 투자자의 계속적 과잉반응(continuing overreaction: CO)은 단기적으로 모멘텀 현상을 야기하며 과거수익률은 미래 수익률을 예측하게 된다. Daniel et al.(1998)의 결과와 같이 계속적 과잉반응이 모멘텀 현상을 유발한다면, 이는 과거수익률 보다 미래수익률을 잘 예측할 것이다.

이와 유사하게 많은 실증연구들은 투자자의 과신과 거래량의 관계에 대한 증거를 제시한다. Benos(1998)에 따르면 일부 위험 중립적 투자자들이 그들의 사적인 정보를 과대평가하여 과신하는 현상이 발생하고, 결과적으로 과신이 거래량을 증가시킨다. Gervais and Odean (2001)은 거래자가 그들의 능력에 대해 과신한다는 사실을 확인하고 투자자의 과신에 따른 거래량과 기대이익, 가격변동성, 기대가격의 변화패턴을 분석한다. Glaser and Weber(2009)에 따르면 과거 포트폴리오 수익률은 개인 투자자의 거래활동(거래량, 포트폴리오 회전율 등)에 영향을 미치며 투자자의 과신에 의해 높은 수준의 거래량이 발생한다. 위의 실증 결과에 따르면 거래량은 투자자의 과신과 과잉반응을 나타내는 대용치가 된다.

최근의 많은 연구는 투자자의 과신이 주식시장에 미치는 영향을 나타내며 기존 연구결과를 지지하는 실증적 증거를 제시한다. Luo et al.(2021)은 정보에 대해 과신하는 투자자는 주식시장에 과잉 유동성을 공급을 유도하며, 이는 모멘텀 현상과 이어진다고 주장한다. Chuang and Lee(2006)에 따르면 투자자는 사적인 정보에 과잉반응하고 공적인 정보에 과소반응한다. 따라서 투자자의 과신은 투자자를 더욱 공격적이게 만든다. Adebambo and Yan(2016)은 모멘텀 효과를 설명하는데 있어 투자자의 과신과 편향된 자기귀인의 역할을 검토한다. 과신이 높은 펀드 매니저가 그렇지 못한 펀드매니저보다 더 큰 모멘텀 이익과 더 강한 수익률 반전현상을 가지는 것을 확인하여 Daniel et al.(1998)을 지지한다. Cooper et al.(2004)에 따르면 모멘텀 전략의 수익성은 시장의 상태에 따라 변화하고 Daniel et al.(1998)의 결과와 동일하게 상승시장(up market)에서 모멘텀 전략의 수익성이 높다. Chui et al.(2010)은 투자자의 과신과 편향된 자기귀인에 관련된 개인주의 지수를 측정하여 문화적 차이가 모멘텀 전략의 수익률에 미치는 영향을 조사한다. Hou et al.(2009)에 따르면 상승시장에서 거래량이 많은 주식은 모멘텀 이익을 취한다. Byun et al.(2016)은 Daniel et al.(1998)을 바탕으로 계속적 과잉반응을 나타내는 측정치를 정의한다. 더 나아가, 계속적 과잉반응과 주식수익률의 양의 관계를 확인한다.

Byun et al.(2016)은 미국 주식시장으로 표본으로 계속적 과잉반응에 대한 측정치를 도출하여 Daniel et al.(1998)에 대한 실증적 증거를 제공한다. 계속적 과잉반응(continuing overreaction)을 나타내는 CO변수는 동시간대 주식수익률과 월별거래대금으로 구성된다. 거래대금은 가중치가 부여된 부호화된 거래량을 사용한다. Byun et al.(2016)에 따르면 CO는 과거수익률보다 미래수익률에 대한 예측력이 높고, CO전략의 수익성은 모멘텀 전략의 수익률을 조정한 후에도 유지된다. CO가 가장 높은 주식을 매입하고 CO가 가장 낮은 주식을 매도하는 CO전략은 유의한 양의 수익률을 가지며, CO전략의 수익률은 포트폴리오 구성이후 12개월까지 지속된다.

최근의 많은 연구들은 투자자의 과신이 전통적 가격결정 모형으로 설명할 수 없는 주식시장의 현상들을 설명한다고 주장한다. 특히, Daniel et al.(1998)은 투자자의 과신과 편향된 자기귀인을 기반으로 주식시장의 과소반응과 과잉반응을 설명한다. 이 후 다수의 실증연구가 위의 모형을 뒷받침하는 증거를 제시한다. Byun et al.(2016)은 미국 주식시장을 표본으로 하여 투자자의 과신과 편향된 자기귀인으로 인한 계속적 과잉반응이 주식수익률을 예측한다는 모형을 제시한다. 가중치가 부여된 부호화된 거래량을 이용한 CO변수를 정의하고, CO를 기준으로 포트폴리오 분석을 통해 CO는 주식수익률과 유의한 양의 관계에 있음을 확인한다.

본 연구는 국내 주식시장을 표본으로 Byun et al.(2016)에 따라 투자자의 계속적 과잉반응과 주식수익률간의 관계를 분석한다. CO를 기준으로 10분위수 포트폴리오를 구성하여 CO가 가장 높은 포트폴리오에 속한 주식을 매입하고, CO가 가장 낮은 포트폴리오에 속한 주식을 매도하는 전략은 비정상적인 양의 수익률을 창출한다. 우리는 계속적 과잉반응의 전략과 모멘텀간의 관계를 분석한 선행연구의 한계를 극복하기 위하여 여러 가지 통제변수를 이용한 다변량 포트폴리오 분석을 사용한다. 다변량 포트폴리오 분석을 이용하여 주식수익률에 대한 계속적 과잉반응의 예측력을 확인한다.

먼저, Daniel et al.(1998)의 모델은 모멘텀 현상을 설명하는 선도적인 행동요인으로 계속적 과잉반응을 제시한다. CO변수가 과거수익률에 비하여 미래수익률을 잘 예측한다면, 이는 위의 모델을 지지하는 증거가 된다. 우리는 모멘텀전략의 수익률을 조정한 CO전략의 수익률이 여전히 유의한 양의 수익률을 가지는 것을 확인한다. 반면, 모멘텀 전략의 경우 CO를 제어한 후에 단조로운 증가패턴이 사라진다. CO전략의 포트폴리오 수익률에서 더 높은 샤프비율과 유의한 단조로운 증가패턴을 보여준다.

우리는 선행연구에 의하여 주식수익률에 유의한 영향을 미친다고 나타난 기업특성 요인을 통제하여 기존 연구의 한계를 극복한다. 기업특성 요인인 기업규모, 장부가치 대 시장가치, 과거수익률, 단기수익률반전, 유동성, 고유변동성, 거래량회전율을 통제한 후 여전히 CO전략이 유의한 양의 수익률을 가짐을 확인한다. 그 결과, CO전략의 수익성은 기업특성 요인에 기인한 것이 아니라는 것을 나타낸다. 더 나아가, 수익률 지속성과 정보의 불연속성을 제어한 경우에도 CO 포트폴리오 수익률은 단조로운 패턴을 유지하고, CO전략은 유의한 양의 수익률을 가진다.

또한, Grinblatt and Han(2005)에 따라 모멘텀을 설명하는 핵심요인인 미실현 자본이익이 CO전략에 미치는 영향을 분석한다. 그 결과, 국내 주식시장에서 양의(음의) 미실현 자본이익을 가진 주식은 투자자들에게 저평가(고평가)되어 높은(낮은) 주식수익률을 가지는 현상이 나타남 에도 불구하고, 미실현 자본이익을 통제한 후 CO전략은 여전히 유의한 양의 수익률을 가진다. 따라서 CO변수가 미래수익률을 예측할 수 있으며, 과거 수익률보다 미래수익률에 대한 예측성이 높다는 사실을 확인한다.

추가적으로, CAPM으로 도출된 잔여수익률을 이용하여 잔여 계속적 과잉반응 측정치를 정의한다. 기존의 선행연구에 따르면 잔여모멘텀은 모멘텀 전략보다 더 높고 일관성 있는 성과를 가진다. 우리는 모멘텀과 유사한 결과를 가지는 계속적 과잉반응에 대한 분석을 진행한다. 그 결과, 잔여 계속적 과잉반응은 기존의 계속적 과잉반응과 유사하게 주식수익률에 대한 양의 예측력을 가진다. 하지만, 무비용 포트폴리오 전략과 누적수익률의 경우에서 기존의 계속적 과잉반응에 의한 수익률이 더 높은 값을 가진다. RCO전략의 잔여모멘텀 조정수익률은 증가하는 패턴을 가지는 반면, 잔여모멘텀 포트폴리오의 RCO 조정수익률은 통계적으로 유의하지 않다. 다시 말해, 국내 주식시장에서 잔여모멘텀의 영향은 RCO에 의하여 설명된다. 따라서 잔여 수익률로 도출된 잔여 계속적 과잉반응보다 주식수익률을 기반으로 도출된 계속적 과잉반응이 미래수익률과 더 강한 양의 관계를 가짐을 확인한다.

강건성 검정에서는 포트폴리오 구성기간을 변경한 결과와 시장상태, 시장동태에 따른 결과를 나타낸다. 포트폴리오 구성기간을 6개월, 9개월, 18개월, 24개월로 변경한 결과, CO전략은 여전히 유의한 양의 수익률을 가진다. 그럼에도 불구하고, 과거 12개월 수익률로 포트폴리오를 구성하였을 경우 포트폴리오의 수익률이 가장 높은 값을 가지므로 과거 12개월 수익률로 계속적 과잉반응을 추정하는 것을 지지한다. 추가적으로 시장상태와 시장동태에 따른 CO전략을 분석한다. 기존의 연구에 의하면 모멘텀 전략은 상승시장에서 더욱 뚜렷하게 나타난다. 반면, CO전략은 상승시장과 하락시장 모두 유의한 양의 수익률을 가진다. 이와 유사하게, 시장동태에 따른 결과도 모두 유의한 양의 값을 가진다. 본 연구의 결과는 과신과 편향된 자기귀인으로 인한 투자자의 계속적 과잉반응이 주식수익률 예측성을 가진다는 Byun et al.(2016)의 주장을 지지한다.

본 연구는 잘 알려진 두 가지의 심리적 편향인 투자자의 과신과 편향된 자기귀인을 기반으로 주식시장의 과소반응과 과잉반응 현상을 설명한다. 거래량을 기반으로 계속적 과잉반응을 정의하고 국내 주식시장을 분석했다는 기여를 가지며, 관련분야의 발전에도 의미 있는 시사점을 준다. 또한, 국내 주식시장에서 뚜렷한 모멘텀현상이 발생하지 않는다는 기존의 선행연구를 기반으로 모멘텀현상의 핵심변수로 제시된 계속적 과잉반응의 유의한 영향을 제시한다. 특히, 기존의 모멘텀에 비하여 더 높은 수익률과 일관성을 가진다는 잔여모멘텀의 개념을 도입하여 잔여 계속적 과잉반응을 제시한다. 잔여수익률을 이용한 계속적 과잉반응은 기존의 계속적 과잉반응에 비하여 주식수익률에 낮은 영향을 주지만, 국내 주식시장에서 유의한 영향을 미침을 확인한다. 시간이 지남에 따라 국내 주식시장에서 투자자의 행태적 요인이 주식시장과 주식가격에 미치는 영향에 대한 연구가 증가하고 있다. 본 연구는 투자자의 심리적 편향이 주식시장에 미치는 영향과 심리적 편향으로 인해 발생하는 현상을 설명하는데 있어 관련분야에 의미 있는 시사점을 준다.