옵션시장에서 내재변동성의 변동성 미소 또는 변동성 조소 현상이 관찰되는 점이나 BS 모형의 미래 옵션 가격 예측 및 헤징 성과의 부진한 성과에도 불구하고 BS 모형은 여전히 여러 시장 참가자들에 의해 활용되고 있다. 시장 참가자들은 BS 모형을 그대로 활용하지 않고 시장에 맞게 변형하여 활용한다. 옵션 시장의 변동성 미소 현상을 반영하여, 내재변동성이 행사가격 및 잔존만기에 따라 다르다고 가정하는 Ad Hoc Black-Scholes(AHBS) 모형을 이용한다. Dumas, Fleming and Whaley(1998)은 AHBS 모형이 변동성이 늘 일정하다고 가정한 BS 모형과 관련된 문제점을 일부 해결할 수 있음을 확인하였다. AHBS 모형은 각 옵션의 내재변동성이 행사가격과 잔존만기의 함수라고 가정한다.

AHBS 모형은 크게 두 가지로 분류할 수 있다. 첫째 “relative smile” 모형은 옵션의 ‘상대적인’ 가격도(moneyness)와 잔존만기를 독립변수로 옵션의 내재변동성을 종속변수로 회귀분석한다. 이 방법은 “sticky volatility” 모형이라 한다. 둘째, “absolute smile” 모형은 옵션의 ‘절대적인’ 행사가격(strike price)과 잔존만기를 독립변수로 옵션의 내재변동성을 종속변수로 회귀분석한다. 이 모형은 “sticky delta” 모형이라고 한다. AHBS 모형의 우수한 성과를 보고한 기존의 연구들은 “absolute smile” 모형을 사용했고 반면 AHBS 모형의 열위한 성과를 보고한 연구들은 “relative smile” 모형을 사용했다. 즉, AHBS 모형 가운데는 기존 연구들과 일관되게 “absolute smile” 모형의 성과가 “relative smile” 모형보다 더 나을 것으로 예상된다.

본 연구에서는 잔존만기가 단일한 위클리 옵션을 대상으로 하므로 잔존만기 항을 제외하고 행사가격만을 고려한 AHBS 모형을 아래와 같은 4가지의 형태로 가정한다.

여기서, σ_i는 행사가격K_i인i번째 옵션의 내재변동성이다. 기초자산 즉 KOSPI 200 지수는S이다. 행사가격을 독립변수로 사용한 첫 두 모형(A1, A2)은 “absolute smile” 모형이고 가격도를 독립변수로 사용한 나머지 두 모형(R1, R2)은 “relative smile” 모형이다. A1 모형은 절편, 행사가격을 A2 모형은 절편, 행사가격, 행사가격의 제곱을 독립변수로 사용한다. R1 모형은 절편, 가격도를 R2 모형은 절편, 가격도, 가격도의 제곱을 고려한다. 행사가격 및 가격도의 삼제곱, 사제곱 등 더 복잡한 모형을 활용할 수 있으나 실증분석 결과 추가적인 독립변수의 증가는 기존 모형들의 결과를 유의하게 개선 시키지 않았기에 본 연구에서는 AHBS 모형의 독립변수로 행사가격 또는 가격도의 제곱항까지를 고려한다.

AHBS 모형은 다음 네 단계에 따라 실행된다. 첫째, 각 옵션으로부터 BS 모형의 내재변동성을 추정한다. 둘째, 행사가격 또는 가격도를 독립변수로 내재변동성을 종속변수로 회귀분석을 실시하여 일별 회귀 계수들, β_i (i=1,2,3)을 추정한다. 셋째, 식 (1)-(4)의 AHBS의 각 모형에 두 번째 단계에서 추정한 회귀 계수들과 목표 예측 기간에 따라 1일 후의 실제 옵션들의 행사가격 또는 가격도를 대입하여 종속변수인 내재 변동성을 구한다. 마지막 으로 세 번째 단계에서 계산된 내재변동성을 BS 모형에 대입하여 해당 옵션의 이론 가격을 도출한다.

여기서, C(t,τ;K), P(t,τ;K)는 시점t의 행사가격 K, 잔존만기τ를 지닌 콜옵션과 풋옵션의 가격이다. S_t는 시점 t의 주가, r은 무위험수익률, σ는 주식수익률의 연간 변동성, N(∙)는 정규분포의 누적확률함수이다. AHBS 모형은 실제 시장에서 활용되고 있으며 수학적으로 정교한 여러 옵션가격결정모형들의 우수한 대안이 되어왔기에 본 연구에서도 비교 대상 모형으로 고려한다.

본 연구에서는 성과 비교를 위하여 연속 시간(continuous time) 가정 하에서의 확률 변동성과 점프를 함께 고려하는 폐쇄해를 지닌 Bakshi et al.(1997) 모형을 고려한다. 첫째, 변동성이 평균 회귀 성향을 보이며 기초자산의 가격과 상관관계를 지닌다고 가정한 확률 변동성 모형이 옵션 시장을 가장 잘 설명한다는 점을 보인 Bakshi et al.(1997, 2000), Kim and Kim(2004, 2005)의 결과에 따라 확률 변동성을 고려한다. 둘째, 본 연구의 대상인 KOSPI 200 위클리 옵션과 같은 단기 옵션에서 점프항의 추가적인 개선 효과를 보인 Bakshi et al.(1997), Kim and Kim(2005)의 결과에 따라 점프항도 함께 고려한다. 본 모형은 폐쇄해를 지닌다는 장점과 함께 국내외 여러 옵션 시장에서의 가격결정 및 헤징 성과가 우수하였기에 비교 대상으로 적절하다. 배당을 지급하지 않는 기초자산과 변동성에 대한 위험중립확률(risk-neutral probability) 하에서 확산 프로세스(diffusion process)는 다음과 같이 정의된다.

여기서, dW_s,t와dW_ν,t는ρ의 상관관계를 지니는 위너 과정(Wiener process)이다. ν_t는 순간 분산(instantaneous variance), κ_ν는 장기 평균(long-run mean)인θ/κ로 회귀하는 속도(speed of adjustment), σ_ν는 분산의 변동성(volatility of variance)이다. J_t는 시간에 대해서 독립 항등(independent and identically)이고 비조건부 평균이μ_J인 대수정규분포(lognormal distribution)를 따르는 점프가 발생할 때의 퍼센트 점프의 크기이다. ln⁡(1+J_J)의 표준편차는σ_J이다. q_t는 점프가 일어날 횟수에 대한 기대값을λ로 갖는 포아송(Poisson) 분포를 따른다. q_t와J_t는 서로 독립이다.

기초자산, 변동성, 점프에 대한 확산 프로세스(diffusion process)를 식 (8)~(10)과 같이 가정하면 잔존만기τ를 가진 유럽형 콜옵션 가치는 다음과 같다.

여기서, Re[∙]는 복소수의 실수 부분, i는 허수, f_j (S_t,υ_t,τ;ϕ)는 특성 함수(characteristic function)이다(Bakshi et al., 1997 참조). 풋옵션의 가치는 풋-콜 패러티(put-call parity)에 의하여 계산될 수 있다. 식 (11)의 옵션평가모형은 기존의 옵션평가모형들을 포함한다. 예를 들면 λ=0, θ_ν=κ_ν=σ_ν=0를 가정하면 BS 모형, λ=0을 가정하면 점프항을 제외하고 확률 변동성 만을 고려한 SV(stochastic volatility) 모형이 된다.

식 (11)의 옵션가격결정모형 활용을 위하여 변동성과 구조화 모수들(structural parameters)의 추정이 필요하다. 폐쇄형이 존재하는 옵션평가모형들의 모수를 추정하는 일반적인 방법은 모형(이론)가격과 옵션의 실제 시장가격 사이의 오차 제곱의 합을 최소화하는 비선형 최소 자승법(non-linear least square)이다. 옵션 자료를 활용하는 추정의 가장 중요한 장점은 옵션 가격에 담긴 미래 지향적(forward-looking)인 특성의 활용에 있다. 또한 옵션 자료를 활용하면 다른 모수들과 함께 위험 요인들의 위험 프리미엄(risk premium)을 함께 추정할 수 있다. 기초자산의 과거 시계열 자료로부터 구조화 모수를 추정하는 방법도 대안으로 고려해 볼 수 있으나 기초자산의 과거 시계열 자료는 오직 과거만을 반영할 뿐 미래에 대한 좋은 예측 정보를 담고 있지 않다.

아래 식 (13)과 같이 모형(이론)가격과 시장가격 사이의 오차 제곱의 합을 최소화하여 각 옵션가격결정모형의 모수들을 추정한다.

여기서, O_i,t는t시점 옵션 i 의 시장가격, O_i,t*는t시점 옵션 i의 모형가격, N_t 는 t 시점에 거래된 옵션의 수이고T는 표본에 포함된 총 거래일이다.

<표 4>의 <가>는 AHBS 모형들의 회귀 계수 추정치의 일별 평균값과 표준오차(standard error), R²값이다. 각 모수들은 옵션의 행사가격 또는 가격도를 독립변수로 하고 옵션 가격으로부터 추정한 내재변동성을 종속변수로 사용하여 회귀분석을 통해 추정한다. <그림 1>의 결과에서 예상되었던 것처럼 A1 모형의 행사가격 계수는 음수를, R1 모형의 가격도 계수는 양수로 추정되며 가격도에 따라 비대칭적인 변동성 조소 현상과 일관된 추정결과를 보인다. 모형의R²값은 독립변수가 많은 A2, R2 모형이 A1, R1 모형보다 크게 추정된다. <표 4>의 <나>는 BS, SV, SVJ 모형의 모수들의 추정치와 표준오차이다. 기존 연구결과와 마찬가지로 SV와 SVJ 모형에서 기초자산 수익률과 변동성의 상관계수는 각각 평균적으로 -0.3711, -0.5296의 음수로 추정된다. 이는 <그림 1>의 변동성 조소 현상과 일관된 결과가 할 수 있다. 본 연구의 표본에는 COVID-19 위기가 포함되어 있어 점프항의 빈도가 크게 추정됨을 확인할 수 있다. 평균적인 점프의 크기인μ_J는 음수로 추정되며 기존 연구결과와 마찬가지로 점프는 평균적으로 하락의 방향성을 지녔음을 확인할 수 있다. 이 또한 변동성 조소와 일관된 결과라 할 수 있다.

내표본 가격결정 성과는 각 옵션가격결정모형에 필요한 모수를 당일의 옵션 가격으로 추정한 후 해당 모형에 대입하여 이론적인 옵션 가격을 구한 후 시장 가격과의 차이를 비교한다. <표 5>는 각 옵션가격결정모형의 가격도 별 내표본 가격결정 오차이다. 우선 변동성이라는 1개의 모수를 지닌 BS 모형이 가장 큰 오차를 보인다. AHBS 모형의 내표본 가격결정 오차는 <표 4>에 제시된 R² 값의 크기 순서와 일치한다. 예상대로 많은 독립변수를 이용하여 추정된 높은R²값을 지니는 모형들의 내표본 가격 오차가 더 작다. AHBS 모형 가운데는 모수가 3개인 A2 모형과 R2 모형이 우수한 성과를 보인다. 역시나 예상대로 모수가 8개로 가장 많은 SVJ 모형이 MAE와 MSE에서 모두 가장 낮은 오차를 보이며 내표본 가격결정에서 가장 우수한 성과를 보이는 모형 임을 확인할 수 있다. 내표본 가격 결정 오차는 등가격과 가까운 가격도를 지닌 옵션들의 오차가 가장 크고 등가격에서 멀어질 수록 MAE와 MSE로 측정되는 오차가 감소함을 확인할 수 있다. 이는 등가격 근처의 옵션 가격이 외가격 옵션들보다 절대적으로 더 크기에 당연한 결과이다.

결론적으로 내표본 가격결정 성과는 모수의 수가 많은 수학적으로 정교한 옵션가격결정 모형인 SVJ 모형이 가장 우수한 성과를 보인다. AHBS 모형들 중에서는 독립변수의 수가 많은 A2, R2 모형이 더 나은 성과를 보인다. 내표본에서 가장 우수한 성과를 보인 SVJ 모형은 과적합(over-fitting)의 문제를 극복하고 내표본 가격결정의 우수한 성과를 외표본 가격결정과 헤징 성과에서도 계속 유지할 수 있을까?

옵션가격결정모형의 모수의 숫자가 증가할수록 내표본 가격 결정 성과가 개선되는 것은 당연한 결과이다. 이는 회귀분석에서 독립변수의 개수가 증가하면서 R² 값이 함께 증가하는 현상과 유사하다. 그러나, 과도한 모수의 증가는 과적합의 문제를 야기할 수 있기에 현재 주어진 정보로 미래를 예측해야하는 외표본 가격 결정 성과는 반드시 함께 살펴봐야 한다. 본 연구는 당일의 옵션가격으로부터 추정된 모수를 옵션가격결정모형에 입력하여 1일후의 옵션가격을 예측하는 외표본 가격 결정 성과를 고려한다.2) 외가격 가격결정 성과 분석을 통하여 옵션가격결정모형에 활용되는 모수들의 안정성(stability)을 확인할 수 있다.

<표 6>은 옵션가격결정모형의 가격도 별 1일 외표본 가격결정 오차이다. 첫째, A1 모형이 MAE와 MSE에서 모두 가장 낮은 오차를 보이며 위클리 옵션 시장에서 제일 우수한 옵션평가모형임을 확인할 수 있다. 이는 KOSPI 200 옵션 자료를 이용한 Kim(2009, 2014a, 2014b, 2015, 2017)의 결과에서 AHBS 모형이 확률 변동성 모형 중 하나인 Heston(1993) 모형보다 더 나은 성과를 보였던 결과와 일치한다. 둘째, BS 모형의 성과가 타 모형들에 비하여 그다지 열위에 있지 않다. 이는 기존 KOSPI 200 옵션 시장에서 옵션가격결정모형의 성과를 분석한 다른 연구 결과들과는 다르다. 위클리 옵션 시장이 개설된 지 얼마 되지 않아서 아직은 시장 참여자들이 BS 모형에 기반하여 평가를 하고 있을 것으로 추정된다. 셋째, 내표본 가격결정 성과에서 가장 우수했던 모수의 개수가 많은 SV와 SVJ 모형이 BS 모형에 대한 개선효과를 보이지 못했다. 이는 모형의 많은 모수가 과적합의 문제를 야기시킨 결과라고 생각된다. 즉 많은 모수의 모형이 현재의 옵션 시장은 잘 설명하나 옵션 가격의 예측에서는 좋지 못한 성과를 보임을 확인할 수 있다. 넷째, AHBS 모형들 중에서는 독립변수의 개수와 종류가 동일한 모형들의 경우 “absolute smile” 모형이 “relative smile” 모형보다 우수한 성과를 보였다. 이는 Jackwerth and Rubinstein(2012), Li and Pearson(2008b), Kim(2009, 2014a, 2014b, 2015, 2017), Choi and Ok(2011)의 연구와 일관된 결과이다. 또한 행사가격과 가격도의 제곱을 고려한 모형들이 일차항 만을 고려한 모형보다 나은 성과를 보이지 않는다. 이는 Kim(2009)의 행사가격과 가격도의 일차항만을 고려한 모형이 더 나은 성과를 보였던 연구와 일관된 결과를 보인다. 마지막으로 외표본 가격결정 성과에서는 가장 우수한 모형과 열악한 모형의 차이가 감소함을 확인할 수 있다. 내표본 가격결정 성과에서 오차가 가장 작은 SVJ 모형과 오차가 가장 큰 모형인 BS 모형의 MAE 측정치는 3.63배 차이를 보이나 1일 외표본 가격결정 성과에서는 가장 우수한 모형인 A1 모형과 BS 모형 간의 차이가 1.04배로 감소하며 예측에서 과적합의 문제가 발생하고 있음을 확인할 수 있다.

결론적으로 외표본 가격결정 성과 검증에서 독립변수가 적은 “absolute smile”의 A1 모형이 가장 나은 성과를 보인다. 다만, BS 모형 대비 개선 효과는 크지 않으며 KOSPI 200 위클리 옵션 시장에서는 BS 모형이 옵션 가격 예측에서 어느 정도의 역할을 하고 있음을 확인할 수 있다.

헤징 성과는 옵션 가격의 변동성 예측력을 평가한다. 가격결정이 옵션 가격의 절대적인 높낮이를 예측하는 것이라면 헤징은 옵션 가격의 변화를 예측한다. 최적의 옵션가격결정모형은 가격결정과 함께 헤징에서도 함께 우수한 성과를 보여야 한다. 옵션 거래자들은 기초자산의 변화를 위험요인으로 가정한 델타 헤징을 활용한다. BS, AHBS 모형의 경우 델타 헤징을 헤징 성과 비교에 활용할 수 있으나 변동성 및 점프 등의 내재된 위험 요인이 추가로 존재 하는 SV와 SVJ 모형의 경우 델타 헤징 만으로 헤징 성과를 비교할 수 없다. 또한 Alexander and Nogueira(2007)는 SV와 SVJ 모형의 델타 헤지 비율이 이론적으로 동일하여 성과를 비교할 필요가 없음을 보였다. SV와 SVJ 모형의 경우 여러 위험 요인을 함께 고려하여야 하기에 헤징 성과를 제대로 측정하기 위해서는 기초 자산의 가격 변화 위험 뿐 아니라 변동성 및 점프 위험을 함께 헤징 해야 한다. 이렇게 여러 위험 요인을 함께 고려하여 헤징 성과를 측정하기 위해서 Dumas, Fleming, and Whaley(1998), Gemmill and Saflekos(2000), Kim(2009, 2017, 2021) 등이 제안한 식 (16)의 헤징 오차를 사용한다.

여기서, ∆_Oi,t는 시점 t 에서 1일 후의 옵션 시장 가격의 변화를 의미하고, ∆_Oi,t*는 시점 t 에서 1일 후의 옵션 이론 가격의 변화를 의미한다.

<표 7>은 각 옵션가격결정모형의 가격도 별 헤징 성과이다. 첫째, 헤징 성과에서 MAE에서는 A2 모형이 MSE에서는 BS 모형이 모두 가장 작은 오차를 보인다. A1 모형과 BS 모형 간의 성과 차이는 크지 않았다. 둘째, 내표본 가격결정에서 우수한 성과를 보였던 SV, SVJ 모형은 가장 좋지 않은 헤징 성과를 보이며 BS 모형보다 열위한 성과를 보였다. 외표본 가격 결정 모형에서도 나타난 과적합의 문제가 헤징 성과 검증에서도 동일하게 등장하였다. 이는 짧은 만기의 KOSPI 200 옵션에 대한 성과를 분석한 Kim(2009)의 연구결과와 일관된 결과를 보인다. 셋째, BS 모형의 성과가 외표본 가격 결정 성과와 마찬가지로 다른 모형들에 비하여 나쁘지 않은 성과를 보였다. 제일 우수한 성과를 보인 A1 모형과도 큰 차이를 보이지 않았다.

결과적으로 헤징 성과는 A1 모형과 BS 모형이 가장 우수한 결과를 보였으며 두 모형 간의 차이는 크지 않았다. 역시 KOSPI 200 위클리 옵션 시장에서 BS 모형은 헤징 성과에서도 우수한 성과를 보였다.

지금까지 KOSPI 200 위클리 옵션에 대한 여러 옵션평가모형들의 내표본 및 외표본 가격결정과 헤징성과 비교를 통하여 모형의 우열을 검증하였다. 본 연구에서는 옵션가격결정 모형들의 성과 차이를 두가지 각도로 강건성 검증(robustness check) 한다. 첫째, <표 8>은 각 모형의 외표본 가격결정 및 헤징 성과를 1개월 단위의 세부 기간으로 나누어 MAE 평균을 계산한다. 이를 통해 전체 기간에서 우수한 모형으로 판단된 모형이 세부 기간에 관계없이 일관되게 다른 모형들보다 더 나은 성과를 지속적으로 보이는지 확인한다. <표 8>에서 1위에 표시되어있는 모형이 해당 월에서 가장 낮은 MAE 오차를 보이는 모형이다. 시장 상황 확인을 위하여 KOSPI 200의 월별 수익률, VKOSPI의 월별 평균값을 함께 살펴본다.3) 세부 기간에는 기초자산 및 변동성의 크고 작은 상승과 하락 기간이 모두 포함되어 있어 강건성 검증으로서 적절한 기간으로 판단된다. 우선 외표본 가격결정오차에서는 특정한 모형이 모든 세부 기간에서 우위를 보이고 있지는 않으나 A1 모형이 총 21개월 중 8개월에서 가장 낮은 오차를 보이며 가장 1위를 많이 차지한 모형 임을 확인할 수 있다. 또한 “absolute smile” 모형의 성과가 “relative smile” 모형의 성과보다 3개월의 예외를 제외하고는 모든 세부 기간에서 더 나은 성과를 보임을 확인할 수 있다. 결과적으로 전체 기간의 평균적인 결과와 마찬가지로 외표본 가격결정 성과에서는 “absolute smile”의 A1 모형이 다른 모형들보다 나은 성과를 보이는 세부 기간이 가장 많이 관찰되나 일관되게 다른 모형을 지배하지는 못하였다. COVID-19 상황으로 주가지수가 크게 하락한 2020년 2, 3, 4 월에는 옵션 가격결정 모형과 관계없이 오차가 크게 증가함을 확인할 수 있었다. 헤징 성과에서도 특정한 모형이 모든 세부 기간에서 일관된 우위를 보이고 있지 않으며 A2 모형이 총 21개월 중 9개월에서 가장 좋은 성과를 보이며 1위를 많이 차지한 모형 임을 확인할 수 있다. 또한 “absolute smile” 모형의 성과가 “relative smile” 모형의 성과보다 4개월의 예외를 제외하고는 더 나은 성과를 보임을 확인할 수 있다. 결과적으로 전체 기간의 평균적인 결과와 마찬가지로 헤징 성과에서도 A2 모형이 다른 모형들보다 나은 성과를 보이는 세부 기간이 가장 많이 관찰되나 일관되게 다른 모형을 지배하지 못하였다. 외표본 가격결정과 마찬가지로 2020년 2, 3, 4 월에는 옵션 가격결정 모형과 관계없이 헤징 오차가 크게 증가함을 확인할 수 있었다.

둘째, <표 9>는 t 검정을 통해서 각 모형들간 오차의 차이에 대한 통계적 유의성을 확인한다. <표 9>의 각 셀의 값은 횡측 모형의 MAE와 종측 모형의 MAE의 차이에 대한 t 통계량 값이다. 즉 셀의 값이 유의한 양수이면 종측 모형이 횡측 모형보다 통계적으로 유의하게 오차가 낮은 모형이다. <가>의 외표본 가격결정 오차는 A1 모형과 SVJ 모형이 BS 모형보다 나은 성과를 보이나 통계적으로 유의하지 않다. A1 모형은 SVJ 모형을 제외한 다른 모형들보다는 모두 통계적으로 유의하게 나은 성과를 보인다. SVJ 모형은 SV 보다 유의한 개선 효과를 보이며 점프항의 중요성을 확인할 수 있다. 결과적으로 외표본 가격결정 성과에서는 BS 모형과 A1 모형이 가장 우수한 성과를 보였고 두 모형 간의 성과 차이는 유의하지 않았다. <나>의 헤징 오차는 A2 모형이 BS 모형보다 나은 성과를 보이나 통계적으로 유의하지 않았다. A2 모형은 BS 모형 및 A1 모형을 제외하고 모든 모형과 통계적으로 유의한 차이를 보였다. SV와 SVJ 모형은 역시나 BS 모형, AHBS 모형보다 통계적으로 유의하게 좋지 않은 헤징 성과를 보였다. 결과적으로 BS 모형과 A2 모형이 가장 우수한 헤징 성과를 보였고 두 모형 간의 성과 차이는 통계적으로 유의하지 않았다.