CHAPTER 08 / SECTION 01
8.1 계수 설명과 미래 예측 구분하기
같은 선형 회귀를 서로 다른 기준으로 평가하고 편향과 분산의 절충을 살펴봅니다.
같은 계수로 두 가지 다른 판단을 한다
연구자는 ETF 수익률을 최근 모멘텀과 변동성으로 설명하는 직선을 적합한다. 첫 번째 과제에서는 변동성을 고정했을 때 모멘텀이 높은 관측의 수익률이 얼마나 다른지 추정한다. 두 번째 과제에서는 다음 달 수익률 순서를 정한다. 첫 과제는 Inference(추론), 두 번째는 Prediction(예측)이다. 모델이 같아도 성공을 판단하는 증거가 다르다.
Data Modeling Culture(데이터 모델링 관점)는 데이터가 생성된 방식에 관한 모형을 정하고 그 모형의 계수를 추정한다. Algorithmic Modeling Culture(알고리즘 모델링 관점)는 이미 적합한 모델에 처음 보는 입력을 주고 정답과 비교한다. 과거 표본에서 계수가 뚜렷해도 다음 시험 기간의 순위가 계속 틀리면 그 계수는 거래용 예측 기준을 통과하지 못한다.
최소제곱 계수를 읽을 수 있는 조건
예측보다 실제 수익률이 높으면 양의 오차가 생긴다. Ordinary Least Squares(보통최소제곱법, OLS)는 각 오차를 제곱해 합한 값이 가장 작도록 계수를 정한다. 제곱 덕분에 양·음의 오차가 서로 상쇄되지 않는다.
- Outcome(결과). 각 ETF의 미래 수익률, 퍼센트포인트.
- Design Matrix(설계 행렬). 행마다 한 관측, 열마다 입력 특성. 단위는 열마다 다르다.
- Coefficient Vector(계수 벡터). 특성 한 단위 변화당 수익률 변화, 퍼센트포인트를 해당 특성 단위로 나눈 값.
- Error(오차). 모델 구조가 설명하지 못한 수익률, 퍼센트포인트.
- Error Variance(오차 분산). 퍼센트포인트 제곱.
- Identity Matrix(단위 행렬). 대각선이 1이고 그 밖은 0이며 단위가 없다.
- Linearity(계수에 대한 선형성)는 입력에 계수를 곱해 합하는 구조를 뜻한다. 제곱한 특성을 입력으로 넣어도 계수와의 관계가 선형이면 이 구조를 유지한다.
- Strict Exogeneity(엄격 외생성)는 설계 행렬을 알 때도 오차의 조건부 평균이 0이라는 조건이다. 예를 들어 유동성 충격이 모멘텀과 미래 수익률 양쪽에 영향을 주는데 입력에서 빠지면, 그 충격이 모멘텀 계수에 섞일 수 있다. 시차가 있는 종속변수를 넣을 때도 오차와의 관계를 살펴야 한다.
- No Perfect Multicollinearity(완전 다중공선성 부재)는 어떤 열도 다른 열의 정확한 합이나 배수로 만들 수 없다는 뜻이다. 같은 모멘텀을 퍼센트와 소수로 두 번 넣으면 두 계수에 기여를 유일하게 나눌 수 없다.
- Spherical Errors(구형 오차)는 관측마다 오차 분산이 같고 오차끼리 상관이 없다는 조건이다. 같은 시장 충격이 여러 날이나 여러 ETF에 이어지면 이 조건을 점검해야 한다.
이 조건에서 Gauss–Markov Theorem(가우스–마르코프 정리)은 OLS가 Best Linear Unbiased Estimator(최량 선형 불편 추정량, BLUE)임을 보인다. 같은 데이터 생성 과정을 반복해 추정할 때 계수가 평균적으로 참값에 맞고, 선형 불편 추정량 중 계수의 표본 간 분산이 가장 작다는 의미다. 오차 분산이나 상관 조건이 깨지면 표준오차 계산과 효율성을 다시 살펴야 한다. 모형 자체가 잘못됐거나 외생성이 깨지면 계수의 구조적 해석도 약해진다.
계수가 0이라는 가정 아래 관측된 검정통계량만큼 극단적인 결과가 나올 확률을 p-value(유의확률)라고 한다. 표본이 크면 거래비보다 작은 관계도 유의할 수 있다. 반대로 혼자서는 유의하지 않은 특성도 다른 특성과 함께 입력할 때 예측에 도움이 될 수 있다. 계수 진단에서는 오차 구조를 반영한 표준오차와 Variance Inflation Factor(분산팽창계수, VIF)를 확인하고, 예측은 별도의 미래 기간에서 채점한다.
계수가 조금 작아져도 새 예측이 안정될 수 있다
240개월치 자료에 모멘텀, 가치, 심리 지표 100개를 넣는다고 하자. 최근 3개월과 4개월 모멘텀이 대체로 함께 오르면, 한 입력의 가중치를 올리고 다른 입력의 가중치를 내려도 학습 자료에서는 비슷한 예측을 만들 수 있다. 두 입력이 엇갈리는 달에는 그 상쇄가 풀려 모델마다 예측이 크게 달라진다. 입력 열이 관측 행보다 많아지면 제약 없이 유일한 계수를 정할 수도 없다.
금융 수익률에서 모델이 설명하는 부분은 흔히 작다. 신호가 약할수록 자유로운 모델은 특성보다 표본의 우연에 더 많이 반응할 수 있다. 같은 입력에서 훈련 표본을 바꿔 모델을 다시 적합한다고 생각하면 예측 오차를 세 부분으로 나눌 수 있다.
- Mean Squared Error(평균제곱오차). 미래 관측에 대한 제곱 예측 오차의 기댓값, 퍼센트포인트 제곱.
- Bias(편향). 고정 입력에서 평균 예측과 실제 조건부 평균의 차이, 퍼센트포인트.
- Variance(예측 분산). 그 입력에서 학습 표본에 따라 예측이 움직이는 정도, 퍼센트포인트 제곱.
- Irreducible Noise Variance(줄일 수 없는 잡음의 분산). 같은 입력에서도 결과가 달라지는 정도, 퍼센트포인트 제곱.
잡음 분산이 4라고 하자. 제약 없이 적합한 모델은 편향 제곱 0과 예측 분산 9를 더해 평균제곱오차가 13이다. 계수를 줄인 모델은 편향 제곱이 1로 늘지만 예측 분산이 4로 줄어 오차가 9가 된다. 같은 조건에서 분산이 9에서 8로만 줄었다면 총오차는 13으로 같다. Bias–Variance Trade-off(편향–분산 절충)는 이 균형을 가리킨다.
금융의 관계는 시장 상태에 따라 바뀔 수 있다. 지나친 축소도 유용한 신호를 지운다. Ridge(릿지)는 여러 계수를 함께 줄이고, Least Absolute Shrinkage and Selection Operator(최소 절대 축소 및 선택 연산자, LASSO)는 일부를 0으로 만든다. Elastic Net(엘라스틱 넷)은 두 방식을 섞는다. 어느 정도를 줄일지는 같은 시간 분할로 새 관측에서 비교한다.