10.6 조건부 오토인코더로 종목 민감도 학습하기

같은 모멘텀에 서로 다른 민감도를 주기

두 기업의 최근 수익률이 같아도 한 기업은 변동성이 높고 다른 기업은 낮다고 하자. 모멘텀 점수가 높을수록 베타가 커지는 선형 모형은 두 기업에서 같은 증가량을 준다. 실제로는 변동성이 낮을 때만 모멘텀을 따라가는 거래가 많을 수 있다. CAE의 베타 신경망은 이런 조합을 자료에서 학습한다. 중간에 비선형 변환 없이 하나의 선형층만 쓰면 베타의 형태는 IPCA의 선형 지도와 같다.

자료의 공개 날짜와 종목 범위부터 고정하기

먼저 예측 시점에 실제로 알려진 특성만 모은다. 결산일이 지난 재무 수치도 공시 전이면 사용할 수 없다. 평가 날짜 이후의 상장 상태로 종목을 고르면 사라진 기업이 빠지므로 당시의 편입 기록을 쓴다. 시가총액 하위 20%를 포함했을 때와 제외했을 때를 비교하면 신호가 거래하기 어려운 종목에 집중됐는지 살필 수 있다.

기업 특성 사례는 기본 특성 57개와 시계열에서 만든 특성 6개를 사용했다. 매월 각 특성의 관측값을 종목끼리 순위로 바꾸고 −1에서 1로 맞춘다. 극단적으로 큰 기업 하나 때문에 신경망 입력의 숫자 폭이 커지는 문제를 줄인다. 등수는 보존하지만 값 차이가 실제로 몇 배인지는 잃는다.

두 입력 경로가 실제 수익률에서 만나는 방식

1. 1기준일의 종목 특성을 베타 신경망에 넣어 각 종목의 민감도를 구한다.
2. ↓
   2보유 기간이 끝난 뒤 같은 특성과 실현 수익률로 관리 포트폴리오와 요인 수익률을 추정한다.
3. ↓
   3민감도와 실현 요인으로 수익률을 복원해 두 경로를 학습한다.
4. ↓
   4거래 시에는 미래 실현 요인 대신 학습 이력에서 만든 요인 예측을 넣는다.

베타 경로는 종목별 특성을 받아 요인별 계수를 내놓는다. 예를 들어 64개 너비에서 시작해 32, 16, 8개로 줄일 수 있다. Rectified Linear Unit(정류 선형 함수, ReLU)은 음수 입력을 0으로 바꾸어 여러 층이 꺾이는 관계를 표현하게 한다. Batch Normalization(배치 정규화)은 학습 중 중간 값의 척도를 조절한다. 베타 경로는 각 종목이 공통 요인에 얼마나 반응하는지 표현한다.

요인 경로는 보유 기간이 끝난 뒤 각 종목의 실현 초과수익률을 이전 특성에 횡단면 회귀한다. 한 날짜에 모든 종목을 함께 비교하는 계산이다. 예를 들어 특성이 $+1,-1$이고 실현 수익률이 3%, 1%인 두 종목만 있다고 하자. 절편 없는 회귀 계수는 $(1\times3-1\times1)/(1^2+(-1)^2)=1\%$다. 높은 특성의 종목과 낮은 종목의 상대 수익률에서 얻은 이 계수를 Characteristic-Managed Portfolio Return(특성 관리 포트폴리오 수익률)로 읽는다. 특성이 여러 개면 동시에 비교하므로 한 특성만으로 종목을 정렬한 수익률과 달라질 수 있다. 특성이 거의 겹치면 의사역행렬이나 정규화로 계산을 안정시킨다. 요인 경로는 이렇게 얻은 여러 계수를 소수의 요인 수익률로 합친다.

실현 요인이 1%, A의 베타가 1.5, A의 실제 초과수익률이 2%라면 복원값은 1.5%이고 오차는 0.5%p다. 종목과 날짜별로 이 오차를 제곱해 합하고, 그 합을 줄이는 방향으로 두 경로를 함께 갱신한다. L1 Regularization(L1 정규화)으로 가중치의 절댓값 합에 벌점을 주고, Early Stopping(조기 종료)으로 검증 손실이 개선되지 않을 때 학습을 멈춘다. 초기값에 따라 결과가 달라지면 여러 초기값에서 학습한 종목 예측을 평균한다. 서로 회전된 요인 좌표를 정렬 없이 섞기보다 동일 단위의 최종 예측을 합치는 편이 안전하다.

복원값을 거래 예측과 구별하기

오늘의 베타가 1.5여도 다음 달 요인은 아직 없다. 앞 절처럼 학습 평균으로 다음 요인 수익률을 예측한다. 자기회귀나 지수가중 평균을 비교할 때도 베타 신경망의 역할은 같다. 기업 간 차이를 설명하는 것이 CAE의 역할이고, 요인의 시간 흐름을 예상하는 것이 예측기의 역할이다. 별도로 구한 시계열 특성을 베타 입력에 넣을 수 있다.

학습 창마다 전처리와 정규화, 신경망, 요인 예측기를 과거 데이터에서만 정한다. 그다음 시간 구간에서는 고정한 상태로 점수를 낸다. 예측 순위와 실현 순위의 상관인 Information Coefficient(정보계수, IC), 기간별 IC의 평균을 표준편차로 나눈 값, 상하위 20% 수익률 차이, 거래 회전율과 비용 차감 손익을 함께 읽는다. 복원 손실은 학습이 되는지 확인하는 진단이다. 구조와 정규화를 탐색할 때에는 검증 구간 IC를 비교하되, 여러 번 시도한 뒤 고른 설정은 별도로 남겨 둔 기간에서 확인한다.

실패가 나타나는 위치별로 확인하기

• 복원 손실이 발산하면 학습률이 너무 크거나 가중치 갱신량이 불안정한지 본다. 기업 특성 사례의 탐색 범위는 숨은층 2~3개, 너비 32~128, 학습률 0.0001~0.01, L1 벌점 0.00001~0.001, 배치 1,000~5,000개였다.
• 초기값에 따라 점수 부호가 바뀌면 개별 결과의 분산을 확인하고 여러 초기값을 비교한다. Dropout(드롭아웃)은 학습 중 일부 신호를 가린다. 비율이 너무 높으면 구조를 못 배우고, 너무 낮으면 학습 기간의 잡음까지 외울 수 있다.
• 정규화한 요인끼리 상관이 높으면 중복 요인을 추정했는지 본다. 주식 사례에서는 5~10개 정도에서 시작해 개수를 줄이거나 벌점을 조정한다. 종목별 베타 분산이 거의 0이면 신경망이 특성 차이를 활용하지 못했는지 확인한다.
• 높은 IC에도 회전율이 크면 거래 비용이 수익을 잠식한다. 매수와 매도를 각각 자산의 20%만큼 하고 편도 비용이 10bp라면 총 비용은 $2\times0.2\times10=4$bp다. 같은 거래에 편도 50bp가 들면 20bp다. 회전율을 왕복 합으로 정의하면 2를 다시 곱하지 않는다.

재현 결과와 베타 해석의 범위

미국 주식의 한 연구에서는 비선형 모형이 선형 IPCA보다 높은 매수·공매도 성과를 보였다. 더 짧고 최근인 기업 특성 표본에서 CAE의 한 달 IC는 −0.030이었다. 성과 지표, 종목 범위, 특성 수와 관측 기간이 모두 달라 차이를 한 가지 원인으로 돌릴 수 없다.

SHapley Additive exPlanations(섀플리 가법 설명, SHAP)로 종목별 베타에 어떤 특성이 영향을 주는지 분해할 수 있다. 크기와 유동성이 같이 움직인다면 두 입력에 기여가 어떻게 배분되는지가 표본마다 바뀔 수 있다. 이 값은 학습된 신경망을 해석하는 도구다. 같은 특성이 실제 수익률 변화의 원인인지 확인하려면 별도의 분석이 필요하다. Self-Attention(자기 어텐션)으로 다른 종목과의 관계를 베타 추정에 포함하거나 공시 텍스트의 숫자 표현을 특성으로 추가하는 방법도 있다. 이 경우에도 요인 예측과 종목 매핑의 시간 순서는 유지된다.