퀀트투자를 시작하기 전 꼭 보는 5가지 판단 기준

요즘 시장을 보다 보면 예전보다 투자자들이 훨씬 숫자에 민감해졌다는 생각을 자주 합니다. 코스피가 하루에 1%만 움직여도 환율, 미국 10년물 금리, 엔비디아 주가, 외국인 선물 포지션까지 한꺼번에 엮어서 보는 분들이 많아졌습니다. 그런데 막상 퀀트투자 이야기가 나오면 분위기가 조금 달라집니다. 뭔가 복잡한 공식과 파이썬 코드, 백테스트 화면부터 떠올리는 경우가 많습니다.

사실 퀀트투자의 출발점은 그렇게 거창하지 않습니다. 감으로 고르는 종목을 줄이고, 반복 가능한 기준으로 투자 판단을 해보자는 접근에 가깝습니다. 싼 주식, 이익이 좋아지는 주식, 가격 흐름이 강한 주식, 재무적으로 덜 위험한 주식을 일정한 규칙으로 걸러내는 방식입니다. 문제는 숫자를 쓴다고 해서 무조건 객관적인 투자가 되는 건 아니라는 점입니다.

1. 퀀트투자는 공식보다 가정이 먼저입니다

퀀트투자를 처음 접하면 PER, PBR, ROE, 영업이익 증가율, 12개월 모멘텀 같은 지표를 먼저 보게 됩니다. 그런데 중요한 건 지표 자체보다 그 지표가 시장에서 보상받을 만한 이유가 있는지입니다. 예를 들어 저PBR 전략은 자산 대비 싸게 거래되는 기업을 사는 방식입니다. 하지만 저PBR 기업이 계속 싼 이유가 구조적인 저성장, 낮은 주주환원, 지배구조 문제 때문이라면 단순히 싸다는 이유만으로는 충분하지 않습니다.

반대로 12개월 수익률이 좋은 종목을 사는 모멘텀 전략도 마찬가지입니다. 주가가 오른 데에는 실적 개선, 업황 회복, 수급 집중 같은 이유가 있을 수 있습니다. 다만 시장 전체가 과열된 국면에서는 모멘텀이 추격 매수로 변하기 쉽습니다. 그래서 퀀트 전략을 볼 때는 이 지표가 왜 작동해야 하는가, 어느 환경에서 약해질 수 있는가를 먼저 생각해야 합니다.

2. 백테스트 수익률보다 손실 구간을 봐야 합니다

퀀트투자 자료를 보면 연평균 수익률 15%, 20% 같은 숫자가 눈에 먼저 들어옵니다. 솔직히 그런 숫자는 매력적입니다. 하지만 12년 동안 시장을 보면서 느낀 건 수익률보다 더 오래 남는 숫자는 낙폭이라는 점입니다. 전략이 과거에 돈을 벌었더라도 중간에 -30%, -40%를 견뎌야 했다면 실제 투자자는 대부분 중간에 이탈합니다.

예를 들어 가치주 팩터는 장기적으로 의미 있는 성과를 보여온 구간이 많았지만, 성장주가 시장을 압도하는 시기에는 몇 년씩 부진할 수 있습니다. 2020년 전후처럼 유동성이 풍부하고 장기 성장 기대가 강했던 시기에는 비싼 주식이 더 비싸지는 흐름이 나타났습니다. 이때 저PER, 저PBR 중심 전략은 지수 대비 답답한 성과를 냈습니다.

• 최대 낙폭이 어느 정도였는지
• 부진한 기간이 몇 개월 또는 몇 년 지속됐는지
• 특정 업종이나 시가총액 구간에 성과가 몰렸는지
• 거래비용과 세금을 반영해도 의미가 남는지

이 네 가지를 보지 않고 백테스트 수익률만 보면 전략을 과대평가하기 쉽습니다. 숫자는 차갑지만, 실제 계좌를 보는 사람의 심리는 그렇게 차갑지 않습니다.

3. 국내 주식 퀀트는 유동성과 회계 이슈가 중요합니다

미국 시장에서 통하던 퀀트 전략을 한국 시장에 그대로 가져오면 생각보다 결과가 다르게 나올 때가 많습니다. 국내 증시는 특정 업종 비중이 크고, 대주주 지분율이나 지배구조, 배당 정책이 기업가치에 미치는 영향도 큽니다. 또 중소형주는 백테스트상 수익률이 좋아 보여도 실제 매매에서는 거래대금이 부족해 체결이 어렵거나 슬리피지가 커질 수 있습니다.

가령 하루 거래대금이 5억 원도 안 되는 종목을 여러 개 편입하는 전략은 엑셀에서는 잘 돌아갑니다. 그런데 실제 계좌 규모가 조금만 커져도 원하는 가격에 사고팔기 어렵습니다. 특히 하락장에서는 매도 호가가 얇아지면서 계산보다 손실이 커질 수 있습니다. 퀀트투자를 한다면 최소 거래대금 기준, 관리종목 제외, 감사의견 문제, 일회성 이익 제거 같은 필터가 필요합니다.

4. 팩터는 섞을수록 좋아 보이지만 과최적화 위험도 커집니다

퀀트 전략을 만들다 보면 욕심이 생깁니다. 저PER도 넣고, 이익 성장도 넣고, 모멘텀도 넣고, 부채비율도 넣고, 배당수익률도 넣고 싶어집니다. 이렇게 여러 조건을 조합하면 과거 성과가 점점 좋아지는 경우가 많습니다. 그런데 조건이 많아질수록 실제 시장 원리를 잡아낸 것이 아니라 과거 데이터에만 맞춘 전략일 가능성도 커집니다.

저는 퀀트 전략을 볼 때 조건 수가 많다고 더 신뢰하지 않습니다. 오히려 단순한 전략이 여러 기간과 여러 시장에서 비슷한 방향으로 작동하는지를 더 봅니다. 예를 들어 밸류, 퀄리티, 모멘텀 세 가지 정도의 큰 축은 설명력이 있습니다. 밸류는 가격, 퀄리티는 기업 체력, 모멘텀은 시장의 인정 여부를 봅니다. 이 정도면 투자 논리가 비교적 분명합니다.

실전에서는 단순한 조합이 오래 갑니다

예를 들어 전체 상장사 중 거래대금 하위 종목과 재무 위험 종목을 제외한 뒤, 밸류 점수 40%, 이익 개선 점수 30%, 가격 모멘텀 30%로 순위를 매기는 식입니다. 그리고 상위 20~30개 종목에 분산 투자합니다. 이 방식이 완벽하다는 뜻은 아닙니다. 다만 왜 그 종목을 샀는지 설명할 수 있고, 시장 환경이 바뀌었을 때 어떤 부분이 흔들리는지도 추적하기 쉽습니다.

5. 퀀트투자의 진짜 장점은 예측이 아니라 반복성입니다

많은 사람이 퀀트투자를 시장을 맞히는 도구로 생각합니다. 하지만 제가 보기에는 조금 다릅니다. 퀀트투자의 강점은 내 판단을 일정하게 유지하게 해주는 데 있습니다. 금리가 오를 것 같아서, 환율이 불안해서, 특정 뉴스가 무서워서 매번 기준을 바꾸면 투자 결과를 복기하기가 어렵습니다.

반면 규칙이 있으면 손실이 나도 원인을 나눠볼 수 있습니다. 전략 자체가 문제였는지, 시장 환경이 맞지 않았는지, 리밸런싱 주기가 부적절했는지, 거래비용을 낮게 잡았는지 따져볼 수 있습니다. 이 과정이 쌓이면 투자자는 단순히 종목을 맞히는 사람이 아니라 자기만의 판단 체계를 가진 사람이 됩니다.

퀀트투자는 사람의 감정을 완전히 없애주지 못합니다. 계좌가 흔들리면 누구나 불안합니다. 다만 적어도 언제 사고, 언제 팔고, 왜 보유하는지에 대한 기준을 남겨줍니다. 시장은 늘 새로운 이야기를 만들지만, 좋은 투자자는 매번 새 이야기에 끌려가기보다 자신의 기준이 지금도 유효한지 차분히 점검합니다. 퀀트투자의 가치는 바로 그 지점에 있다고 봅니다.