1. AI와 머신러닝이 트레이딩 전반에 미치는 영향
인공지능(AI)은 기계가 사람의 자리를 대신할 수 있게 해 줍니다. 1980년대 AI 연구의 최전선에는 전문가 시스템과 퍼지 논리가 있었습니다. 연산 비용이 낮아지면서 대규모 최적화 문제를 기계로 푸는 일이 경제적으로 가능해졌습니다. 하드웨어와 소프트웨어의 발전 덕분에 오늘날의 인공지능은 신경망을 비롯한 학습 기법을 활용해, 경제적 가치가 있고 분류기와 결합해 수익성 있는 모델을 만들 수 있는 예측 변수(특징 또는 팩터라고도 부릅니다)를 찾아내고 분석하는 데 집중하고 있습니다. 이런 유형의 AI 활용을 흔히 머신러닝(ML)이라고 부릅니다.
단기 시간 프레임과 장기 투자 모두에서 AI 기반 매매 전략을 구축하는 방법론의 활용이 점점 인기를 얻고 있으며, 일부 헤지펀드는 이 분야에서 특히 활발합니다. 다만 이 신기술의 광범위한 확산은 여러 요인 때문에 더디게 진행되고 있는데, 가장 큰 이유는 AI에 새로운 도구와 인적 전문성에 대한 투자가 필요하다는 점입니다. 대부분의 펀드는 기본적 분석을 사용합니다. 매니저들이 MBA 과정에서 배우는 것이 그것이기 때문입니다. 순수하게 인공지능에만 의존하는 헤지펀드는 많지 않습니다. 개인 투자자 사이에서 AI 활용이 늘고 있긴 하지만, 트레이더 대다수는 여전히 전통적인 기술적 분석처럼 20세기 중반에 소개된 방법에 의존합니다. 이해하고 쓰기 쉽기 때문입니다.
AI와 ML이 매매 전략 개발 외의 영역, 예컨대 유동성 탐색 알고리즘 구축이나 고객 포트폴리오 추천 같은 곳에도 쓰인다는 점은 짚어 둘 만합니다. 그 결과 AI 애플리케이션이 자리를 잡을수록 매매와 투자 판단에 참여하는 사람의 수는 줄어들고, 이는 시장과 가격 움직임에 영향을 미칩니다. 이 신기술이 업계 전반에 미칠 영향을 단정하기는 아직 이르지만, AI가 널리 쓰이면 변동성이 낮은 효율적인 시장이 오랜 기간 이어지다가, 체제 전환에 따라 주기적으로 변동성이 급등하는 흐름이 나타날 수 있습니다. 인간의 주관적인 정보 해석과 그에 따른 노이즈의 영향이 줄어들 것이기 때문에 가능한 일입니다. 다만 이는 실제로 증명되어야 할 문제입니다.
2. AI와 머신러닝이 알파 창출에 미치는 영향
AI 기술을 이해하고 그 위험을 다룰 줄 아는 사람에게는 도입 초기 단계 내내 기회가 있을 것입니다. AI 기반 매매 기법의 한 가지 문제는 무작위보다 못한 모델을 내놓을 수 있다는 점입니다. 무슨 뜻인지 설명해 보겠습니다. 전통적인 기술적 분석은 손해 보는 매매 방식입니다. 차트 패턴과 지표에 기반한 기법의 보상은 거래 비용을 반영하기도 전에 평균이 0인 분포에서 나오기 때문입니다. 일부 트레이더는 대개 분포의 오른쪽 꼬리에 위치하게 되는데, 이것이 이런 기법에 경제적 가치가 있다는 착각을 만들어 냅니다. 선물과 외환 시장에서는 접근법과 무관하게 장기 수익을 내기가 어렵습니다. 이들 시장은 마켓메이커에게 보상하도록 설계되어 있기 때문입니다. 하지만 운 덕분에 일부 트레이더는 레버리지 시장에서 단기간에 큰 수익을 낼 수 있습니다. 그러고 나면 이들은 자신의 성공을 운이 아니라 전략과 재능 덕으로 돌립니다.
AI와 ML에는 편향-분산 트레이드오프 같은 또 다른 영향도 있습니다. 데이터 마이닝 편향은 과거 데이터에 과적합되어 새로운 데이터에서 실패하는 기법이나, 지나치게 단순해서 경제적 가치가 있는 중요한 신호를 잡아내지 못하는 기법을 낳을 수 있습니다. 이 트레이드오프는 무작위보다 못한 전술과, 거래 비용을 반영하기도 전에 이런 트레이더들의 수익률 분포에 음의 왜도를 만들어 냅니다. 양적완화 이후 시대에 이는 대형 펀드와 투자자들에게 수익 기회를 만들어 줍니다. 그러나 무작위보다 못한 AI 트레이더들이 시장에서 밀려나고 견고한 모델을 가진 이들만 남게 되면, 수익을 둘러싼 경쟁은 뜨거워질 것입니다. 이 싸움에서 AI 트레이더가 이길지 대형 투자자가 이길지는 아직 예측하기 이릅니다.
이 분야에서 흔한 오해 하나도 짚고 싶습니다. 어떤 이들은 가치가 사용되는 ML 알고리즘에 있다고 생각합니다. 이는 옳지 않습니다. 진짜 가치는 활용되는 예측 변수, 흔히 특징이나 팩터라고 부르는 것에 있습니다. 금이 없는 곳에서 ML 알고리즘이 금을 찾아낼 수는 없습니다. 문제는 대부분의 ML 전문가가 같은 예측 변수를 쓰면서, 최고의 결과를 얻기 위해 반복적인 방식으로 모델을 만들려 한다는 점입니다. 이 방법은 데이터 마이닝 편향에 발목을 잡혀 결국 실패합니다. 한마디로 데이터 마이닝 편향은 훈련·검증 샘플의 결과가 만족스러워질 때까지 같은 데이터를 수많은 모델에 재사용하는 위험한 관행에서 비롯됩니다. 이 분야에 대한 제 연구에 따르면, 이항 로지스틱 회귀 같은 기본 분류기가 주어진 예측 변수 집합에서 효과적으로 작동하지 않는다면, 경제적 가치가 없을 가능성이 큽니다. 결국 성공은 특징 공학에 달려 있습니다. 이는 경제적 가치가 있는 특징을 떠올리기 위해 지식과 경험, 영감이 필요한 과학이자 예술이며, 이를 해낼 수 있는 전문가는 극소수에 불과합니다.
3. AI와 머신러닝이 기술적 분석에 미치는 영향
가격과 거래량 시계열 분석에 의존하는 모든 접근법이 기술적 분석의 범주에 들어가므로, 전통적 기술적 분석과 계량적 기술적 분석을 구분해야 합니다. 차트 패턴, 기본 지표, 가격 행동 이론 같은 전통적 기술적 분석은 애초부터 효과가 없었습니다. 범위와 영향이 제한적인 몇몇 불완전한 시도를 제외하면, 이런 접근법을 홍보하는 출판물들은 장기 통계적 기대값을 공개하는 일이 드물었고, 이 규칙 저 규칙만 따르면 수익 가능성이 있다는 장담만 늘어놓았습니다. 시장의 수익과 손실은 통계적 분포를 따르기 때문에, 자신의 행운을 이런 기법 덕으로 돌리는 사람은 언제나 있었습니다. 동시에 이런 기법은 익히기 쉬웠기 때문에 그 주위로 하나의 산업이 통째로 생겨났습니다. 안타깝게도 많은 사람이 남들과 똑같은 전술을 더 잘 구사하면 돈을 벌 수 있다고 믿었고, 그 결과는 순진한 트레이더들로부터 마켓메이커와 정보에 밝은 전문가들로의 어마어마한 부의 이동이었습니다.
1990년대 초 일부 시장 전문가들은 수많은 개인 트레이더가 이런 단순한 전술로 거래하고 있다는 사실을 발견했습니다. 그중 일부는 패턴 형성을 예측한 뒤 그 반대편에 서서 거래하는 알고리즘과 AI 전문가 시스템을 만들었고, 이는 '약한 손'이라 불리곤 하는 개인 트레이더들이 감당할 수 없는 변동성을 만들어 냈습니다. 더 넓게 보면 전통적 기술적 분석의 실패는 1990년대부터 시장에서 강한 계열 상관이 사라진 데서 그 원인을 찾을 수 있습니다. 이런 기법이 효과적이라는 착각을 만들어 낸 것이 바로 그 강한 계열 상관이었기 때문입니다. 몇몇 예외를 제외하면 현재 시장은 평균 회귀적이어서 단순한 기술적 분석 도구는 효과가 없습니다. 하지만 평균 회귀나 통계적 차익거래 모델 같은 계량적 기술적 분석 도구, 그리고 경제적 가치가 있는 특징을 활용하는 ML 알고리즘은 효과적으로 작동하는 경우가 많습니다.
모델의 폭이 넓고 대부분 기밀로 유지되기 때문에 AI와 ML에서는 이런 차익거래가 그대로 재현될 가능성이 낮습니다. 다만 이 신기술의 근본적인 우려는 전통적 기술적 분석에서처럼 확증 편향이 아니라 데이터 마이닝 편향입니다.
제 생각에 시장을 지켜보며 차트를 들여다보는 일은 점점 시대에 뒤처지고 있습니다. 트레이딩의 미래는 실시간 정보 처리, 모델 개발, 그리고 검증에 있습니다. 미래의 헤지펀드는 차트 분석에 의존하지 않을 것입니다. 어떤 이들이 아직도 그렇게 하는 이유는 옛 방식과 새 방식이 충돌하는 갈림길에 서 있기 때문입니다. AI에 익숙하지 않은 많은 트레이더는 앞으로 경쟁에서 어려움을 겪고 물러나게 될 것입니다.
4. 새로운 트레이딩 기술의 승자와 패자
인공지능의 활용은 트레이딩을 여러 방식으로 혁신할 것이며, 이미 그런 일이 일어나고 있습니다. 투자자들은 양적완화가 만들어 낸 현재의 추세가 끝나면 중기 수익률이 기대보다 훨씬 낮다는 사실을 곧 깨닫게 될지도 모릅니다. 이런 상황이 오면 투자자들은 포트폴리오 구성을 추천하고 가치가 오를 종목을 골라 줄 유능한 재무 자문가를 찾는 전통적인 방법으로 돌아갈 수밖에 없습니다. 어떤 경우에는 그 자문가가 인공지능 프로그램일 것이고, 절차는 온라인으로 진행될 것입니다.
트레이더는 이 새로운 기술과 친해져야 합니다. 대부분의 트레이더는 여전히 낡은 접근법과 씨름하며 '저점 매수'가 앞으로 몇 년은 더 통해서 수익을 가져다주기를 바라고 있습니다.
문제 중 하나는 지난 8년간 중앙은행이 금융시장을 직접 지원하며 키워 온 도덕적 해이입니다. 이제 많은 트레이더와 투자자는 중앙은행이 자신들의 손실을 다른 모두에게 떠넘기고 수익은 지켜 줄 것이므로 하락장은 불가능하다고 여깁니다. 그 결과 시장 참여자 대다수는 다음번 대규모 시장 체제 전환에 대비되어 있지 않으며, 파국적인 손실을 입을 수 있습니다.
머신러닝, 인공지능, 트레이딩을 배울 수 있는 온라인 자료는 많습니다. 가장 좋은 학습법은 실전 문제 몇 개에 부딪혀 보는 것입니다. 하지만 대부분의 트레이더는 적응하지 못할 것이라고 생각합니다. AI를 이해하고 활용하는 데 필요한 역량의 조합은, 차트에 선을 긋고 이동평균선을 지켜보는 데 익숙한 트레이더의 95%를 걸러 냅니다.
투자자는 스스로 조사하고, 이런 새로운 흐름에 정통한 전문 재무 자문가의 조언을 구해야 합니다. 투자자마다 위험 회피 성향이 다르기 때문에 모두에게 통하는 일반적인 제안을 내놓기는 불가능합니다. 머지않아 로보어드바이저가 쏟아질 것이고, 자신의 요구와 목표에 맞는 것을 고르는 일이 어려워질 수 있습니다.
ML과 AI, 그리고 이들의 트레이딩·투자 활용에 익숙하지 않은 사람이라면, 책과 글을 읽는 길에 들어서기보다 이 분야에 밝은 전문가와 상담하는 편이 더 유익할 수 있습니다. 독서는 기본기를 다진 다음에 해도 늦지 않습니다.