[최소한의 주식 공부 30] AI가 주식 투자를 잘할 수 있을까?

주식 투자자가 알아야 할 가장 기본적이고 중요한 지식을 담아 ‘최소한의 주식 공부’를 연재합니다. 주식이라는 자산의 근본적인 실체에서 시작해, 의사결정의 주요 원칙과 피해야 할 함정에 대해 홍진채 라쿤자산운용 대표가 독자 여러분과 함께 고민합니다. ― 버핏클럽

인공지능이 대세가 되면서 반드시 마주하는 질문이 있습니다. “인공지능이 주식 투자를 잘할 수 있을까?”

체스도, 바둑도 인공지능에 점령당한 지 오래되었고 미술, 음악, 영상, 회계, 코딩까지 인공지능이 무시무시하게 침범해오고 있습니다. 더 이상 창의성이니 감수성이니 하는 걸로 인간의 고유성을 주장하기가 어렵게 되었습니다.

저는 주식 투자를 업으로 삼다 보니 “인공지능이 주식 투자도 인간보다 잘하면 어떻게 되나요? 그럴 수 있을까요?”라는 질문을 자주 받습니다.

가능은 하다. 쉽지는 않다.

누구든 이 질문에 온전히 답을 내릴 수는 없겠지만, 저는 가능하다고 생각합니다. 논리적 추론을 따지기 전에 답변의 안전성을 먼저 살펴보자면, 불가능하다고 믿었는데 가능하게 되었을 때의 위험이, 가능하다고 믿었는데 불가능할 때보다 훨씬 큽니다. 그러니 일단 가능하다고 믿는 게 상대적으로 안전한 선택입니다.

체스든 바둑이든 운전이든 예술 창작이든 모두 한때 인간의 전유물로 여겨졌습니다. 그런 영역들이 침범당하고 있으니, 어디에도 안전한 영역은 없다고 보아야 합니다. (개인적으로는, 인간이 팔 수 있는 최후의 속성은 ‘서사’와 ‘책임’이라고 생각합니다. 이세돌은 알파고에 졌지만, 다큐멘터리 ‘알파고’의 주인공은 알파고가 아니라 이세돌이었습니다. 이는 상당히 많은 걸 시사합니다.)

구체적으로 살펴봅시다. 인공지능이 좋은 성과를 낼 수 있는(잘 학습할 수 있는) 영역의 특징은 이러합니다.

게임의 결과(승패)가 명시적으로 정해져 있다(명확한 목표). 중간 과정에서 승리에 다가가고 있는지가 명시적으로 드러난다(과정에서의 보상). 학습할 수 있는 데이터가 많다. 데이터가 레이블링이 잘되어 있다. 게임의 규칙이 변하지 않고, 플레이어의 상태 정보가 공개되어 있다. 복잡한 문제를 하위 문제로 분해할 수 있다. 피드백이 빠르고 반복 가능하다. 인간의 상식, 암묵지에 대한 의존도가 낮다. 시뮬레이션이 가능하다.

위 사항을 만족하는 정도가 높을수록 인공지능이 빠르게 침투했습니다.

1997년 딥블루는 체스 세계 챔피언 가리 카스파로프를 격파했습니다.

2011년 왓슨은 퀴즈쇼 제퍼디에서 우승했습니다.

2012년 제프리 힌턴 교수팀의 알렉스넷이 이미지 인식 대회인 이미지넷에서 우승했습니다.

2016년 알파고가 이세돌 9단에게 승리했습니다.

2022년 미드저니로 만든 작품이 미술대회에서 1위를 수상했습니다.

체스는 바둑보다 변수가 적습니다. 퀴즈쇼는 말 그대로 퀴즈이기 때문에, 단답형의 정답을 잘 찾으면 되는 게임입니다. 이미지 생성, 대화(챗봇), 운전 등은 하나의 정답지가 존재하지 않고, 어떤 행동(중간 선택)을 좋은 행동으로 볼 것인지가 애매한 경우가 많습니다. 그래도 이 영역들은 인공지능이 아주 빠른 속도로 발전해가고 있습니다.

투자는 어떤가요? ‘우리가 떠올리는’ 투자 분야는 위 모든 조건에 어긋납니다. 오늘내일 주가가 올랐다고 해서 장기적인 성과가 좋을 거라고 믿을 수 없습니다(보상 및 중간 보상의 모호함). 취득할 수 있는 정보는 많지만, 현시대의 강화학습이 원하는 학습 자료, 즉 ‘뛰어난 투자자의 매매 패턴’ 자료가 극히 드뭅니다. 뛰어난 투자자 자체가 드물고, 그 투자자들이 매매 내역을 거의 공개하지 않습니다. 단지 매매 내역만 필요한 게 아니라, 해당 매매에 이르기까지 어떤 정보를 취득했는지도 알아야 하는데, 이는 현재의 기술로는 불가능합니다.

그런데 위 조건들은 사실 인공지능 발전사에서의 여러 갈래가 섞여 있습니다. 위에서 언급한 인공지능의 도약 이벤트를 하나씩 살펴보면, 다양한 기술 갈래에서 업적을 이루었습니다. 딥블루는 brute-force 알고리즘, 즉 무식하게 하나씩 변수들을 다 계산했습니다. 지능이라기보다는 연산력의 승리였다고 볼 수 있죠. 왓슨은 DeepQA라는 기법을 썼는데, 이 또한 엄청난 기술적 도약이라기보다는 효과적인 추론 알고리즘이라고 볼 수 있습니다.

진짜 기술적 도약은 알렉스넷의 이미지넷 우승인데요. CNN(합성곱 신경망) 아키텍처와 심층 신경망 지도학습의 승리입니다. 이 뒤에는 GPU를 인공신경망 학습에 사용한다는 하드웨어 측면의 도약이 있었습니다. 알파고는 CNN에 강화학습과 MCTS(몬테카를로 트리 탐색)를 합친 거라, 큰 그림에서는 알렉스넷의 흐름을 이어받았다고 볼 수 있습니다.

두 번째 기술적 도약은 2017년 구글이 발표한 트랜스포머 논문(Attention is All You Need)입니다. 이후의 챗GPT, 미드저니, 테슬라 EtoE 자율주행 등 우리가 현시대에 인공지능이라고 부르는 대다수 모델은 트랜스포머 기반입니다.

트랜스포머는 아주 단순하게 비유하자면, 언어(혹은 픽셀이나 소리, 잘게 쪼갤 수 있는 것이라면 무엇이든)를 잘게 쪼갠 후 지도로 펼쳐서, 주어진 쿼리(질문)에 맞게 지도상에서 길을 찾아가는 방식이라고 볼 수 있습니다. 인간이 쓰는 언어, 그림, 음악 등을 학습하여, 인간이라면 이런 질문에 이렇게 대답했을 거라고 생각되는 가장 그럴싸한 답을 찾아가는 거죠.

다시 투자로 돌아가 봅시다. 트랜스포머 기반 인공지능에 주식 투자를 맡기면 어떻게 될까요? 분명 정보 취득과 통합에서는 인간이 도저히 따라잡을 수 없는 속도를 보여주겠지만, 막상 의사결정에서는 다수의 인간과 다를 바 없는 선택을 할 것입니다. 다수의 인간이 할 법한 행동을 하여 자연스럽게 보이는 게 트랜스포머의 근간이니까요. (물론 각 도메인에 따라 커스터마이징은 들어갑니다만) 또한 그 인공지능이 취득하는 정보가 원 소스뿐 아니라 1차, 2차 가공된 정보들이라면, 그 과정에서 가공자들의 편향, 오해 등이 포함됩니다. 질 나쁜 학습 자료라는 거죠.

그런 점에서 최근 나온 논문(http://arxiv.org/abs/2512.10971)의 결과는 놀랍지 않습니다. 챗GPT, 클로드, 라마 등 현재 가장 똑똑하다고 평가받는 6종의 LLM에 실시간 금융시장의 정보를 수집, 분석, 투자 의사결정을 하게 해뒀더니, 인간처럼 찔끔찔끔 벌고 깨질 때 크게 깨지며 우왕좌왕하는 모습을 보여주었다고 합니다.

그렇다고 해서 투자자들이 이를 안심하거나 조롱해서는 안 됩니다. 말씀드렸듯, 현재 주류 인공지능 모델은 트랜스포머 아키텍처 기반 LLM입니다. 인공지능의 발전사에서 이와 상이한 여러 기술적 갈래가 있었고, 이들은 각각의 길을 걷거나 융합되거나 합니다. 차세대 주식 투자용 인공지능이 현재의 1차, 2차 가공 정보들을 ‘그럴싸한 진실을 보여주는 자료’로 받아들이는 게 아니라 ‘인간의 편향을 알려주는 시그널’로 활용하게 된다면 전혀 다른 양상이 벌어질 수 있습니다. 혹은 시장에 미세하게 존재하는 알파 창출 요인들, 소수만 알고 있는 정보라든가, 각종 소셜미디어 자료를 종합하여 매크로 데이터를 먼저 정확하게 예측해낸다든가 한다면 인공지능이 알파를 창출할 가능성은 충분히 있습니다.

EtoE 자율주행 또한 많은 시행착오를 겪었습니다. 인간이 하는 대로 그대로 따라 하라고 학습을 시켜놨더니 정지선 위반이나 각종 ‘꼼수’ 운전을 그대로 배워버렸었죠. 그래서 ‘좋은 운전’을 별도로 가이드하면서 학습을 시켰습니다. 투자에 쓰인 인공지능은 이보다 더 초보적인 단계로서, 애초에 투자 전용 모델로 개발된 게 아니기 때문에 벌써 투자에서 좋은 성과를 낸다면 그게 오히려 이상한 일입니다. (물론 각종 분야에서 그런 일이 벌어지고는 있습니다만) 인공지능은 앞으로 더욱더 많이 발전할 테고, 투자라는 영역도 인간 고유의 영역이 아니게 될 것입니다. (블랙웰 칩으로 학습한 LLM은 투자도 잘한다는 소문이 있습니다.)

경쟁은 이미 시작되었다

앞서 투자 분야에 대해서 언급하면서 ‘우리가 떠올리는’이라는 단서를 달았던 것이 기억나시나요?

우리가 떠올리는 일반적인 투자란 뉴스를 습득하고, 재무제표를 보고, 블로그나 애널리스트 보고서를 읽고 포트폴리오를 구성하여(적어도 하루 이상은 지켜보면서) 주식을 사고파는 일을 의미합니다.

인간의 인지 능력이나 연산 능력으로는 파악하지 못하는 국소 구간에서의 알파 창출 요인을 기계가 찾아낼 수 있다면, 이 기계에 기반한 자동화된 매매는 초과수익을 낼 수 있습니다.

그리고 이미 그렇게 했습니다. 르네상스 테크놀로지의 메달리온 펀드는 1988~2018년 약 30년 동안 연평균 60%대 수익률을 기록했습니다. 워런 버핏, 조지 소로스 등 전통적인 거장들의 수익률을 크게 상회합니다. 30년이라는 기간은 이들 거장의 관점에서도 절대 무시할 수 없는 장기간입니다.

그 외 시장 대비 초과수익을 낸 퀀트 펀드들이 많이 있습니다. 이들을 인공지능이라고 부르기에는 애매한 면이 있지만, 인간의 판단을 최대한 덜 개입시키는 데이터 기반, 기계 기반 포트폴리오 관리라는 면에서 인공지능의 범주에 넣을 수도 있습니다. 그리고 앞으로 어떤 형태의 ‘투자 잘하는’ 인공지능이 개발되더라도 이런 유형의 펀드들이 가장 먼저 도입하게 되겠죠.

기계를 통한 알파는 이미 창출되고 있습니다. 미래의 이야기가 아니라 현재, 아니 이미 과거에 결론 난 이야기입니다.

문제는 사람

그래서 인공지능이 투자를 잘할 수 있느냐는 질문의 중요성은 퇴색됩니다.

예를 들어 투자 거장들만큼 훌륭한 어떤 투자 전문 인공지능이 있다고 합시다. 이건 명백한 사실이라고 가정합시다. 그 인공지능에 돈을 맡겼습니다. 어, 그런데 이번 달에 손실이 3% 났네요?

어떻게 받아들이겠습니까? “이 인공지능은 훌륭한 인공지능이니까 단기간의 손실은 문제가 아닐 거야. 믿고 계속 가자”라고 할 수도 있겠고, “아니 이거 훌륭한 인공지능이라더니 이렇게 손실이 나도 돼? 내가 속았나 보다”라고 할 수도 있겠죠.

맨 처음에, 이 분야는 어떤 분야라고 했죠? 보상과 중간 보상이 명확하지 않고 모호하다고 했습니다. 어떤 목표를 가지고 모델을 구성할 것인가부터 모호합니다. 매일의 수익률인가요? 연간 수익률인가요? 변동성인가요? 시장 대비 괴리율인가요?

모든 인간은 재무 상태와 목적이 상이합니다. 그에 따라 최적의 투자 전략도 다릅니다. 누군가는 하루하루의 손실도 허용할 수 없고, 누군가는 1년 중 반토막이 나도 괜찮습니다. 누군가는 시장 변동과 상관없이 매년 꾸준한 수익을 내주기를 바랄 테고, 누군가는 단기 변동성은 커도 상관없으니, 파산 가능성(NAV의 90% 이상 손실)을 최소화하면서 3년 이상 장기적인 기간에서 가능한 한 높은 수익을 올려주길 바라겠죠. (그게 접니다.)

피터 린치의 마젤란 펀드는 운용 기간 13년 동안 전 세계 공모 펀드 중에서 가장 좋은 성과를 냈습니다. 그러나 막상 고객 중에는 손해 본 고객이 수두룩했다고 합니다. 마젤란 펀드에 그냥 돈을 맡기고 단 몇 년만 지켜봤더라도 절대다수가 돈을 벌었을 것입니다. 이는 명백한 사실이지만, 고객들이 그만큼 한 인간을 오래 신뢰할 수 없었다는 것도 명백한 사실입니다.

인공지능이라고 다를까요? 실제 정말 좋은 인공지능이 존재한다는 것과, 내가 그 서비스를 장기간 이용하여 그 성과를 누린다는 것 사이에는 상당한 간극이 있습니다. 인공지능이든 인간지능이든 그 사실은 변하지 않습니다.

더 큰 문제는 따로 있습니다. 애초에 그 인공지능을 이용할 수 있는 선택지가 나에게 주어지지 않는다는 거죠. 르네상스 테크놀로지의 메달리온 펀드는 엄청난 성과를 냈지만, 펀드가 커지면서 외부 자금을 ‘내쫓고’ 내부 인력과 가족만을 고객으로 받아서 운용합니다. 누군가 주식에 관해 이야기하는 유튜브 영상마다 달리는 댓글이 있죠. “그렇게 주식을 잘하면 혼자 잘하면 되지, 왜 밖에 나와서 남에게 말하냐.” 이런 지적에는 상당한 오류가 있기는 하지만 커다란 진실, 혹은 상식을 담고 있습니다. 정말 좋은 건 만인과 공유하지 않습니다.

만약 정말 정말로 희귀한 상황이 벌어져서, 이 좋은 걸 만인이 이용하게 되었다고 합시다. 말 그대로 ‘만인’, 즉 전 세계 인류가 이용할 수 있게 되었고, 실제로 이용한다고 합시다. 그러면 그 정의상 초과수익이 사라지겠지요. 그 자체로 인덱스펀드가 되지 않겠습니까.

그럼 또 누군가는 초과수익을 원해서 ‘그’ 인공지능과는 다른 선택을 시도할 테고, 그 누군가는 가끔 좋은 성과를 낼 수도 있을 겁니다. 그럼 또다시, 지금과 다를 게 없는 상황이죠.

요약하겠습니다.

인공지능은 투자를 잘하게 될 수도 있습니다. 쉽지는 않지만, 가능성이 없다고 단정하는 건 위험합니다.

그렇지만 그렇게 투자를 잘하는 인공지능을 ‘내가’ 이용할 수 있게 된다고 단정할 수 없습니다. 이미 투자를 잘하는 기계는 나와 있고, ‘나’에게는 그 기계를 이용할 기회가 주어지지 않았습니다.

결국 인공지능이 투자를 잘하든 아니든, 나에게는 별로 중요하지 않은 문제가 됩니다.

개인적으로는, 투자 잘하는 인공지능이 나왔으면 좋겠습니다. 그러면 저도 좀 쉴 수 있지 않겠습니까.