켈리 공식, 얼마를 걸지 수학에게 물어봤습니다

이기는 게임에서도 파산할 수 있습니다

이런 게임을 상상해 보세요. 동전을 던져 이길 확률이 60%, 이기면 건 돈만큼 따고 지면 건 돈을 잃습니다. 명백히 유리한 게임이죠. 그런데 매번 가진 돈의 절반을 걸면 어떻게 될까요. 직감으로는 부자가 될 것 같지만, 시뮬레이션을 돌려 보면 놀랍게도 거의 확실하게 파산을 향해 갑니다. 유리한 게임에서, 이기는 횟수가 더 많은데도요.

지난 섀넌의 도깨비 글에서 만든 시뮬레이션 코드를 만지작거리다가 이 실험까지 하게 됐습니다. 승률 60% 동전에 베팅 비율만 10%, 20%, 50%, 100%로 바꿔 가며 각각 200판짜리 게임을 1만 번씩 돌려 봤는데, 결과 그래프가 제 직감을 완전히 배신했죠. 가진 돈의 10%를 걸면 꾸준히 불어나고, 20%를 걸면 가장 빨리 불어나는데, 50%를 걸면 이기는 판이 더 많은데도 잔고의 중앙값이 녹아내렸습니다. 100%를 거는 몰빵은 말할 것도 없고요. 200판 중 단 한 번이라도 지면 끝인데, 승률 60%로 200판을 전승할 확률은 사실상 0이니까요. 저는 처음에 코드에 버그가 있는 줄 알고 한 시간을 들여다봤습니다. 버그가 아니었습니다.

이 "얼마를 걸어야 하는가"에 수학적 정답을 내놓은 사람이 벨 연구소의 존 켈리입니다. 1956년, 같은 연구소에 있던 섀넌의 정보이론을 빌려 와 최적 베팅 비율 공식을 만들었죠. 그래서 이 글은 지난 도깨비 이야기의 후속편이기도 합니다. 도깨비가 '비중을 되돌리는 힘'이었다면, 켈리는 '비중을 얼마로 정할 것인가'에 대한 답입니다.

왜 절반씩 걸면 망할까요

원리는 물타기 글에서 본 곱셈의 세계와 같습니다. 내 잔고는 더하기가 아니라 곱하기로 움직입니다. 절반을 걸어 이기면 잔고는 1.5배, 지면 0.5배가 되죠. 한 번 이기고 한 번 지면 1.5 × 0.5 = 0.75배. 승패가 반반만 나와도 판마다 잔고의 4분의 1이 사라지는 구조입니다. 승률 60%로도 이 손실을 못 메꿉니다.

숫자로 확인해 보죠. 절반 베팅으로 10판을 해서 6승 4패, 그러니까 승률대로 나왔다고 합시다. 잔고는 1.5를 여섯 번, 0.5를 네 번 곱한 값이 되는데 계산하면 원금의 약 0.71배입니다. 승률대로 이기고도 잔고가 29% 줄어드는 겁니다. 순서를 어떻게 바꿔도 곱셈이라 결과는 같습니다.

즉 문제는 게임의 유불리가 아니라 베팅 크기가 만드는 변동성입니다. 크게 걸수록 이길 때 많이 따지만, 곱셈의 세계에서는 큰 하락 한 번이 큰 상승 여러 번을 잡아먹습니다. -50%를 복구하려면 +100%가 필요하다는 그 비대칭이 판마다 누적되는 거죠.

켈리 공식은 이 곱셈 성장률을 최대로 만드는 베팅 비율을 알려 줍니다. 승률 p, 배당이 1:1인 게임이면 공식은 아주 단순해서 '이길 확률 빼기 질 확률'입니다. 위 게임이라면 60% - 40% = 잔고의 20%가 정답이죠. 제 시뮬레이션에서 20%가 가장 빨랐던 게 우연이 아니었던 겁니다.

이 곡선에서 눈여겨볼 것은 산 모양이라는 점입니다. 적정 비율까지는 더 걸수록 빨리 크지만, 그 고개를 넘는 순간 더 거는 만큼 오히려 느려지고, 어느 선을 넘으면 성장률이 마이너스로 뒤집힙니다. 유리한 게임을 하면서도 돈을 잃는 구간이 수학적으로 존재하는 거예요. 과욕은 기분의 문제가 아니라 계산되는 손실입니다.

투자에서는 어떻게 쓰일까요

켈리 공식을 주식 투자에 그대로 대입하기는 어렵습니다. 동전과 달리 시장은 승률과 배당을 정확히 알 수 없으니까요. 실제로 이 공식을 블랙잭과 시장에 적용해 유명해진 수학자 에드 소프도, 실전에서는 켈리가 알려 준 값의 절반만 거는 '하프 켈리'를 썼다고 알려져 있습니다. 확률 추정이 조금만 틀려도 과베팅이 되기 때문에, 안전 여유를 두는 것이죠.

그래서 제가 켈리에게서 가져온 건 공식 자체가 아니라 세 가지 감각입니다.

• 베팅 크기는 실력과 별개의 변수다: 종목을 잘 골라도 비중이 틀리면 결과가 망가집니다. '무엇을 사느냐'만큼 '얼마나 사느냐'가 독립적으로 중요합니다
• 과베팅은 반드시 벌 받는다: 확신이 강할수록 몰빵하고 싶어지지만, 곡선의 오른쪽 내리막은 확신의 크기를 봐주지 않습니다. 몰빵이 위험한 건 심리 문제 이전에 산수 문제입니다
• 모르면 줄여라: 승률을 정확히 모른다는 사실 자체가 베팅을 줄일 이유가 됩니다. 하프 켈리의 지혜죠

물타기 글에서 비중 상한 없이 사다가 한 종목이 계좌의 34%가 됐던 제 실패담을 적었는데, 켈리의 언어로 다시 보면 그건 승률 추정도 없이 베팅 크기만 계속 키운 행동이었습니다. 곡선의 내리막을 향해 스스로 걸어간 셈이죠.

켈리의 관점은 분산투자에도 새 조명을 비춥니다. 서로 따로 움직이는 여러 게임에 나눠 걸면 전체 잔고의 출렁임이 줄어드는데, 곱셈의 세계에서 변동이 줄어든다는 건 같은 기대수익으로 더 빠르게 성장한다는 뜻입니다. 즉 분산투자는 '수익을 포기하고 안전을 사는' 타협이 아니라, 장기 성장률 자체를 끌어올리는 수학적 선택에 가깝습니다. 여러 종목에 나눠 담으라는 오래된 조언 뒤에 이런 계산이 숨어 있는 거죠.

목표 비중은 결국 베팅 크기 선언입니다

이 관점에서 보면 포트폴리오의 목표 비중이라는 게 새롭게 읽힙니다. "이 종목은 15%까지만"이라고 정하는 건, 켈리처럼 내 확신의 크기와 감당할 변동에 맞춰 베팅 크기를 미리 선언하는 행위입니다. 그리고 리밸런싱은 시장이 그 비중을 흔들어 놓을 때마다 선언한 크기로 되돌리는 실행 장치고요.

비중을 정하는 감각, 그리고 도구

정확한 켈리 계산은 못 하더라도, 방향은 빌릴 수 있습니다. 확신이 큰 종목은 비중을 좀 더, 잘 모르는 종목은 좀 덜. 다만 어떤 확신이라도 곡선의 고개 너머(과베팅)로는 가지 않게 상한을 두는 것. 그게 아마추어가 켈리에게서 배울 수 있는 전부이자 충분한 교훈이라고 생각합니다.

숫자를 정하기 막막하다면 거꾸로 접근하는 방법도 있습니다. "이 종목이 반토막 나도 견딜 수 있는 계좌 손실은 몇 %인가"부터 정하는 거죠. 계좌의 7~8% 하락까지 견딜 수 있다면 그 종목의 비중 상한은 15% 안팎이 됩니다. 승률을 추정하는 것보다 훨씬 답하기 쉬운 질문인데, 결과적으로 과베팅을 막는 상한이 나옵니다.

RebalanceGo는 이 선언을 지키는 쪽을 돕는 도구입니다. 종목별 목표 비중을 정해 두면, 시장이 움직여 비중이 틀어질 때마다 몇 주를 사고팔아 선언한 크기로 돌아가는지 계산해 주죠. 켈리 공식이 "얼마를 걸까"의 수학이라면, 리밸런싱 계산기는 "정한 만큼만 걸린 상태를 유지"하는 도구인 셈입니다. 둘은 같은 문제의 앞면과 뒷면입니다.

이 글은 베팅 크기와 비중 결정의 원리를 소개하는 정보이며, 특정 공식에 따른 투자나 특정 종목의 비중을 권하는 것이 아닙니다. 기억하실 것은 하나입니다. 유리한 게임에서도 크게 걸면 진다는 것 — 그러니 종목 고르는 공부만큼, 얼마나 담을지 정하는 공부에도 시간을 쓰시길 바랍니다. 켈리와 섀넌이 같은 연구소에서 남긴 두 개의 답, 저는 이 둘이면 비중에 관한 고민의 대부분이 정리된다고 생각합니다.