오픈웨이트 모델 vs 토큰 과금: Palantir Karp가 던진 질문 (2026)

결론부터 말씀드릴게요. 2026년 7월, Palantir CEO Alex Karp가 폐쇄형 AI 모델과 토큰 과금을 향해 "뭔가 완전히 잘못됐다"고 직격했습니다. 그런데 이 사건의 진짜 포인트는 "폐쇄 모델은 나쁘고 오픈웨이트 모델이 옳다"는 이분법이 아니에요. 병을 진단한 사람이 바로 그 자리에서 치료약을 팔고 있었다는 점, 그리고 그럼에도 그가 던진 두 가지 질문만큼은 조달 담당자라면 반드시 짚어야 한다는 점입니다.

이 글에서는 2026년 7월 1일 CNBC 생방송에서 무슨 일이 있었는지, 오픈웨이트 모델과 AI 주권 논쟁이 왜 지금 뜨거운지, 그리고 실무자가 이 소동에서 뭘 챙겨야 하는지를 편하게 정리해 드릴게요.

Palantir Karp가 던진 직격, 무슨 말이었나

2026년 7월 1일(수) Karp는 CNBC Squawk Box에 출연했어요. 표면상으로는 이틀 전 발표한 NVIDIA 딜을 이야기하러 나온 자리였는데, OpenAI·Anthropic의 토큰 과금 모델로 화살을 돌렸습니다.

그가 실제로 한 말은 이랬어요. "그들을 깎아내리려는 건 아니지만, 뭔가 완전히 잘못됐다(I'm not throwing shade at them, but something has gone completely wrong)." Sam Altman이나 Dario Amodei 개인을 공격하는 게 아니라고 반복하면서도, 토큰 모델 자체는 잘못됐다고 못 박은 거죠.

핵심은 기업들의 심정을 대신 전한다는 형식이었어요. 기업들이 "격분(livid)"하며 이렇게 말한다고 인용했습니다. "나는 아무 가치도 만들지 못하는 토큰에 돈을 내고 있다. 저들은 내 사업의 가중치와 알파(weights and alpha)를 훔쳐가면서, 가난한 사람을 돕지도 않는 부유세를 만들고 있다." 진행자 Becky Quick이 "꽤 화나 보인다"고 끼어들자, Karp는 "아니다, 이건 나를 통해 전달되는 미국 비즈니스의 목소리다"라고 받았고요.

그는 폐쇄형 대형 모델의 상업적 가치가 "완전히, 무책임하게 과대 판매됐다(completely, irresponsibly over-sold)"고까지 표현했습니다.

오픈웨이트 모델과 'AI 주권'이 왜 핵심인가

Karp의 주장을 이해하려면 '오픈웨이트 모델'과 'AI 주권(AI sovereignty)'이라는 두 개념을 먼저 풀어야 해요.

오픈웨이트 모델은 학습이 끝난 모델의 가중치(weights, 모델이 학습으로 얻은 지식을 담은 숫자 뭉치)를 사용자가 직접 내려받아 자기 환경에서 돌릴 수 있는 모델을 말합니다. 반대로 폐쇄형 모델은 가중치를 공개하지 않고, 사용자가 API로 접속해 쓴 만큼 토큰 단위로 요금을 내는 구조예요.

Karp가 2026년 6월 30일 Palantir 공식 X 계정에 올린 9개 항목 매니페스토의 논지가 여기에 걸립니다. "가중치를 통제하는 것이 곧 운명을 통제하는 것(Controlling your weights is controlling your fate)"이라는 거죠. 가중치는 기관이 힘들게 축적한 노하우의 압축본인데, 그걸 남이 통제하면 내 경쟁우위(알파)를 그쪽으로 넘기는 셈이라는 논리예요.

그가 만든 신조어도 있어요. 'tokenmaxxing(토큰맥싱)' — 토큰 사용량을 늘리는 데 집착하다 보면 견고한 소프트웨어 대신 일회성 스크립트를 남발하게 되고, 거짓 진보감에 중독된다는 비판입니다.

반전: 문제 지적자가 곧 해법을 파는 벤더

여기서 이 사건의 정직한 해석이 필요해요. Karp가 CNBC에 나온 진짜 이유는 이틀 전 발표한 딜 때문이었거든요.

2026년 6월 29일(월) Palantir는 NVIDIA와 확장 파트너십을 발표했습니다. NVIDIA의 Nemotron 오픈웨이트 모델을 주권·기밀·에어갭 환경에 배포하는 엔진이에요. 고객이 자기 데이터로 파인튜닝하고, 결과 모델의 가중치와 학습 데이터를 완전히 소유하며, 자기 보안 경계 안에서 운영하도록 하는 구조입니다. 대상은 미 정부기관과 핵심 인프라고요.

그러니까 순서를 보면 이렇습니다. 오픈웨이트 sovereign AI 딜 발표(6/29) → AI 주권 매니페스토(6/30) → 토큰 모델 직격 생방송(7/1). 문제를 지적한 회사가 곧 그 해법을 파는 회사인 거죠. 진행자 Andrew Ross Sorkin이 반복되는 면책 발언을 두고 "그거 그냥 깎아내리는 거 같은데(That sounds like shade)"라고 지적한 것도 이 맥락이에요.

그리고 시장은 이 퍼포먼스에 보상했습니다. 발언 당일 Palantir 주가는 CNBC 집계 기준 +8%, 복수 금융 매체 기준 약 9% 상승했어요. 한마디로 치료약을 파는 자리에서 병을 진단한 셈입니다.

한 가지 더 정직하게 짚을게요. Karp는 폐쇄형 모델의 낮은 ROI나 실패율에 대한 제3자 통계나 독립 설문을 전혀 인용하지 않았습니다. 발언 중 그가 제시한 유일한 재무 수치는 Palantir 자체의 2년 후 예상 잉여현금흐름 150억~180억 달러였는데, 이건 독립 검증 지표가 아니라 자기 회사 전망이었어요. "가치 없다"는 표현은 정량화되지 않은 벤더 수사에 가깝습니다.

그럼에도 그가 던진 두 질문은 옳다

메신저가 이해관계자라고 해서 메시지까지 틀린 건 아니에요. Karp가 던진 두 질문은 어디서 뭘 사든 합리적인 조달 기준입니다.

첫째, 내 토큰 지출이 검증 가능한 산출물로 이어지는가. 사용량 자체가 아니라 결과에 연결됐는지를 따지는 거예요. 계측형 요금을 쓰는 팀이라면 청구서와 실제 성과를 대조해 볼 만한 질문입니다.

둘째, 내 데이터·가중치·업무 노하우를 누가 통제하는가. 그가 제시한 조달 체크리스트가 여기 딱 맞아요. "벤더가 내 데이터를 보관하는가? 내 사업 영역에 진입하는가? 기밀 맥락에서 가중치를 누가 통제하는가?" 이건 Palantir에서 아무것도 안 사더라도 유효한 기준이죠.

균형점도 분명히 해둘게요. 주권형·오픈웨이트 배포는 계측 비용을 운영 부담으로 맞바꾸는 선택입니다. 규제나 정부처럼 데이터 통제 제약이 강한 맥락에는 맞지만, "측정 안 된 사용량"이 진짜 문제인 팀에게는 오픈웨이트가 최저비용 경로가 아닐 수 있어요.

실무자가 이 소동에서 챙길 것

AI 자동화를 실제로 구축하는 분들께 이 사건은 좋은 점검 계기예요. 결론은 "폐쇄냐 오픈이냐"의 진영 선택이 아니라, 계측하고 소유하는 혼합 전략입니다.

솔직하게 말하면 요즘 가장 강력한 프론티어 모델 상당수는 폐쇄형이자 토큰형이에요. 그러니 "폐쇄 모델은 무조건 나쁘다"로 몰아가면 자기모순에 빠집니다. 대신 이렇게 접근하는 게 현실적이에요. 가장 어려운 추론은 프론티어 모델에 맡기고, 프라이버시·비용에 민감한 반복 작업은 로컬·오픈웨이트로 내리는 식으로 작업 성격에 따라 스택을 나누는 겁니다.

바로 실행할 수 있는 체크리스트로 옮기면 이렇습니다.

이번 달 토큰 청구서를 실제 산출물에 연결해 봤는가. 어떤 작업이 돈값을 하고 어떤 작업이 그냥 토큰만 태웠는지 구분해 보세요.
벤더의 데이터 보관·학습 사용 약관을 실제로 읽어봤는가. "우리 데이터를 학습에 쓰지 않는다"는 문구가 계약서에 있는지 확인이 필요해요.
어떤 작업을 로컬·오픈웨이트 모델로 내려도 되는가. 전부 옮길 필요는 없고, 반복적이고 민감한 것부터 후보로 두면 됩니다.

Karp가 자기 딜을 팔려고 한 말이든 아니든, 이 세 가지 질문은 여러분의 AI 비용과 데이터 주권을 지키는 데 도움이 됩니다.

마무리

정리하면, 2026년 Palantir Karp의 오픈웨이트 모델·토큰 과금 직격은 절반은 세일즈 퍼포먼스, 절반은 진짜 질문이었습니다. 병을 진단한 사람이 치료약을 파는 구조라는 점은 냉정하게 봐야 하지만, 토큰이 산출물로 이어지는지와 내 가중치를 누가 쥐는지를 묻는 태도만큼은 챙길 가치가 있어요.

퀀텀점프클럽(QJC)은 작은 기업이 큰 기업의 AI 전환을 돕는 일을 합니다. 토큰 비용 구조를 점검하고, 어떤 작업을 프론티어에 남기고 어떤 작업을 오픈웨이트·로컬로 내릴지 함께 설계해 드려요. AI 스택을 "측정하고 소유하는" 방향으로 다듬고 싶으시면 블로그 구독과 문의를 남겨주세요. 다음 글에서 더 실전적인 사례로 이어가겠습니다.

오픈웨이트 모델 vs 토큰 과금: Palantir Karp가 던진 질문 (2026)