[ 트렌드] AI 스타트업 대학살이 온다: LLM 래퍼가 망할 수밖에 없는 이유

Google VP 한 명이 실리콘밸리에서 드문 짓을 했다. 진실을 말한 거다.

지난달 비공개 컨퍼런스에서 그는 두 유형의 AI 스타트업이 "향후 24개월 안에 생존하기 어렵다"고 했다. 고전한다가 아니다. 역풍을 맞는다도 아니다. 죽는다.

첫 번째 유형: LLM 래퍼. GPT-4나 Claude를 가져다 예쁜 인터페이스를 씌우고 구독료를 받는 회사들.

두 번째 유형: AI 애그리게이터. 작업에 따라 여러 AI 모델을 전환할 수 있는 플랫폼.

"잠깐, 그러면 AI 스타트업의 한 80%가 해당되는 거 아냐?"라는 생각이 들면, 제대로 이해한 거다.

AI 스타트업 대학살이 곧 시작된다. 잔인할 거다.

상품화 곡선

지금 무슨 일이 벌어지고 있는지, 가장 직설적으로 말하면 이렇다.

파운데이션 모델이 더 좋아지고, 더 싸지고, 더 쉽게 접근 가능해지고 있다. 빠르게.

1년 전만 해도 GPT-4가 시장 최고 모델이었다. 입력 1K 토큰당 $0.06. 대규모로 돌리면 비쌌다. GPT-4급 성능을 원하면 OpenAI에 돈을 내거나 교묘한 우회법을 써야 했다.

지금은? Claude Opus 4가 대부분의 벤치마크에서 GPT-4를 맞먹거나 앞선다. Gemini 2.0도 바로 뒤에 있다. 전부 경쟁적으로 가격을 내리는 중이다.

내년에는? 아마 GPT-4 성능에 도달하는 오픈소스 모델이 나올 거다. 돌리는 비용은 푼돈 수준.

이게 상품화 곡선이다. 중간에 낀 회사들에겐 고기 분쇄기나 마찬가지다.

전체 가치 제안이 "변호사가 GPT-4를 쉽게 쓸 수 있게 해줍니다"라면, 파는 건 편의성이다. 괜찮다—OpenAI가 판례법 검색, 자동 증거개시, Westlaw 연동을 내장한 ChatGPT for Legal을 출시하기 전까지는.

그다음엔 뭘로 방어하나?

예쁜 UI? OpenAI 것도 이제 예쁘다.

프롬프트 엔지니어링? 기본 모델이 똑똑해지면 그것도 상품화된다.

업종 전문성? 어쩌면. 하지만 남의 AI를 감싸고만 있으면 진짜 IP를 쌓는 게 아니다. 빌려 쓰는 거다.

살아남는 전략은 딱 두 가지

Google VP가 멸망만 예언한 건 아니다. 생존자와 시체를 가르는 기준도 제시했다.

전략 1: 풀스택을 소유하라

가치 사슬을 충분히 통제해서 남의 가격 결정에 좌우되지 않는다는 뜻이다.

Anthropic, OpenAI, Cohere 같은 회사는 모델을 소유한다. 직접 학습시키고, 파인튜닝하고, 배포한다. 비용이 떨어지면 마진이 늘어난다. 성능이 올라가면 가치를 자기가 가져간다.

풀스택이 모델 회사만 뜻하는 건 아니다. 데이터, 워크플로우, 고객 관계를 너무 깊이 장악해서 전환 비용이 감당 불가한 버티컬 플레이어도 해당한다.

예시: Harvey AI. 맞다, 다른 곳의 모델을 쓴다. 하지만 독점 법률 데이터셋을 구축하고, 판례법으로 모델을 파인튜닝하고, 로펌 워크플로우에 통합하고, 일상 업무에 너무 깊이 박혀서 바꾸려면 법률팀 전체를 재교육해야 하는 제품을 만들었다.

그게 해자(moat)다. 완벽하진 않지만 진짜다.

전략 2: 진짜 IP 해자를 쌓아라

더 어려운 길이다. 모델이 발전해도 복제할 수 없는 걸 만드는 거다.

독점 데이터가 가장 확실한 해자다. 아무도 접근할 수 없는 고유한 학습 데이터를 모았다면 레버리지가 있다. 출판사, 병원, 전문 산업과 독점 파트너십을 맺으려고 기업들이 혈안인 이유가 이거다.

하지만 데이터만으로는 더 이상 부족하다. 경쟁자가 스크래핑하거나, 라이선스하거나, 합성 생성으로 대안을 만들 수 있다. 진짜 해자는 데이터와 방법론의 결합이다.

예를 들어 Rapidata는 데이터 라벨링과 품질 관리를 자동화해서 모델 개발 주기를 몇 달에서 며칠로 압축하는 플랫폼을 구축했다. 단순 래퍼가 아니라, AI가 가속할수록 더 가치 있어지는 인프라다.

또 다른 예: 기존 업무를 자동화하는 게 아니라 업무 방식 자체를 근본적으로 바꾸는 AI 네이티브 워크플로우를 만드는 회사들. 워크플로우 자체가 혁신이면, 기저 모델은 상품화된 투입물이 된다.

VC들이 말 안 하는 것

지금 AI 스타트업 투자의 더러운 비밀이 있다. 이 회사들 대부분이 망할 거라는 걸 다 알고 있다.

VC도 알고, 창업자도 알고, 아마 동네 카페 바리스타도 안다.

그런데 돈은 계속 들어온다. 왜?

의자 빼앗기 게임이라서 그렇다. 아무도 먼저 앉고 싶지 않다.

VC 입장에서는 다음 OpenAI를 놓칠 수 없다. 그래서 50개 AI 스타트업에 자본을 뿌리면서, 45개는 죽을 걸 알지만 5개가 펀드를 회수해 주길 바란다. 평균 성과에 베팅하는 게 아니다. 아웃라이어에 베팅하는 거다.

창업자 입장에서는 피치덱과 API 키 하나로 $10M을 모을 수 있다. 비즈니스 모델이 흔들린다는 걸 알 수도 있지만, 버블이 꺼지기 전에 프로덕트-마켓 핏을 찾거나, 큰 회사에 인재 인수(acqui-hire)로 팔리길 바란다.

직원 입장에서는 아마 가치 없는 주식을 받지만, 급여는 괜찮고 이력서에 한 줄 추가되니까.

음악이 아직 흐르니까 다들 게임에 참여하고 있다.

근데 잘 들어보면, 소리가 점점 작아지고 있다.

경고 신호들

구조조정이 오는 걸 실시간으로 볼 수 있다.

투자가 줄고 있다. 극적으로는 아니지만 눈에 띄게. 프리시드, 시드 라운드는 여전하지만 시리즈 A가 어려워지고 있다. 투자자들은 사용자가 아니라 매출을 보고 싶어 한다. 차별화를 원하지, "우리는 X를 위한 ChatGPT"가 아니라.

고객 획득 비용이 치솟고 있다. 얼리어답터는 모든 AI 도구를 써봤다. 다음 코호트를 잡으려면 경쟁사보다 더 쓰거나 진짜 더 나은 걸 제공해야 한다. "더 나은 UI"는 이제 안 먹힌다.

이탈률이 높아지고 있다. 호기심에 AI 도구에 가입한 사용자들이 이제 정리하기 시작했다. ChatGPT Plus가 대부분 해주는데 왜 5개의 AI 글쓰기 도구에 돈을 내나?

그리고 대형 업체들이 하류로 진출 중이다. OpenAI는 인프라에 만족하지 않는다. 제품을 만들고 있다. Google도 마찬가지. Microsoft도. 이들이 버티컬 기능을 하나 출시할 때마다 스타트업 하나가 죽는다.

가장 확실한 신호? 인재 인수가 시작됐다. 대기업이 AI 스타트업을 사서 팀만 데려가고 제품을 접으면, 그건 성공 스토리가 아니다. 안락사다.

진짜 이기는 건 누구인가

구체적으로 누가 살아남는지 보자.

승자:

1. 유통을 가진 모델 회사 — OpenAI, Anthropic, Google, Microsoft. 인프라와 고객 관계를 둘 다 쥐고 있다.
2. 깊은 통합을 갖춘 버티컬 AI — 산업 워크플로우에 너무 깊이 박혀서 전환 비용이 감당 불가인 회사들. EHR 시스템에 연결되는 의료 AI. 사건 관리 플랫폼에 통합되는 법률 AI. 얕은 래퍼가 아니라 깊은 인프라.
3. 행동을 바꾸는 AI 네이티브 제품 — 기존 워크플로우를 자동화하는 게 아니라 새로운 걸 만드는 도구. GitHub Copilot은 코딩 속도만 높인 게 아니라 개발자의 작업 방식 자체를 바꿨다. 그런 게 살아남는다.
4. 독점 데이터 해자 — 복제 불가한 고유 데이터셋을 통제하는 회사. 드물지만 존재한다.
5. 인프라와 툴링 — 곡괭이와 삽 비즈니스. MLOps 플랫폼, 관측 도구, 보안 레이어. 재미없지만 모든 AI 회사에 필요한 것들.

패자:

1. 순수 API 래퍼 — 제품이 말 그대로 GPT-4에 더 예쁜 인터페이스를 씌운 거라면, 끝났다.
2. 기능이지 제품이 아닌 회사 — OpenAI가 ChatGPT에 메뉴 옵션 하나 추가해서 통째로 복제할 수 있다면, 그건 사업이 아니다.
3. 락인 없는 애그리게이터 — AI 모델을 전환할 수 있는 플랫폼은 유용해 보이지만, 전환 비용이 제로면 고객 충성도도 제로다.
4. 미투 버티컬 — 47번째 "영업팀을 위한 AI" 회사가 되는 건 전략이 아니다.
5. 바이럴리티 없는 소비자 앱 — AI 소비자 앱의 사용자를 확보하려고 광고를 사야 한다면, 유닛 이코노믹스가 안 맞을 가능성이 높다.

인재 유출

아무도 이야기하지 않는 2차 효과가 있다. 망하는 AI 스타트업에서 일하던 엔지니어들은 어디로 가나?

지금 수천 명의 실력 있는 개발자가 남의 모델 위에 기능을 만들고 있다. 회사가 접히면 선택지는 이렇다:

진짜 혁신이 일어나는 대형 업체(OpenAI, Google, Microsoft)에 합류하거나.

지속 가능한 사업이 있는 인프라 레이어(AWS, 클라우드 플랫폼, MLOps 회사)로 가거나.

진짜 해자를 쌓아서 살아남은 소수의 버티컬에 합류하거나.

아니면 AI를 완전히 떠나서 전통적 소프트웨어로 돌아가거나.

세 번째 옵션이 가장 흥미롭다. 살아남은 회사들이 실패한 경쟁사의 인재를 쓸어갈 거다. Harvey AI인데 법률 AI 스타트업 5개가 죽으면, 그 분야를 이미 아는 엔지니어를 골라 뽑을 수 있다.

이런 인재 집중이 승자와 패자의 격차를 가속화한다. 최고의 인재가 진짜 트랙션 있는 회사에 몰리고, 그 회사를 상대하기가 더 어려워진다.

AI 산업에 미치는 의미

구조조정은 사실 건강한 거다.

지금 AI는 신호 대 잡음 문제가 있다. 너무 많은 회사가 브랜딩만 살짝 바꿔서 거의 같은 걸 하고 있다. 고객한테는 혼란이고 생태계에는 낭비다.

상품화 플레이어가 정리되면, 남는 건 진짜 혁신이다. 방어 가능한 뭔가를 만들었기 때문에 살아남은 회사들. 모두에게 더 낫다.

비즈니스 모델에 대한 정직도 강제된다. "빨리 성장하고 수익화는 나중에" 전략은 기반 비용을 남이 통제할 때 안 통한다. 지속 가능한 AI 사업은 API 비용에 마진을 더한 만큼 충분히 받아야 한다. VC 보조금으로 버티는 무료 체험이 줄고 현실적 가격이 늘어난다는 뜻이다.

단기적으로 도입이 느려질 수 있지만, 장기적으로 더 건강한 구조가 만들어진다.

구조조정은 역할도 명확하게 한다. 파운데이션 모델 회사는 인프라가 된다. 버티컬 AI 회사는 애플리케이션이 된다. 툴링 회사는 양쪽을 가능하게 한다. 지금은 다들 모든 걸 하려고 한다. 전문화가 필요에 의해 나타날 거다.

24개월 타임라인

왜 하필 24개월이라고 했을까?

벤처 자금이 보통 그 정도 버티니까. 2024~2025년에 시리즈 A를 받은 회사는 2026~2027년에 돈이 떨어진다. 그때까지 방어 가능한 비즈니스 모델을 증명하지 못하면 시리즈 B는 없다.

벽에 글씨가 써 있는 게 이미 보인다. 후기 단계 AI 라운드는 희소하다. 밸류에이션은 압축되고 있다. 쉬운 돈의 시대는 끝났다.

앞으로 2년간 벌어질 일:

• 인재 인수 가속 (대기업이 인재를 사고 제품은 접는다)
• 피봇 증가 (AI 래퍼가 "워크플로우 자동화 플랫폼"으로 탈바꿈)
• 폐업 급증 (솔직한 창업자들이 모델이 안 된다고 인정)
• 통합 (소수의 지속 가능한 플레이어가 소형 경쟁사를 흡수)

2028년 초면 AI 스타트업 지형은 완전히 달라져 있을 거다. 회사는 줄지만 더 강해진다. 과대광고는 줄고 펀더멘털이 남는다.

당신이 해야 할 일

AI 스타트업을 만들고 있다면:

해자에 대해 냉정하게 자문하라. OpenAI가 내일 당신의 제품을 똑같이 발표하면 죽나? 그렇다면 지금 피봇하라.

버티컬 통합이 아군이다. 방어 가능한 뭔가를 소유하라—데이터, 유통, 워크플로우 통합, 고객 관계. API는 해자가 아니다.

진짜 돈을 받아라. 비즈니스 모델이 무료 사용자의 전환에 의존한다면 도박이다. 처음부터 과금하라. 돈을 안 내면 프로덕트-마켓 핏이 없는 거다.

투자하고 있다면:

편의가 아니라 통제력을 봐라. 독점 데이터, 고유 워크플로우, 깊은 통합을 가진 회사. 남의 AI를 예쁘게 만드는 회사가 아니라.

매출이 다시 중요해졌다. 성장-모든-비용-감수는 잊어라. 지속 가능한 유닛 이코노믹스가 대세다.

팀 퀄리티가 최우선이다. 구조조정이 올 때, 최고의 팀은 살아남을 방법을 찾는다. 나머지는 못 찾는다.

AI 스타트업 입사를 고려한다면:

어려운 질문을 던져라. OpenAI나 Google이 이 기능을 만들면? 3년 내 수익성 경로는? 해자는 뭔가?

주식은 아마 휴지다. 현금을 받아라. 확실한 승자가 아닌 한, 그 주식은 영원히 가치 없을 거다.

매출 있는 회사를 골라라. 매출 전 AI 스타트업은 대부분 환상이다. 매출은 고객을 의미하고, 고객은 검증을 의미한다.

희망은 있다

그래, 대부분의 AI 스타트업은 죽을 거다.

하지만 살아남는 곳은 탁월할 거다. 진짜 해자, 지속 가능한 이코노믹스, 진정한 혁신을 갖춘.

구조조정이 창의성을 강제한다. GPT-4를 감싸는 것으로 이길 수 없을 때, 진짜 새로운 걸 만들어야 한다. 그때 흥미로운 회사가 나타난다.

AI 생태계를 이해하기 쉽게 만들기도 한다. 지금은 혼돈이다. 구조조정 후에는 지형이 명확해진다: 인프라 플레이어, 버티컬 애플리케이션, 툴링 회사. 각자 역할이 정해진다.

사용자에게는 잡음이 줄어든다는 뜻이다. 평범한 도구는 줄고, 진짜 유용한 도구가 늘어난다. 그건 좋은 거다.

산업에게는 성숙을 뜻한다. 과대광고에서 실체로. 무차별 투자에서 지속 가능한 비즈니스 모델로.

AI 골드러시는 끝났다. 진짜 건설이 이제 시작된다.