한국 AI 스타트업을 볼 때 지금 중요한 질문은 “누가 모델을 더 잘 만들었나”에서 “누가 모델을 실제 서비스로 싸고 안정적으로 돌리게 해주나”로 옮겨가고 있다. GPU는 비싸고, 오픈웨이트 모델은 빨리 바뀌며, 기업 고객은 실험용 데모가 아니라 SLA가 있는 추론 API를 원한다. FriendliAI는 이 지점에 서 있는 회사다. 한국에서 출발했지만, 제품 언어는 명확히 글로벌 AI inference cloud에 가깝다.
특히 2026년에는 FriendliAI를 다시 볼 이유가 생겼다. 회사는 Samsung Cloud Platform과 NVIDIA B300 GPU 기반 추론 협력을 발표했고, GLM-5.2, Nemotron, K-EXAONE 같은 최신 오픈모델을 빠르게 API로 제공하고 있다. 단순히 “한국 AI 스타트업”이라는 정체성보다, 한국 기업들이 자체 모델과 에이전트를 운영할 때 필요한 추론 운영 레이어가 될 수 있느냐가 핵심이다.
FriendliAI는 무엇을 파는 회사인가?
FriendliAI는 생성형 AI 모델을 운영 환경에서 빠르고 저렴하게 서빙하는 인프라 회사다. 회사 공식 설명에 따르면 핵심 제품은 크게 세 가지다.
- Model APIs: 오픈웨이트 및 프론티어 모델을 API 형태로 바로 호출하는 제품
- Dedicated Endpoints: 기업이 전용 GPU 위에서 자체 모델이나 특정 모델을 운영하는 제품
- Container: 고객 환경에서 FriendliAI의 추론 엔진을 직접 운영하는 제품
쉽게 말하면 “모델을 만드는 회사”라기보다 “모델을 돈이 되는 서비스로 돌리는 회사”에 가깝다. 홈페이지에서 강조하는 것도 모델 성능 자체보다 처리량, 지연시간, GPU 효율, 글로벌 안정성이다. 회사는 자체 스택에 custom GPU kernel, smart caching, continuous batching, speculative decoding, parallel inference 같은 추론 최적화 기술을 넣어 2배 이상 빠른 추론을 제공한다고 설명한다. 이 수치는 회사 주장 기준이므로 독립 벤치마크로 단정할 수는 없지만, FriendliAI가 겨냥하는 병목이 무엇인지는 분명하다.
왜 지금 FriendliAI인가: AI의 비용 중심이 학습에서 추론으로 이동한다
2023~2024년의 AI 인프라 논의는 주로 “누가 큰 모델을 학습할 GPU를 확보하나”에 가까웠다. 2025~2026년에는 상황이 조금 달라졌다. 기업은 자체 모델, 파인튜닝 모델, 오픈웨이트 모델, 에이전트 워크플로를 실제 고객에게 내보내기 시작했고, 그때부터 비용의 중심은 추론으로 내려온다.
추론 인프라의 어려움은 단순히 GPU를 빌리는 문제가 아니다. 피크 트래픽을 견뎌야 하고, token per second를 높여야 하며, 긴 컨텍스트와 MoE 모델의 메모리 병목을 처리해야 한다. 같은 H100을 써도 서빙 엔진이 비효율적이면 고객은 더 많은 GPU를 사야 한다. FriendliAI의 기회는 바로 여기에 있다.
한국 시장 맥락도 좋다. 정부와 대기업은 AI 데이터센터, 소버린 AI, 온디바이스 AI, 로봇 AI를 동시에 밀고 있다. 하지만 모델을 만든다고 곧바로 서비스가 되는 것은 아니다. 추론 비용을 낮추고 운영 복잡도를 줄이는 레이어가 있어야 한다. FriendliAI는 한국 AI 생태계에서 모델 회사와 GPU 인프라 회사 사이에 놓이는 “운영 레이어”가 될 수 있다.
투자와 성장: 2,000만 달러 seed extension 이후의 과제
FriendliAI의 뉴스룸에 따르면 회사는 2025년 8월 Crunchbase News를 통해 2,000만 달러 seed extension 유치를 공개했다. 라운드 규모는 글로벌 AI 인프라 유니콘들과 비교하면 크지 않다. 하지만 이 회사의 본질은 대규모 모델 학습 자본전이 아니라, 추론 효율과 엔터프라이즈 운영 신뢰성을 파는 소프트웨어/인프라 사업이라는 점에서 봐야 한다.
현재 공개 자료만으로는 FriendliAI의 매출, ARR, 밸류에이션, 순매출 유지율을 확인하기 어렵다. 따라서 이 회사의 성장성을 숫자로 과하게 단정하기는 어렵다. 대신 확인 가능한 지표는 고객 사례와 파트너십이다. 공식 고객 사례에는 SK Telecom, Upstage, LG AI Research, Scatter Lab, NextDay AI 등이 등장한다. 특히 SKT와 LG AI Research는 한국 AI 인프라 수요를 보여주는 좋은 레퍼런스다.
돈은 어디서 버는가?
FriendliAI의 수익 모델은 비교적 명확하다. 가격 페이지 기준으로 Model APIs는 토큰 단위 과금, Dedicated Endpoints는 GPU 시간 단위 과금, Container는 엔터프라이즈 계약형으로 보인다.
- 토큰 과금: GLM-5.2, DeepSeek, K-EXAONE 같은 모델을 input/output token 기준으로 과금한다.
- 전용 GPU 과금: A100 80GB는 시간당 2.9달러, H100 80GB는 3.9달러, H200 141GB는 4.5달러, B200 180GB는 8.9달러로 표시되어 있다. 가격은 페이지 공개 시점 기준이며 변동될 수 있다.
- 엔터프라이즈 계약: VPC, 온프레미스, 전용 리전, 예약 GPU 용량, 전담 지원 같은 요구는 계약형으로 처리한다.
이 구조는 OpenAI나 Anthropic처럼 자체 모델을 팔아 마진을 남기는 방식과 다르다. FriendliAI는 모델 선택권을 고객에게 열어두고, 효율적인 추론 운영에서 마진을 만든다. 고객 입장에서는 특정 모델 회사에 종속되지 않고 최신 오픈모델을 빠르게 시험할 수 있다. 회사 입장에서는 모델 레이어의 승자 하나를 맞히지 않아도, 여러 모델이 쓰일수록 인프라 수요가 늘어나는 포지션을 잡을 수 있다.
제품의 핵심은 “빠른 API”보다 운영 신뢰성이다
FriendliAI가 흥미로운 이유는 단순 벤치마크 회사처럼 보이지 않기 때문이다. 공식 사례를 보면 실제 판매 포인트는 속도만이 아니라 운영 안정성이다.
SK Telecom 사례에서 FriendliAI는 SKT가 대규모 고객 기반의 엔터프라이즈 AI 에이전트를 운영하면서 엄격한 SLA, 무거운 트래픽, 비용 문제를 겪었다고 설명한다. 결과로는 5배 LLM throughput 증가, 3배 운영비 절감, 수 시간 내 production readiness를 제시했다. 이는 회사와 고객 사례 기준 수치이므로 일반화하면 안 되지만, 통신사 규모 고객에게 팔리는 메시지는 분명하다. “모델을 잘 돌리게 해주는 것”이 곧 제품이다.
LG AI Research 사례도 비슷하다. K-EXAONE 같은 대형 MoE 모델을 연구 단계에서 실제 API로 옮길 때, 긴 컨텍스트와 메모리 병목, 배포 속도, GPU 오버헤드가 문제가 된다. FriendliAI는 여기서 K-EXAONE의 production deployment layer 역할을 했다고 설명한다. 한국형 소버린 모델이 늘어날수록 이런 추론 레이어의 중요성은 커진다.
경쟁 구도: Fireworks, Together, Baseten, hyperscaler와 싸운다
FriendliAI의 경쟁자는 한국 스타트업만이 아니다. 글로벌로 보면 Fireworks AI, Together AI, Baseten, Replicate, Modal, Anyscale, GroqCloud, AWS Bedrock, Azure AI Foundry, Google Vertex AI까지 넓게 겹친다. 고객이 원하는 것은 “내 모델을 빠르고 싸게, 장애 없이, 보안 요구에 맞춰 돌려달라”이기 때문이다.
이 시장에서 FriendliAI의 차별점은 세 가지로 보인다.
- 추론 엔진 중심 기술: 회사는 커널, 캐싱, 배칭, speculative decoding 등 하위 레벨 최적화를 강하게 내세운다.
- 한국 대기업 레퍼런스: SKT, LG AI Research, Upstage, Samsung Cloud Platform 협력은 국내 엔터프라이즈 신뢰를 얻는 데 유리하다.
- 오픈모델 day-0 배포: 최신 오픈웨이트 모델을 빠르게 API로 제공하면 개발자 유입과 벤치마크 노출을 동시에 얻을 수 있다.
다만 이 장점은 방어력이 아주 높은 해자는 아니다. Fireworks와 Together도 오픈모델 API와 추론 최적화를 강하게 밀고 있고, hyperscaler는 GPU 공급과 기존 엔터프라이즈 계약을 쥐고 있다. FriendliAI는 “기술적으로 빠르다”를 넘어, 특정 고객군에서 반복적으로 더 싸고 안정적인 결과를 만든다는 증거를 계속 쌓아야 한다.
Samsung Cloud Platform 협력은 왜 중요한가?
2026년 4월 FriendliAI는 Samsung SDS의 Samsung Cloud Platform과 협력해 NVIDIA B300 GPU 기반 프론티어 모델 추론 서비스를 제공한다고 발표했다. 이 발표는 단순한 파트너십 이상의 의미가 있다. 한국에서 AI 인프라를 만들려면 GPU, 클라우드, 모델, 추론 엔진이 하나의 상품처럼 묶여야 한다. FriendliAI는 그중 “GPU 위에서 모델을 효율적으로 돌리는 소프트웨어 레이어”를 맡으려는 셈이다.
특히 Samsung Cloud Platform은 한국 대기업·공공·금융 고객에게 접근성이 있는 채널이다. FriendliAI가 이 채널을 통해 글로벌 스타트업과 엔터프라이즈를 동시에 겨냥한다면, 한국 클라우드 인프라가 단순 GPU 임대가 아니라 AI inference 상품으로 포장될 수 있다. 이 점은 한국 AI 생태계 관점에서 꽤 중요하다.
이 밸류에이션은 말이 되는가?
문제는 공개 밸류에이션이 확인되지 않는다는 점이다. 2,000만 달러 seed extension 이후 회사가 어느 정도 가격에 평가됐는지, ARR이 얼마나 되는지, gross margin이 어느 수준인지는 공개되어 있지 않다. 따라서 밸류에이션을 직접 판단하기는 어렵다.
다만 논리적으로 보면 FriendliAI의 가치는 세 가지 변수에 달려 있다.
- 고객이 자체 모델과 오픈모델을 얼마나 많이 production에 올리는가
- FriendliAI가 같은 GPU에서 경쟁사보다 얼마나 낮은 단가와 안정적인 latency를 증명하는가
- 대기업·통신사·모델랩 레퍼런스가 반복 매출로 이어지는가
추론 사용량이 계속 늘어난다면 시장 자체는 좋다. 하지만 이 시장은 가격 경쟁도 빠르게 온다. 모델 API는 결국 commodity처럼 보일 수 있고, GPU 시간 단가도 공개 비교가 쉽다. 그래서 FriendliAI가 높은 가치를 인정받으려면 단순 API 제공자가 아니라 “고성능 모델 운영을 맡기는 기본 인프라”가 되어야 한다.
가장 큰 리스크는 기술보다 유통이다
FriendliAI의 기술 리스크도 있다. 새로운 모델 구조가 나올 때마다 엔진 최적화를 따라가야 하고, NVIDIA 외 가속기나 각종 MoE·멀티모달 모델을 안정적으로 지원해야 한다. 하지만 더 큰 리스크는 유통과 고객 획득이다.
AI 인프라 고객은 이미 AWS, Azure, Google Cloud, Oracle Cloud, CoreWeave, Lambda, Together, Fireworks 같은 선택지를 보고 있다. 엔터프라이즈는 기존 클라우드 계약 안에서 문제를 해결하고 싶어 하고, 스타트업은 가장 싼 토큰 가격과 가장 쉬운 개발자 경험을 찾는다. FriendliAI가 기술적으로 빠르더라도, 고객이 실제 예산을 옮기지 않으면 사업은 커지기 어렵다.
또 하나의 리스크는 모델 회사와 인프라 회사의 경계가 흐려진다는 점이다. OpenAI, Anthropic, Google, Meta, xAI, DeepSeek 계열 모델이 자체 serving stack을 강화하면, 독립 추론 플랫폼은 “오픈모델과 커스텀 모델을 위한 대안”으로 포지셔닝해야 한다. 이 시장은 넓지만, 가격 투명성과 고객 이동성이 높아 방심하기 어렵다.
개인적 판단: 한국 AI 인프라에서 가장 실용적인 포지션 중 하나
FriendliAI를 한국 AI 스타트업 맥락에서 보면 꽤 실용적인 회사다. 거대한 foundation model을 직접 만들겠다는 회사보다 자본 부담이 낮고, 단순 클라우드 리셀러보다 기술 깊이가 있다. 한국 기업들이 AI를 실제 업무 시스템에 붙일수록 “모델 운영”은 계속 문제가 된다. 그 문제를 해결하는 회사는 화려하지 않아도 오래 갈 수 있다.
다만 이 회사가 큰 회사가 되려면 국내 레퍼런스만으로는 부족하다. 글로벌 개발자와 모델랩, 엔터프라이즈 고객이 FriendliAI를 “빠른 한국 회사”가 아니라 “기본 선택지 중 하나”로 인식해야 한다. Samsung Cloud Platform, LG AI Research, SK Telecom 같은 레퍼런스는 좋은 출발점이다. 다음 단계는 이 레퍼런스를 반복 가능한 글로벌 매출로 바꾸는 것이다.
결론적으로 FriendliAI는 “한국형 AI 인프라”라는 키워드 안에서 DEEPX·Rebellions 같은 칩 회사와 다른 축에 있다. 칩이 물리적 계산 자원이라면, FriendliAI는 그 위에서 모델을 서비스로 바꾸는 운영 소프트웨어다. AI 붐이 데모를 지나 실제 사용량 경쟁으로 갈수록, 이런 회사의 중요성은 더 커질 가능성이 높다.
답글 남기기
댓글을 달기 위해서는 로그인해야합니다.