기업용 AI 에이전트 구축, Prime Intellect로 시작하는 법 (가입부터 첫 잡 제출까지)

고지 ① 이 글에는 제휴 링크가 없습니다. 본문의 모든 링크는 공식 문서 또는 언론 보도로 연결되며, 필자는 Prime Intellect로부터 어떤 대가도 받지 않았습니다.

고지 ② 이 글의 가격·스펙은 2026년 9월 1일 확인 기준입니다. GPU 종량제 요금과 재고는 수시로 바뀌므로, 결재·계약 전에는 반드시 공식 가격 페이지와 공식 문서에서 현재 값을 다시 확인하십시오.

표기 규칙 출처가 있는 사실 · 근거 있는 추정 · 출처가 확인되지 않은 항목은 그렇게 적었습니다.

스프레드시트에서 “지난 분기 서울 지사 출장비 합계"를 찾는 일에는 시시하지만 귀한 성질이 하나 있다. 맞았는지 틀렸는지, 사람 없이, 0.1초 만에 판정된다. 그 셀에 그 숫자가 있거나, 없거나.

이 시시한 성질이 지난 7월 10억 달러짜리 회사를 만들었다.

핀테크 기업 Ramp가 350억 파라미터짜리 자체 모델로, 스프레드시트 검색이라는 딱 한 가지 업무에서 Claude Opus보다 나은 성능을 냈다고 한다. 더 빠르고, 프론티어 모델 비용의 극히 일부만 쓰고서.

다만 이 문장은 그대로 옮기면 안 된다. 출처가 Prime Intellect의 자사 블로그이고((https://www.primeintellect.ai/blog/series-a)), 이해관계자의 자체 발표이며, 단일 업무에 대한 비공개 벤치마크다. 제3자가 재현한 공개 벤치마크가 아니다. 그래서 이 글은 끝까지 **“자사 발표에 따르면”**을 붙여 쓴다. 타사 실명 제품과의 성능 우위 주장은 실증 책임이 따르는 영역이고, 무엇보다 이 비교를 그대로 믿고 결재를 올리면 다치는 쪽은 회사 홍보팀이 아니라 그 결재를 올린 사람이다.

대부분은 이 문장에서 “이겼다"에 밑줄을 친다. 나는 “한 가지"에 친다. 그 세 글자가 이 시장의 판돈이 어디로 옮겨갔는지를 전부 설명하기 때문이다.

미리 결론을 적는다. Prime Intellect가 파는 건 GPU가 아니라 채점기다. 그러니 이 회사를 검토하는 첫 질문은 “시간당 얼마냐"가 아니라 이것이어야 한다 — 우리 회사 업무 중에, 사람 없이 채점되는 일이 하나라도 있는가. 없다면 아래 가격표는 읽을 필요가 없다.

종량제 구독에서 자체 훈련으로, 무게중심이 옮겨가는 중

지난 몇 년간 기업이 AI를 도입하는 기본형은 하나였다. 프론티어 랩의 API에 종량제로 붙는 것. 훌륭한 선택이고, 지금도 대부분의 경우 정답이다.

다만 세 가지가 남는다. 첫째, 원가가 사용량에 정확히 비례해 영원히 늘어난다. 도입이 성공할수록 청구서가 커지는 구조다. 둘째, 우리 회사에서만 통하는 업무 지식이 프롬프트 파일에는 쌓여도 모델 자체에는 쌓이지 않는다. 3년을 써도 자산으로 남는 건 텍스트 파일 몇 개다. 셋째, 벤더가 모델을 갈아끼우면 우리 파이프라인 성능이 우리 잘못 없이 흔들린다.

Prime Intellect는 정확히 이 세 가지 불편을 겨냥한다.

• 설립 연도는 이 글을 쓰는 시점에 신뢰할 만한 출처로 특정하지 못했다. 확인되지 않았으므로 적지 않는다.
• 2026년 7월, Radical Ventures 주도로 1억 3천만 달러 시리즈 A를 마감했고 밸류에이션은 10억 달러로 보도됐다. Nvidia Ventures, Intel Capital, Dell Technologies Capital, Iconiq이 참여했다 `` (TechCrunch, 2026-07-08).
  • 원화 환산 `` — 환율을 1달러 = 1,400원으로 가정하면 밸류에이션 10억 달러는 약 1조 4천억 원, 조달액 1억 3천만 달러는 약 1,820억 원이다. 환율은 수시로 변동하므로 참고용이며, 원문 보도에 나온 확정 수치는 달러 금액뿐이다.
• 회사는 고객 6,000곳 이상, 1년이 안 되는 기간에 연환산 매출(ARR) 1억 달러 돌파를 밝히고 있다. 다만 이는 회사 자체 발표이며 제3자 감사나 실사를 거친 수치가 아니다 (시리즈 A 발표). 스타트업 ARR은 산정 방식이 공개되지 않는 경우가 많다. 그대로 받아 적지 말 것.

파는 것은 컴퓨트와 소프트웨어다. 목적은 하나다. 기업이 프론티어 랩에 전적으로 의존하는 대신, 자기 업무에만 특화된 에이전트를 직접 훈련하게 만드는 것.

그런데 이들이 진짜로 파는 건 GPU가 아니다

제품 라인은 다섯이다. Lab, Compute, Inference, Sandboxes, 그리고 Environments Hub. 스택은 컴퓨트부터 대규모 강화학습(RL), 환경, 샌드박스, 평가, 배포까지를 표방한다 `` (공식 홈페이지, 공식 문서).

여기서 하나를 골라 “이게 본체다"라고 말해야 한다면, 나는 GPU를 고르지 않는다.

GPU는 이미 원자재다. Prime Intellect의 컴퓨트는 다수의 하위 공급자에서 끌어온 것이고, 회사도 이를 숨기지 않는다. 온디맨드 단일 노드, 최대 256장 규모의 H100 멀티노드 클러스터, 영구 스토리지, 예약 클러스터를 SLURM·쿠버네티스·InfiniBand·Grafana와 함께 묶어 판다 `` (공식 문서 FAQ). 잘 만든 중개소다. 그리고 중개소는 원리상 대체 가능하다 — 옆집이 시간당 10센트만 깎으면 옮겨가면 그만이다.

대체하기 어려운 쪽은 Environments Hub다. 커뮤니티가 만든 RL 환경과 평가 벤치마크가 2,500개 이상 올라와 있고, 평가는 100개 넘는 오픈소스 모델을 커버한다고 밝힌다 `` (공식 홈페이지).

RL 환경이라는 말이 딱딱하게 들린다면 이렇게 바꿔 읽어도 된다. 채점기. 모델이 어떤 시도를 했을 때 “잘했다 / 못했다"를 사람 없이 판정해주는 자동 채점 프로그램. 강화학습이 요구하는 건 정답 데이터 뭉치가 아니라 이 채점기다. 채점기가 있으면 모델은 밤새 수백만 번 틀리면서 혼자 나아진다. 채점기가 없으면 GPU는 그냥 전기요금이다.

Ramp 사례가 인상적인 진짜 이유도 여기 있다. 스프레드시트에서 값을 찾는 일은 채점이 잔인할 만큼 쉽다. 찾았거나, 못 찾았거나. 자사 발표대로라면, 350억 파라미터가 프론티어 모델을 앞선 건 그 모델이 똑똑해서가 아니라 문제가 채점 가능한 모양이었기 때문이다.

그래서, 당신 회사에 채점 가능한 업무가 있는가

이 질문에 답하기 전에는 CLI를 설치할 이유가 없다. 사내 업무는 대략 세 등급으로 갈린다 ``.

C 등급 업무에 RL을 태우려면 결국 사람이 채점을 해야 하고, 그 사람 인건비가 GPU 요금을 압도한다. 그럴 바엔 프론티어 API에 프롬프트를 잘 써서 붙이는 쪽이 싸고 빠르다. 모든 좋은 기술 도입은 “이건 우리 문제가 아니다"를 빨리 아는 데서 시작한다.

A나 B가 하나라도 있다면, 이제 숫자를 볼 차례다.

숫자로 보는 진입 장벽: 생각보다 낮다

!(/ai-tools-blog/images/prime-intellect-기업-ai–ai-에이전트-도입-diagram.png) Prime Intellect GPU 온디맨드 시간당 요금 비교 — H200이 H100보다 저렴하고, 최신 B300이 가장 비싸다 (스팟은 최대 90% 할인)

⚠️ 가격 면책 아래 요금은 2026-09-01 확인 시점 기준이며 ([공식 홈페이지](https://www.primeintellect.ai/)), **종량제 GPU 요금은 재고·수요에 따라 수시로 변동합니다.** 지금 이 글을 읽는 시점의 실제 요금은 반드시 공식 페이지에서 다시 확인하십시오. 원화 환산은 **1달러 = 1,400원 가정** 이며 환율 변동 시 달라집니다.

스팟 인스턴스는 GPU 종류를 불문하고 온디맨드 대비 최대 90% 할인이며, 크레딧은 실행 중 분 단위로 차감된다 `` (공식 홈페이지). 표에서 H200이 H100보다 싼 것이 오타처럼 보이지만 오타가 아니다. 이 시장의 가격은 성능 순이 아니라 그 순간의 재고 순이다. 원자재 시장이 원래 그렇다.

감을 잡기 위해 계산해본다. 아래는 전부 단순 곱셈에 근거한 추정치 `` 이며, 스팟 중단에 따른 재시작·체크포인트 재적재 비용, 스토리지·네트워크 요금, 환율 변동, 부가세를 포함하지 않았다. 실제 청구액은 이보다 크다.

• H100 8장 스팟, 1주(168시간) 연속 — $0.94 × 8 = 시간당 $7.52 → 약 $1,263 (약 177만 원) ``
• 같은 조건 온디맨드 — $2.43 × 8 = 시간당 $19.44 → 약 $3,266 (약 457만 원) ``

이 금액을 인건비 옆에 놓아보자. 연봉 1억 원인 개발자 한 명의 주당 직접 인건비는 약 192만 원(1억 ÷ 52주), 간접비를 1.3배로 잡으면 약 250만 원 수준이다 ``.

즉 스팟 1주(약 177만 원)는 개발자 한 명의 1주보다 싸고, 온디맨드 1주(약 457만 원)는 오히려 비싸다. “GPU가 사람보다 싸다"는 문장은 스팟을 쓸 때만, 그리고 중단 손실을 감당할 수 있을 때만 성립한다. 슬라이드에 이 문장을 넣을 거라면 괄호를 반드시 같이 넣어야 한다.

예약 클러스터와 전용 인퍼런스는 공개 요금이 아니라 별도 견적이며 영업 문의(contact@primeintellect.ai)가 필요하다 `` (공식 문서 FAQ).

그리고 이 계산에는 아무도 슬라이드에 안 적는 항목이 하나 빠져 있다. 실패한 실험도 시간당 요금은 똑같이 낸다. 177만 원은 성공했을 때의 가격이 아니라 그냥 한 주의 가격이다.

솔직하게, 여기서 다칠 수 있다

균형을 위해 억지로 붙이는 단점 문단이 아니다. 실제로 결재선에 올려야 할 항목들이고, 네 가지 모두 회사 공식 문서에 적힌 내용이다 `` (공식 문서 FAQ).

공식 SLA가 없다. 회사는 “현재 공식 SLA를 제공하지 않는다"고 명시한다. 하위 컴퓨트 공급자들에 의존하는 구조이기 때문이다. 가동률을 계약서로 보장받아야 하는 워크로드라면, 검토는 이 문장 하나에서 끝난다. 더 읽을 필요가 없다.

스팟은 언제든 끊긴다. 90% 할인은 자선이 아니라 위험의 가격표다. 새벽 세 시에 잡이 죽어 있어도 항의할 곳이 없다. 중단을 전제로 설계된 배치 작업에만 쓸 수 있다.

인스턴스를 종료하면 데이터는 복구되지 않는다. 되돌릴 경로가 없다. 체크포인트를 외부 스토리지로 빼두는 습관은 선택이 아니라 필수다. 이 한 줄을 안 읽고 3일치 훈련을 날리는 것이, 이 서비스에서 가장 흔하게 예상되는 사고다 ``.

공급자마다 능력이 다르다. Docker와 시스템 서비스 지원 여부가 갈리고, 커스텀 포트 설정은 순차 적용 중이며, 큰 스토리지 요청은 온전히 반영되지 않을 수 있다. 환불은 공급자 귀책일 때 증빙과 함께 수동 신청하는 방식으로 안내된다. 클라우드 콘솔의 균질함에 익숙한 팀이라면 여기서 제일 자주 당황한다.

그리고 가장 큰 것. 사내에 RL 역량이 있어야 한다. TechCrunch는 이 인프라가 복잡해서 대부분의 기업은 조각들을 프로덕션 시스템으로 조립할 전문성이 없다고 짚는다 `` (TechCrunch). 1억 3천만 달러가 몰린 이유이기도 하고, 동시에 도입 시도의 상당수가 죽을 이유이기도 하다.

한국 기업이 결재 전에 반드시 확인해야 할 5가지

여기부터는 한국에서 이 서비스를 쓸 때만 생기는 문제다. 아래는 내가 확인한 답이 아니라, 영업 담당자와 사내 유관부서에 그대로 던져야 할 질문 목록이다. 확인되지 않은 것을 확인된 것처럼 적지 않는다.

1. 리전과 지연시간. 컴퓨트가 다수의 하위 공급자에서 조달되는 구조이므로, 인스턴스가 어느 나라에 물리적으로 위치하는지는 생성 시점에 선택·확인해야 한다. 한국 리전 제공 여부는 이 글 작성 시점에 확인하지 못했다. 실무적으로 중요한 구분은 이렇다.

• 훈련(배치) 작업: 지연시간이 사실상 무관하다. 미국·유럽 리전이어도 문제되지 않는다.
• 실시간 인퍼런스: 한국↔미국 서부 왕복 지연은 통상 100~200ms 수준 ``. 사용자 대면 응답에 이 값이 그대로 얹힌다. 체감 응답속도가 제품 경쟁력이라면 국내·일본·싱가포르 리전을 요구하거나, 인퍼런스만 떼어 국내에 두는 구조를 검토해야 한다.

2. 결제와 세금계산서. 해외 사업자와의 거래이므로 국내 세금계산서가 아니라 인보이스(Invoice)가 발행되는 것이 일반적이다 ``. 경리·회계팀에 먼저 물어야 할 것: 법인카드 해외결제 한도, 사업자등록번호(VAT ID) 등록 시 부가세 처리, 매입세액 공제 가능 여부, 환차손 처리. 이걸 안 물어보고 PoC를 시작했다가 정산 단계에서 막히는 사례가 흔하다. 기술이 아니라 회계에서 죽는 도입이 생각보다 많다.

3. 개인정보와 데이터 국외 이전. 훈련 데이터에 개인정보가 들어가는 순간 개인정보보호법상 국외 이전 요건이 적용된다 ``. 정보주체 동의, 계약을 통한 안전조치 확보, 또는 인증 등 법이 정한 근거 중 하나가 필요하고, 처리방침에 이전 국가·수탁자·항목을 명시해야 한다. 가장 안전한 출발점은 개인정보를 제거하거나 가명처리한 데이터로 먼저 실험하는 것이다. 금융·의료 등 규제 산업이라면 별도 감독기관 검토가 추가된다. 정확한 요건은 법무·개인정보보호책임자 확인이 필요하며, 이 글은 법률 자문이 아니다.

4. 국내 대안과의 비교. 네이버클라우드플랫폼, NHN Cloud 등 국내 사업자도 GPU 인스턴스를 제공한다 ``. 국내 사업자의 장점은 명확하다 — 세금계산서, 국내 리전, 한국어 기술지원, 국외 이전 이슈 없음, 공공·금융 요구사항 대응. 반대로 Prime Intellect의 차별점은 GPU 가격이 아니라 Environments Hub와 RL 훈련 스택이다. 그래서 비교 축은 “시간당 얼마"가 아니라 이렇게 잡아야 한다.

GPU만 필요한가, 아니면 RL 환경·평가 생태계가 필요한가? GPU만 필요하다면 국내 사업자가 규제·정산에서 유리할 가능성이 높다. RL 훈련 파이프라인 자체가 필요하다면 국내에 동등한 대안을 찾기 어렵다.

5. 계약·보안 심사. SLA가 없다는 점은 대기업 정보보호 심사에서 거의 확실히 걸린다. 예약 클러스터 계약 시 별도 SLA 협의가 가능한지, 침해사고 통지 의무와 감사 권한을 계약서에 넣을 수 있는지를 견적 단계에서 함께 물어야 한다. 계약서를 다 쓰고 나서 물으면 협상 카드가 없다.

그래서, 어떻게 시작하나 — 가입부터 첫 잡까지

** 아래 명령과 절차는 공개 문서를 근거로 구성한 예시이며, 내가 이 글을 위해 직접 실행해 검증하지 않았다.** 패키지명·서브커맨드·필드명은 버전에 따라 달라질 수 있으니 실행 전 반드시 공식 문서에서 현재 사양을 확인하십시오. 남의 블로그에 박제된 명령줄을 복사하는 순간, 당신이 돌리는 건 오늘의 제품이 아니라 누군가의 9월이다.

공식 문서는 신규 사용자에게 Hosted Training부터 권한다. 인프라를 직접 관리하지 않고 대규모 RL 훈련을 돌리는 경로이고, Prime CLI와 REST API가 함께 제공된다. 오픈소스 라이브러리는 두 개다 — 환경과 평가를 다루는 Verifiers, 비동기 RL 프레임워크인 prime-rl `` (공식 문서).

0단계 — 계정과 조직

app.primeintellect.ai 또는 공식 홈페이지의 가입 버튼에서 계정을 만든다. 이어서 대시보드에서 API 키를 발급하고 결제 수단 등록 또는 크레딧을 충전한다.

팀 단위로 쓸 거라면 이 시점에 조직(Team) 계정을 만들어 개인 계정과 분리할 것. 나중에 옮기는 것보다 훨씬 쉽고, 무엇보다 담당자가 퇴사할 때 훈련 자산이 개인 계정에 묶여 있는 사고를 미리 막는다.

1단계 — Prime CLI 설치와 로그인

여기서 하는 일은 셋이다. CLI를 설치하고, 발급받은 API 키로 로그인하고, 지금 잡을 수 있는 GPU가 뭔지 조회한다. 마지막 단계가 중요하다 — 이 시장에서 가격표는 재고표와 같은 말이라, 어제 본 값이 오늘 그대로일 이유가 없다.