구글 클라우드가 Gemini 증류 서비스를 프리뷰 단계로 전환했다. 이 서비스는 대형 모델의 답변과 추론 과정을 이용해 더 작은 모델을 학습시키는 것으로, 목적은 지연 시간과 호출 비용을 낮추는 데 있다. 얼리 액세스 기간에는 교사 모델과 학생 모델을 모두 선택할 수 없으며, 교사는 gemini-3.1-pro, 학생은 gemini-2.5-flash로 고정된다.
진입 장벽이 먼저다. 프로젝트 ID는 사전에 허용 목록에 등록돼야 하며, 문서는 사용자에게 구글 영업 담당자에게 문의해 신청하라고 안내한다. 증류 작업은 us-central1 리전에서만 실행할 수 있고, 다른 선택지는 없다.
데이터셋 요구 사항은 세세하게 규정돼 있다
학습 데이터는 Cloud Storage에 저장하는 JSONL 형식의 프롬프트 집합이다. 각 레코드에서 contents 필드는 필수이며 사용자 쪽 입력을 담는다. systemInstruction은 선택 항목으로 시스템 프롬프트를 넣는 데 쓰인다. 멀티턴 대화는 user와 model이 번갈아 배열된다.
규모 면에서 문서는 샘플 수를 1,000건 이상, 상한 5만 건으로 권장한다. 원본 JSONL 파일은 1GB를 넘을 수 없고, 레코드당 입력은 8,000토큰, 교사 모델의 출력은 24,000토큰이 상한이다. 이 서비스는 텍스트만 지원하며, 멀티모달 입력은 지원 범위에 들어가지 않는다.
가격과 쿼터에 대해서는 문서에 한 글자도 쓰여 있지 않다. 이 서비스는 현재 프리 GA 약관 아래 놓여 있으며, 구글 스스로 프로덕션 환경에 사용하지 말 것을 권고한다고 명시한다.
네 단계를 하나의 작업으로 압축
증류는 오래된 기술이다. 예전에는 직접 하려면 파이프라인을 전부 구축해야 했다. 교사 모델에 대량으로 답변을 생성시키고, 그 데이터를 정제·중복 제거하고, 학생 모델을 파인튜닝한 뒤, 마지막으로 한 차례 평가를 진행하는 식이다. 네 단계 각각에서 직접 코드를 짜고 컴퓨팅 자원을 관리해야 했다. 관리형 서비스는 이를 하나의 작업으로 압축했고, 사용자는 프롬프트 집합만 제출하면 된다.
줄어드는 것은 엔지니어링 공수이고, 그 대신 줄어드는 것은 선택권이다. 교사와 학생 모두 지정된 모델로 고정돼 있어, 사용자는 더 비싼 교사 모델을 붙여 성능을 끌어올릴 수도 없고, 결과물을 커스텀 아키텍처의 소형 모델에 넣을 수도 없다. us-central1이라는 리전 제한은 데이터가 어디에 머무는지를 그대로 못박아버리는데, 컴플라이언스 요건이 있는 사용자에게는 이 조건이 기능 자체보다 더 중요하다.
같은 단어, 다른 대우
‘증류’라는 단어는 최근 몇 년 사이 미중 관계의 맥락에서 다소 복잡한 의미를 띠게 됐다. 미국의 세 개 기관이 올해 중국 기업 6곳을 지목해 미국 모델을 증류했다고 밝혔고, Anthropic도 자사 보고서에서 알리바바 등 기업의 대규모 API 사용을 언급했다. 이런 맥락에서 증류는 책임을 물어야 할 행위로 취급된다.
차이는 기술적 동작이 아니라 약관에 있다. 구글의 이 서비스에서는 교사와 학생 모두 자사 모델이고, 사용자는 자신의 프롬프트 집합을 사용해 작업을 실행하며, 그 결과로 나온 학생 모델은 같은 계정을 위해 쓰인다. 전 과정이 허가된 범위 안에서 이뤄진다. 반면 벤더를 넘나드는 증류, 즉 다른 회사 API의 출력을 가져다 자사 모델을 학습시키는 행위는 보통 이용 약관에서 명시적으로 금지된다. 같은 일련의 조작이라도 허가 범위 안에 있으면 제품 기능이고, 범위 밖에 있으면 계약 위반이나 소송 자료가 될 수도 있다.
중국 내 개발자에게 이 서비스의 실질적인 활용 가능성은 사실상 제로에 가깝다. 허용 목록에 들어가려면 영업팀과의 협의를 거쳐야 하고, 리전은 us-central1로 고정돼 있다. 이 두 가지 제약이 겹치면서 대부분의 중국 내 프로젝트가 사실상 배제된다. 참고할 만한 것은 공개된 파라미터 값이다. 1,000건에서 시작해 상한 5만 건, 입력 8,000토큰이라는 수치는 구글 스스로 ‘한 번의 증류에 얼마만큼의 데이터가 필요한가’에 대해 내놓은 엔지니어링 기준이며, 비슷한 작업을 하는 팀이라면 이를 자로 삼을 수 있다.
프리뷰 기간의 공백
GA 시점, 가격, 쿼터 상한 세 가지 모두 아직 나오지 않았다. 교사·학생 모델 라인업이 앞으로 늘어날지도 문서에는 언급이 없다. 이 정보들이 채워지기 전까지 이 서비스는 로드맵에 바로 넣을 수 있는 도구라기보다, 이미 Gemini Enterprise를 쓰고 있는 대형 고객을 위한 얼리 액세스 채널에 더 가깝다.
참고 출처: Google Cloud 공식 문서, CocoLoop; 교사·학생 모델 버전, 리전 제한, 데이터셋 필드 및 각종 상한은 문서 원문과 하나하나 대조했다.