VIBECODING 365 / DICTIONARY

Flex 티어

Flex Tier

중급 난이도: 중급태그: Flex · pricing · Neuralwatt

DEFINITION

Flex 티어는 Neuralwatt 문서가 정의한 할인 서비스 티어다. 같은 모델을 같은 파라미터로 보내되, 요청을 유연하다고 표시한다. 여유 용량이 있으면 즉시 시작하고, 플릿이 바쁠 때는 게이트웨이가 그 요청을 잠시 홀드한 뒤 스트림을 살려 두고 용량이 열리면 시작한다. 쓰는 자리는 사람이 매 응답을 기다리지 않는 작업이다. 문서는 긴 코딩 에이전트, 코드리뷰 봇, 평가와 요약, 야간 배치를 예로 든다. 대화형 채팅이나 라이브 디버깅처럼 첫 토큰이 급하면 표준 티어가 맞다고 적는다.

같은 모델, 입장 시각만 바뀐다

가이드는 바뀌는 것이 입장 시각뿐이라고 못 박는다. 바탕 모델, 파라미터, 컨텍스트 창, 프롬프트 캐시, 출력 동작은 표준 엔드포인트와 같다. FAQ도 더 작거나 품질이 낮은 모델이 아니라고 한다. Chat Completions 문서는 flex 접미와 service_tier 필드가 스케줄과 가격만 바꾸고 추론 계약은 부모 별칭과 같다고 적는다. 켤 길은 두 가지다. 모델 이름 끝에 flex를 붙이거나, 표준 모델명에 service_tier를 flex로 둔다. auto와 default는 표준 티어다. 문서는 service_tier 쪽이 선호라고 한다. Anthropic Messages 형식에는 service_tier 칸이 없어서, 그 엔드포인트에서는 flex 별칭만으로 켠다. 어떤 별칭이 있는지는 고정 목록이 아니라 모델 목록 API에서 flex로 끝나는 식별자를 보라고 한다.

스트리밍이 아니면 할인이 붙지 않는다

홀드는 스트리밍 keepalive에 기대므로, Flex 동작과 할인에는 stream을 true로 두라고 한다. flex 모델에 비스트리밍을 보내거나 service_tier만 flex로 두고 stream을 false로 두면 에러가 나지 않는다. 바로 표준 티어로 돌아가 표준 요금이 붙고, 본문 service_tier는 standard, 헤더 X-Flex-Applied는 false (non-streaming)가 된다. 섞어 쓰는 클라이언트가 깨지지 않게 한 의도적 폴백이며, 확인하지 않으면 조용하다. 스트림 청크의 service_tier와 X-NW-Service-Tier 헤더로 실제 티어를 본다. 홀드 중의 keepalive에는 그 필드가 없다. Messages 쪽은 홀드 동안 Anthropic ping 이벤트를 보낸다. Flex는 내구성 잡 큐가 아니다. 연결이 끊기면 앱에서 재시도한다. 최대 대기 시간은 아직 고를 수 없고, 문서는 짧은 대기 설계이지 하루짜리 배치가 아니라고 한다.

소모와 청구, 그리고 캐시 키

문서 기준 할인은 표준 대비 35퍼센트, 배율 0.65다. 같은 요청 표준 요금의 65퍼센트를 낸다. 토큰 과금, 종량 에너지, 구독 허용량 차감에 모두 적용된다. 사용량에서 Consumed는 물리 에너지이고 할인이 안 들어가며, Charged가 잔액이나 허용량에 잡히는 할인액이다. 출시 글은 출시 직전 24시간 테스트에서 세 건 중 두 건이 바로 시작되고, 95퍼센트가 약 30초 안에 시작됐다고 적는다. 숫자는 제작사 주장이다. 서버 쪽 프롬프트 캐시는 표준과 flex가 공유한다. 그런데 에이전트가 모델 이름을 시스템 프롬프트에 넣으면 접미를 붙인 순간 캐시 키가 갈라져 찬 프리필이 날 수 있다. 캐시가 중요하면 모델 문자열을 고정하고 service_tier만 flex로 두라고 한다. Flex는 표준과 다른 저우선 동시성 풀을 쓰므로 대화형 슬롯을 덜 잠식한다. 홀드 풀이 꽉 차면 재시도 가능한 한도 오류가 날 수 있다.

ENGLISH

Flex Tier

EXAMPLE

Chat Completions: model은 glm-5.2, service_tier는 flex, stream은 true. Messages API는 glm-5.2-flex 별칭과 stream true만.

REFERENCE

docs.neuralwatt.com/guides/flex-tier