OpenAI Decisions API vs Jev: 요금, 속도 및 사용량

요약

OpenAI Decisions API와 TypeSafe Jev는 일반적인 생성형 문장 대신, 경계가 있는 확률 기반의 결정을 반환한다. OpenAI는 전용 엔드포인트를 통해 GPT-6 Luna를 사용하고, TypeSafe Jev는 특화된 System One 모델이다. 공시된 입력 토큰 단가 기준으로 Jev가 더 저렴하다($0.042 대 $0.10). OpenAI는 이미지 입력을 네이티브로 지원한다. 여기서 검토한 벤더 수치만으로는 정확도나 속도의 우위를 단정할 수 없다.

핵심 요점

• 가격: 공시된 기본 요율 기준으로 입력 토큰당 Jev가 58% 더 저렴.
• 아키텍처: OpenAI Decisions API는 GPT-6 Luna 사용; Jev는 의사결정 처리에 특화 설계.
• 모달리티: OpenAI는 텍스트와 이미지 지원; Jev는 텍스트 및 구조화 입력 중심.
• 벤치마크: 벤더 속도 주장은 기준이 다름; 동일한 라벨 데이터셋으로 비교할 것.
• 선택: 애플리케이션에 따라 멀티모달 지원·OpenAI 통합 우선 vs 텍스트 전용 처리량·비용을 우선.

한눈에 보기: OpenAI Decisions API vs Jev

아래 개요는 문서화된 의사결정 엔드포인트와 공시된 기본 단가를 2026년 10월 12일 기준으로 비교한다. 모델 접근, 한도, 서비스 약관은 배포 계정에 대해 별도 확인이 필요하다.

많은 AI 워크플로는 단락이 아닌 카테고리, 확률, 혹은 점수가 필요하다. 예를 들어 지원 티켓 라우팅, 에이전트의 승인된 액션 선택, 검토 큐에서 불확실 입력 식별 등이다. 두 제품은 이러한 결정을 1급 API 출력으로 제공한다.

OpenAI는 2026년 10월 6일에 Decisions API를 베타로 출시했다. 해당 GPT-6 Luna 엔드포인트는 텍스트와 이미지를 모두 수용한다. Jev는 TypeSafe AI의 생성형이 아닌 평가를 위한 특화된 System One 모델로, 훈련 접근법은 Reinforcement Learning for Calibrated Decisions (RLCD)로 설명된다.

표의 질문 타입은 세 가지 공통 과업을 다룬다. OpenAI의 predicate와 Jev의 noul은 환불 의도나 적격성처럼 조건이 참일 확률을 추정한다. choice는 라우팅을 위한 미리 정의된 카테고리(예: Billing, Technical, Shipping) 중에서 선택한다. score는 긴급도나 우선순위처럼 루브릭 또는 레벨에 따라 입력을 평가한다. 이 설명은 두 제품 개요를 통합한 것이며, 요청 스키마와 확률 의미론은 여전히 공급자별 처리가 필요하다.

OpenAI Decisions API와 Jev란?

OpenAI Decisions API와 TypeSafe Jev는 입력 데이터를 개방형 텍스트가 아닌 구조화되고 경계가 있는 출력으로 변환하도록 설계된 의사결정 중심 AI 서비스다. 전통적인 대형 언어 모델이 설명이나 대화형 응답을 생성하는 것과 달리, 이들 API는 미리 정의된 질문을 평가해 결정, 확률, 또는 점수를 반환한다. 이는 고객 요청 라우팅, 콘텐츠 분류, 리스크 평가, AI 에이전트 도구 선택과 같이 예측 가능한 출력과 효율적 처리가 중요한 자동화 워크플로에 특히 유용하다.

[OpenAI Decisions API]는 GPT-6 Luna로 구동되며 /v1/decisions 엔드포인트를 통해 동작한다. 텍스트와 이미지 입력을 모두 지원하고, 세 가지 의사결정 타입(predicate, choice, score)을 제공한다. 주요 강점은 범용 모델의 문맥 이해를 전용 의사결정 인터페이스와 결합하여, 멀티모달 분류 및 OpenAI 생태계와 이미 통합된 애플리케이션에 적합하다는 점이다.

[TypeSafe Jev]는 이에 대비해 /v1/systemone 엔드포인트로 접근하는 특화된 의사결정 모델이다. 텍스트 기반 평가에 집중하며, 세 가지 질문 타입(noul, choice, score)을 사용한다. Jev는 효율적인 추론, 구조화 예측, 확률 보정을 강조해 대량 분류와 자동화 의사결정 파이프라인에 매력적인 선택지다. 두 서비스가 유사한 문제를 다루지만, 아키텍처, 입력 기능, 가격, API 설계의 차이가 특정 애플리케이션에 더 적합한 쪽을 좌우할 수 있다.

모델 접근법, 입력 한도, 범위

이 비교는 문서화된 API 동작과 제품 포지셔닝을 다룬다. OpenAI는 GPT-6 Luna를 의사결정 엔드포인트로 노출하고, TypeSafe는 Jev를 특화된 System One 모델로 포지셔닝한다. 이러한 설명만으로 정확도 우위를 입증하거나 모든 구현 세부를 드러내지는 않는다.

Jev는 전체 요청 기준 64K 토큰을 허용하며, state와 가장 긴 question의 합에 대해 별도로 32K 한도를 둔다. 질문 지침과 기준, 공유 입력까지 모두 토큰으로 계산하라. 연결된 OpenAI Decisions 가이드는 이 엔드포인트에 대해 별도의 수치적 컨텍스트 한도를 명시하지 않았다. 일반 모델의 컨텍스트 윈도우 수치를 그대로 적용하지 말고 실제 한도를 확인하라.

생성형 추론과 코딩 벤치마크는 이러한 경계형 의사결정 엔드포인트의 범위 밖이다. 설명 생성이나 코드 생성을 원하면 별도의 생성형 엔드포인트를 평가하라. 기반 범용 모델의 결과는 Decisions 엔드포인트의 성능을 보장하지 않는다.

정확도와 지연시간

인용된 벤더 자료는 정확도나 지연시간의 일대일 맞대결에서 승자를 입증하지 않는다. OpenAI의 약 10배 속도 주장은 Decisions가 자사 Responses API 대비 빠르다는 비교다. TypeSafe는 종단간 70–500 ms 지연을 보고하며, 공시된 평가가 대체로 미국 서부의 노트북에서 실행되었다고 밝힌다.

확률 보정과 검토 임계값

모델이 정확하더라도 보정이 나쁠 수 있다. 선택된 클래스를 0.90의 확률로 반환한 예측들 중에서, 평가 분포에서 실제로 약 90%가 맞아야 그 확률이 보정되었다고 볼 수 있다. 정의를 확인하지 않은 채 API 필드 이름이 confidence라는 이유로 확률을 대체하지 마라. Jev는 Choice의 confidence를 확률 분포에서 유도한다: confidence = (p_max − 1/n) / (1 − 1/n), 여기서 n은 선택지 개수다. 적절한 확률에서 ECE와 Brier score를 측정하고, 정밀도·재현율·매크로 F1과 함께 보고하라. 라벨된 예시로 검토 임계값을 선택하라.

가격 및 승인된 결정당 비용

OpenAI는 /v1/decisions에 대해 백만 입력 토큰당 $0.10을, Jev는 $0.042를 공시한다. 두 서비스 모두 이 의사결정 서비스에 대해 출력 토큰 요금은 없다. 이 기본 요율만 보면, 입력 토큰당 Jev가 58% 더 저렴하다. OpenAI의 지역 처리 할증 및 장문 컨텍스트 배수 요금이 적용될 수 있으며, 재시도·전처리·검토가 워크플로 비용을 추가할 수 있다.

각 요청이 두 서비스에서 모두 500개의 과금 입력 토큰을 사용한다고 가정하자. 이는 예시 계산이며 벤더 청구서가 아니다.

승인된 정답 결정당 비용 = (API 지출 + 재시도 지출 + 휴먼 리뷰 지출) / 승인된 정답 결정 수. 토큰 단가가 낮아도 오분류 또는 에스컬레이션 비율이 높으면 상쇄될 수 있다.

일반적인 GPT-6 Luna 워크플로의 경우, CometAPI 모델 가격표는 2026년 10월 12일 기준 백만 토큰당 다음 USD 요율을 게시한다. 이는 모델-엔드포인트 요율이며, 연결된 페이지는 Responses API 예시를 보여주며 /v1/decisions의 네이티브 지원이나 그 가격을 입증하지는 않는다.

CometAPI의 일반 GPT-6 Luna 출력 토큰은 과금 대상이다. 위 두 의사결정 서비스와는 별도로 봐야 하며, 이들 서비스에서는 공시된 출력 토큰 요금이 0이다. 예를 들어, 입력 500 토큰과 출력 20 토큰은 쇼트 컨텍스트 요청당 $0.000048, 즉 백만 건당 $48에 해당한다(기타 비용 제외). 예산 수립 전에 라이브 모델 카탈로그에서 적용 티어와 계정 요율을 확인하라.

에이전트 워크플로와 모달리티 트레이드오프

두 서비스 모두 도구 호출 라우팅, 가드 조건 충족 여부 평가, 액션 점수화가 가능하다. 어느 쪽도 권한 부여, 입력 검증, 명시적 도구 권한을 대체하지 않는다. 시각 자동화를 위해서는 OpenAI의 네이티브 이미지 지원이 파이프라인을 단순화한다. 순수 텍스트 라우팅에서는 Jev의 낮은 기본 비용이 매력적일 수 있다.

출력 처리 방식은 응답 경계에서 다르다. OpenAI는 질문을 식별하는 name이 포함된 answers 배열을 반환하고, Jev는 question ID를 키로 하는 answers 객체를 반환한다. 공유 비즈니스 규칙을 적용하기 전에 이러한 구조를 정규화하라. Jev의 confidence는 자체 확률 분포에서 유도되므로, 같은 이름의 필드가 공급자 간 동일 의미라고 가정하지 마라. 라벨을 검증하고 애플리케이션 데이터로 검토 임계값을 보정하라.

출처: Introducing System One Models & Jev; 원본 이미지. 이는 워크플로 구성 예시이며, OpenAI Decisions API와의 일치 비교 벤치마크는 아니다.

API 사용의 차이점: OpenAI Decisions API vs Jev

각 공급자에 대해 접근 설정이 별도로 필요하다. 아래 예시는 각자의 호스트와 API 키를 사용한다. OpenAI는 Decisions를 퍼블릭 베타 엔드포인트로 문서화했다. Jev의 경우 배포 전에 TypeSafe와 현재 접근 및 자격 증명을 확인하라. 어느 서비스든 계정 권한, 지역 가용성, 쿼터, 서비스 약관을 검증하라. 타사 생성형 모델 접근 권한이 있다고 해서 해당 모델의 네이티브 의사결정 엔드포인트 지원이 자동으로 보장되지는 않는다.

OpenAI Decisions API 사용 방법

개념은 겹치지만 요청 스키마는 다르다. OpenAI는 input과 이름이 있는 questions 배열을 보낸다. Jev는 state와 question ID를 키로 하는 questions 객체를 사용한다. 공통 의사결정 정책을 적용하기 전에 공급자별 어댑터를 구현하라.

OpenAI Decisions API로 지원 티켓을 라우팅한다.

curl https://api.openai.com/v1/decisions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-6-luna",
    "input": "I was charged twice for my order.",
    "questions": [{
      "type": "choice", "name": "department",
      "instructions": "Which team should handle this?",
      "choices": [
        {"value":"billing","description":"Charges and refunds"},
        {"value":"technical","description":"Product errors"},
        {"value":"other","description":"Other requests"}
      ]
    }]
  }'

Jev API 사용 방법

아래 cURL 요청은 Jev의 System One 엔드포인트를 사용해 지원 티켓을 분류한다. 환경 변수에 TYPESAFE_API_KEY를 설정하고, state에 티켓을 넣고, questions 객체 안에 department를 정의한다. criteria 맵에는 허용된 라우팅 라벨과 그 설명을 나열한다. 요청이 성공하면 answers에서 department 항목을 읽고, 라벨을 검증한 뒤 티켓을 라우팅하라. 모델 식별자가 계정에서 사용 가능한지 확인하라.

TypeSafe Jev로 지원 티켓을 라우팅한다.

curl https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "jev-1.13.0",
    "state": "I was charged twice for my order.",
    "questions": {
      "department": {
        "type": "choice",
        "instructions": "Which team should handle this?",
        "criteria": {
          "billing":"Charges and refunds",
          "technical":"Product errors",
          "other":"Other requests"
        }
      }
    }
  }'

선택된 클래스 확률에 대한 공통 리뷰 정책

선택된 클래스 확률에 명시적으로 보정된 임계값을 적용한다.

from dataclasses import dataclass
from math import isfinite

@dataclass
class NormalizedDecision:
    label: str | None
    selected_probability: float | None
    provider: str
    needs_review: bool

def apply_review_policy(label, selected_probability, provider, threshold):
    if not isfinite(threshold) or not 0.0 <= threshold <= 1.0:
        raise ValueError("threshold must be between 0 and 1")
    valid_probability = (
        selected_probability is not None
        and isfinite(selected_probability)
        and 0.0 <= selected_probability <= 1.0
    )
    return NormalizedDecision(
        label=label,
        selected_probability=selected_probability,
        provider=provider,
        needs_review=(
            not label
            or not valid_probability
            or selected_probability < threshold
        ),
    )

이 Python 3.10+ 예시는 API 응답 파서가 아닌 애플리케이션 정책 계층이다. 각 공급자 어댑터는 응답을 검증하고 선택된 클래스 확률을 추출해야 한다. Jev의 원시 confidence 필드를 selected_probability로 전달하지 마라. 해당 공급자·질문·평가 데이터셋에 대해 보정된 임계값을 제공하라. 이 정책을 호출하기 전에 거부 응답과 전송 오류를 처리하라.

OpenAI Decisions API vs Jev: 선택 방법

두 단계로 선택하라. 먼저 이미지 입력, 계정 접근, 입력 한도, 통합 노력 등 배포 요건을 걸러라. 그다음 자사 라벨링 워크로드에서 동일 조건으로 벤치마크하라. 텍스트 전용 라우팅의 경우, Jev의 더 낮은 공시 입력 가격이 총비용 절감으로 이어지는지 테스트하라. 이미지 의존 결정의 경우, OpenAI의 네이티브 이미지 경로를 평가하라. 합의된 품질 목표에서 오분류, 보정, 테일 지연, 재시도, 휴먼 리뷰를 비교하라. 아래 표는 출발용 단축 리스트일 뿐, 전반적 성능 우위를 입증하지 않는다.

지원 라우팅과 텍스트 분류 같은 대량 비즈니스 자동화에서는 입력 비용과 처리량이 핵심일 때 Jev를 우선 고려할 가치가 있다. 스크린샷 점검, 시각 모더레이션, 이미지 기반 결정 등 멀티모달 애플리케이션에는 네이티브 이미지 지원을 제공하는 OpenAI Decisions API가 더 실용적이다. AI 에이전트 및 엔터프라이즈 워크플로에서는 기존 인프라, 통합 복잡도, 오결정의 영향에 따라 달라진다. 이미 OpenAI 생태계를 사용하는 팀에는 OpenAI가 더 매끄러운 경로일 수 있고, 대규모 텍스트 중심 워크로드에는 Jev가 고려할 가치가 있다. 모든 시나리오에서 최종 선택은 요율표가 아니라 동일 애플리케이션 데이터에서 측정한 정확도, 확률 보정, 지연, 총 운영 비용에 기반해야 한다.

OpenAI Decisions API와 Jev를 어떻게 벤치마킹해야 하나?

동일한 라벨의 실제 입력에서 두 서비스를 동일한 질문 정의와 동일 클라이언트 지역으로 실행하라. 정확도, 매크로 F1, ECE, Brier score, p50/p95/p99 지연, 타임아웃, 거부, 검토율, 승인된 정답 결정당 달러 비용을 추적하라.

권장 절차: 대표 라벨 셋을 구축하고, 모호·분포 외 사례를 포함하며, 의미적으로 동일한 작업을 전송하고, 분산 측정을 위해 충분히 반복하며, 각 시스템의 임계값을 독립적으로 보정하고, 에스컬레이션과 재시도를 포함한 종단간 비용을 비교하라.

결론

이미지 증거에 의존하는 결정이거나 기존 OpenAI 통합으로 배포 작업이 줄어드는 경우 OpenAI Decisions API를 선택하라. 입력 토큰 공시 단가가 낮아 추론 비용을 줄일 수 있는 텍스트 전용 워크로드에는 Jev를 평가하라. 동일 애플리케이션 데이터에서 라벨 품질, 확률 보정, 테일 지연, 리뷰 작업량, 총 운영 비용을 측정한 뒤 선택하라.

Jev는 공시된 기본 입력 토큰 가격이 더 낮고, OpenAI Decisions API는 네이티브 이미지 입력을 제공한다. 인용된 벤더 수치만으로는 전반적 정확도나 속도 우위를 입증하지 못한다. 최적 선택은 전체 워크플로에서 승인된 결정의 비용과 품질에 달려 있다.

개발자는 CometAPI의 GPT-6 Luna API를 사용해 더 넓은 멀티모델 워크플로에서 경량 분류를 프로토타입할 수 있다. 링크된 모델 페이지는 Responses API 예시를 제공한다. 해당 생성형 엔드포인트에 대한 접근 권한이 있다고 해서 전용 /v1/decisions 엔드포인트 지원이 입증되는 것은 아니다. 이는 전통적인 텍스트 생성 프로토타입이며, 네이티브 Decisions 응답 스키마나 보정된 클래스 확률 분포를 반환하지 않는다. 반환된 라벨을 허용된 카테고리에 대해 검증하고, 다운스트림 액션과 연결하기 전에 API 오류를 처리하라. /v1/decisions 네이티브 지원이 필요하다면 별도로 확인하라.