Jev là mẫu System One đầu tiên của TypeSafe AI, được thiết kế cho các ứng dụng cần các quyết định có cấu trúc thay vì văn bản sinh thành. Nó đánh giá thông tin được cung cấp theo các câu hỏi được xác định rõ ràng và trả về câu trả lời được định kiểu, phân phối xác suất và, khi phù hợp, điểm tin cậy.
Không giống một mô hình ngôn ngữ lớn thông thường, Jev không nhằm mục đích trò chuyện, viết mã hoặc tạo nội dung dạng dài. Mục tiêu của nó là đưa ra các phán định có giới hạn mà phần mềm có thể sử dụng ngay cho phân loại, định tuyến, chấm điểm, xác minh, ưu tiên và kiểm soát quy trình làm việc.
Thông tin về mô hình được xem xét vào ngày 21 tháng 9 năm 2026.
Thông số kỹ thuật của Jev
| Specification | Details |
|---|---|
| Developer | TypeSafe AI |
| Model family | System One |
| Current stable version | Jev 1.13 |
| Versioned model ID | jev-1.13.0 |
| Stable alias | jev-latest |
| Input | Text, JSON objects, or arrays of text values |
| Output | Typed decisions and probability distributions |
| Question types | Choice, Score, and Noul |
| Context limit | 64,000 tokens per request |
| Additional context constraint | 32,000 tokens for the state plus the longest question |
| Published input price | $0.042 per million tokens |
| Published output price | Free |
| Published rate limits | 250,000 tokens per second and 1,200 requests per minute |
| Primary language | English |
| Direct multimodal input | Not supported |
Giá, bí danh và giới hạn tốc độ có thể thay đổi. Nhà phát triển nên xác minh thông tin mới nhất trước khi đưa khối lượng công việc vào sản xuất.
Jev là gì?
Jev là một mô hình ra quyết định do TypeSafe AI phát triển. Thay vì tạo ra một chuỗi token mở, nó chọn giá trị từ các không gian câu trả lời do nhà phát triển xác định.
Một yêu cầu Jev gồm hai thành phần chính:
- State: Thông tin mà mô hình nên đánh giá, như phiếu hỗ trợ, bản ghi giao dịch, vết tác nhân, mô tả sản phẩm hoặc trạng thái ứng dụng ở định dạng JSON.
- Questions: Các định nghĩa được định kiểu cho những phán định cần đưa ra về trạng thái đó.
Các câu trả lời thu được nhằm để phần mềm sử dụng trực tiếp. Ứng dụng có thể rẽ nhánh theo danh mục đã chọn, so sánh điểm số, kiểm tra xác suất, áp dụng ngưỡng tin cậy hoặc chuyển một trường hợp không chắc chắn cho người đánh giá.
Vì vậy, Jev hoạt động như một lớp quyết định xác suất giữa dữ liệu ứng dụng và logic nghiệp vụ tất định. Nó xử lý các phán định khó diễn đạt bằng quy tắc cố định, đồng thời cho phép mã ứng dụng giữ quyền kiểm soát ngưỡng, quyền hạn và hành động.
Jev hoạt động như thế nào
Ba nguyên thủy quyết định
Jev hỗ trợ ba loại câu hỏi được thiết kế cho các quyết định phần mềm khác nhau.
Choice chọn một tùy chọn từ một tập hợp được xác định trước. Nó phù hợp cho các tác vụ như phân loại ý định, định tuyến phiếu, phân loại chính sách và lựa chọn mô hình. Phản hồi bao gồm tùy chọn đã chọn, xác suất gán cho từng tùy chọn và điểm tin cậy.
Score đánh giá trạng thái dựa trên một thang tiêu chí có thứ tự. Nó có thể đo lường các phẩm chất như mức độ khẩn cấp, rủi ro, mức độ liên quan, sự thất vọng hoặc chất lượng nội dung. Phản hồi bao gồm một điểm số, xác suất cho từng mức thang và điểm tin cậy.
Noul ước tính xác suất một mệnh đề là đúng. Nó trả về giá trị từ 0 đến 1 và hữu ích cho xác minh, kiểm tra chính sách, quyết định đủ điều kiện và cổng hoàn thành. Không giống Choice và Score, Noul không trả về trường tin cậy riêng vì đầu ra của nó vốn đã là một xác suất.
Đánh giá câu hỏi song song
Một yêu cầu có thể chứa nhiều câu hỏi Choice, Score và Noul. Jev đánh giá chúng độc lập và song song trên cùng một trạng thái.
Ví dụ, một nền tảng hỗ trợ có thể phân loại phiếu, đánh giá mức độ khẩn cấp và ước tính liệu cần leo thang cho con người hay không trong một yêu cầu. TypeSafe cho biết việc thêm các câu hỏi độc lập có ít ảnh hưởng đến thời gian phản hồi.
Các câu hỏi trong cùng một yêu cầu không thể phụ thuộc vào câu trả lời của nhau. Các quyết định tuần tự nên được thực hiện qua các cuộc gọi riêng biệt do logic ứng dụng kết nối.
Phản hồi an toàn kiểu
Các cấu trúc phản hồi có thể có của Jev được xác định trước khi suy luận. Điều này ngăn JSON sai định dạng, trường bất ngờ và văn bản giải thích xuất hiện ở nơi yêu cầu một danh mục hoặc giá trị số.
An toàn kiểu chỉ đảm bảo định dạng phản hồi. Jev vẫn có thể trả về một quyết định hợp lệ nhưng không đúng, vì vậy đội sản phẩm phải đánh giá độ chính xác của nó bằng dữ liệu đại diện.
Xác suất và độ tin cậy tường minh
Choice và Score phơi bày phân phối xác suất đằng sau mỗi câu trả lời. Giá trị tin cậy của chúng tóm tắt mức độ phân phối đó ưu ái một kết quả duy nhất.
Ứng dụng có thể dùng độ tin cậy để tự động hóa quyết định rõ ràng, yêu cầu xác nhận khi mức độ không chắc chắn vừa phải, và chuyển trường hợp mơ hồ cho con người hoặc mô hình dự phòng.
Ngưỡng phù hợp phụ thuộc vào rủi ro. Gắn thẻ một phiếu hỗ trợ có thể chịu đựng nhiều bất định hơn so với phê duyệt một giao dịch hoặc thực thi một hành động không thể đảo ngược.
Suy luận độ trễ thấp
TypeSafe báo cáo thời gian phản hồi đầu-cuối khoảng 70 đến 500 mili giây. Điều này khiến Jev phù hợp cho định tuyến tương tác, kiểm tra lặp lại của tác nhân và các quy trình công việc nặng quyết định khác, nơi một cuộc gọi mô hình sinh thành chậm hơn có thể ảnh hưởng đến độ phản hồi.
Độ trễ thực tế phụ thuộc vào kích thước trạng thái, tải dịch vụ, điều kiện mạng và khu vực triển khai.
Tùy chỉnh ở cấp yêu cầu
Jev không được tùy chỉnh thông qua tinh chỉnh theo tài khoản hoặc LoRA adapters. Nhà phát triển điều chỉnh nó bằng cách cung cấp trạng thái phù hợp, viết hướng dẫn chính xác, xác định tiêu chí rõ ràng và kết hợp các quyết định nguyên tử trong mã ứng dụng.
Cách tiếp cận này giữ các quy tắc kinh doanh hiển thị và cho phép đội ngũ thay đổi logic quy trình làm việc mà không cần huấn luyện lại mô hình.
Mô hình phiên bản và bí danh ổn định
TypeSafe cung cấp ID mô hình cố định và bí danh động. jev-1.13.0 xác định một bản phát hành cụ thể, trong khi jev-latest trỏ đến phiên bản ổn định mới nhất. jev-preview có thể chuyển sang bản xem trước mới hơn khi có.
Bí danh giúp đơn giản hóa thử nghiệm, nhưng hành vi của chúng có thể thay đổi sau cập nhật. Ứng dụng sản xuất với ngưỡng đã hiệu chuẩn nên cố định một phiên bản đã kiểm thử và ghi lại ID mô hình được trả về cùng mỗi phản hồi.
Hiệu năng benchmark của Jev
Jev không được thiết kế cho các benchmark mục đích chung tập trung vào viết, mã hóa, suy diễn toán hoặc lập luận dài. Các phép đo phù hợp hơn gồm chất lượng quyết định, hiệu chuẩn xác suất, độ trễ, chi phí và độ tin cậy đầu ra.
TypeSafe báo cáo:
- Thời gian phản hồi đầu-cuối 70–500 mili giây
- Thực thi nhanh hơn khoảng 40–200× trên các tác vụ System One tương đương
- Kết quả quy trình đỉnh đạt tốc độ cao hơn 193.6×
- Cải thiện chi phí tối đa được báo cáo là 444.6×
Đây là kết quả do nhà cung cấp báo cáo và không nên coi là đảm bảo hiệu năng phổ quát. Đánh giá quy trình của TypeSafe so sánh các mô hình trên đồ thị quyết định có cấu trúc và dùng trung bình dự đoán của một số mô hình ngoài cao cấp được chọn làm xác suất tham chiếu.
TypeSafe cũng thừa nhận rằng các thành viên của nhóm năng lực mô hình của họ đã tạo ra các quy trình được đánh giá, điều này có thể tạo thiên lệch. Các lợi ích được báo cáo có khả năng gần với mức cao hơn của những gì ứng dụng có thể quan sát.
Jev so với LLM đầu ra có cấu trúc, bộ phân loại truyền thống và công cụ luật
| Dimension | Jev | Structured-output LLM | Classical classifier | Rules engine |
|---|---|---|---|---|
| Primary function | Bounded probabilistic decisions | Generation with a structured response | Prediction for a trained task | Deterministic logic |
| Answer space | Defined in each request | Constrained through a schema | Fixed during training | Fixed in code |
| Uncertainty | Native probabilities and confidence | Depends on the model and method | Often available but may require calibration | Not probabilistic by default |
| Output structure | Guaranteed for supported primitives | Usually requires constrained generation and validation | Fixed by implementation | Fixed by implementation |
| New-task setup | Define state, questions, and criteria | Create a prompt and schema | Collect labeled data and train a model | Write explicit conditions |
| Open-ended generation | No | Yes | No | No |
| Extended reasoning | Not its target workload | Supported by capable models | No | Limited to encoded logic |
| Adaptation | Request-level instructions and criteria | Prompt and context changes | Retraining or feature engineering | Code changes |
| Best fit | High-volume judgment inside software | Tasks combining reasoning and generation | Stable, narrow, data-rich predictions | Explicit and stable conditions |
Jev hữu ích nhất khi các quy tắc cố định quá cứng nhắc, việc tạo một bộ phân loại chuyên dụng sẽ tốn kém, và ứng dụng không cần văn bản sinh thành.
Một LLM truyền thống vẫn là lựa chọn tốt hơn khi tác vụ cần nghiên cứu, giải thích, tạo nội dung, lập kế hoạch hoặc lập luận nhiều bước. Một công cụ luật vẫn thích hợp hơn khi điều kiện đúng đã rõ ràng và tất định.
Trường hợp sử dụng khuyến nghị
Jev phù hợp nhất với các quyết định thường xuyên có không gian câu trả lời được xác định trước.
- Routing và phân loại sơ bộ: Phân loại yêu cầu, chọn hàng đợi hoặc công cụ, và ưu tiên trường hợp khẩn cấp.
- Kiểm soát tác nhân: Kiểm tra hoàn thành tác vụ, đánh giá hành động đề xuất và xác định các trường hợp cần xác nhận.
- Đánh giá LLM: Đánh giá mức độ liên quan, bằng chứng hỗ trợ, tuân thủ chính sách hoặc chất lượng phản hồi.
- Kiểm duyệt: Phân loại vi phạm chính sách, chấm điểm mức độ nghiêm trọng và leo thang các trường hợp không chắc chắn.
- Làm giàu dữ liệu: Chuyển đổi tin nhắn, đánh giá, khách hàng tiềm năng và bản ghi thành danh mục, điểm số và đặc trưng xác suất.
- Quyết định thời gian thực: Hỗ trợ hành vi ứng dụng độ trễ thấp nơi phản hồi sinh thành đầy đủ là không cần thiết.
Hạn chế của Jev
Jev được chuyên biệt có chủ đích, và thiết kế hẹp của nó tạo ra một số hạn chế quan trọng.
- Không thể tạo văn bản, mã, tóm tắt hoặc câu trả lời hội thoại.
- Không nhằm cho nghiên cứu mở rộng hoặc lập luận nhiều bước.
- Đầu ra an toàn kiểu không đảm bảo quyết định kinh doanh đúng.
- Hình ảnh, âm thanh, video và tệp nhị phân phải được chuyển thành văn bản hoặc dữ liệu có cấu trúc trước khi gửi.
- Tiếng Anh là ngôn ngữ được ghi nhận là mạnh nhất.
- Khối lượng công việc không phải tiếng Anh và CJK cần đánh giá độc lập.
- Các câu hỏi trong một yêu cầu được đánh giá độc lập.
- Mô hình không thể dựng chuỗi lập luận tuần tự xuyên suốt các câu hỏi đó.
- TypeSafe chưa công bố số tham số của mô hình hoặc phát hành trọng số.
- Tùy chỉnh được thực hiện qua yêu cầu thay vì tinh chỉnh riêng theo khách hàng.
- Lợi ích hiệu năng được công bố đến từ khung đánh giá của riêng TypeSafe.
- Bí danh động có thể đưa đến thay đổi hành vi mà không cần thay đổi mã ứng dụng.
Jev không nên thay thế mã tất định cho quyền hạn, tính toán tài chính, yêu cầu pháp lý, giới hạn kích thước tệp hoặc chính sách hành động không thể đảo ngược. Mô hình xác suất hữu ích cho các phán định không chắc chắn, không dành cho điều kiện mà phần mềm đã có thể đánh giá chính xác.
CometAPI cung cấp quyền truy cập vào Jev API như thế nào?
Hiện Jev chưa có trong danh mục mô hình công khai của CometAPI. CometAPI dự định đánh giá và tích hợp Jev khi quyền truy cập mô hình khả dụng và các quyền kết nối cần thiết được mở.
Sau khi tích hợp, nhà phát triển có thể kiểm tra thư mục mô hình của CometAPI và tài liệu API để biết ID mô hình được hỗ trợ, định dạng yêu cầu, giá, giới hạn tốc độ và tính sẵn sàng của endpoint.
Cho đến khi tích hợp được công bố chính thức, nhà phát triển nên sử dụng console, API gốc hoặc SDK chính thức của TypeSafe để truy cập Jev. Chỉ nên coi tích hợp với CometAPI là khả dụng sau khi Jev xuất hiện trong danh mục mô hình công khai với thông tin API đã được xác minh.