Thông số kỹ thuật của Tencent Hy4 Preview
| Thông số | Thông tin đã xác thực |
|---|---|
| ID mô hình | hy4-preview |
| Nhà cung cấp | Tencent Hunyuan |
| Ngày phát hành | 28 tháng 8, 2026 |
| Kiến trúc | Mixture of Experts (MoE) |
| Tổng số tham số backbone | 770B |
| Tham số backbone được kích hoạt | 49B mỗi token |
| Lớp | 78 |
| Kích thước ẩn | 6,144 |
| Attention | Gated DeepSeek Sparse Attention (Gated DSA) |
| Attention heads | 64 |
| Chuyên gia có định tuyến | 256 |
| Chuyên gia dùng chung | 1 |
| Chuyên gia có định tuyến được kích hoạt | 8 mỗi token |
| Cửa sổ ngữ cảnh | 1,048,576 token (1M) |
| Giới hạn đầu vào API tối đa | 960,000 token |
| Giới hạn đầu ra API tối đa | 64,000 token |
| Kích thước từ vựng | 120,832 |
| Loại mô hình | Instruct |
| Biến thể lượng hóa | Hy4-preview-FP8 |
| Giấy phép | Apache 2.0 |
Các số liệu kiến trúc ở trên mô tả backbone; model card của Tencent mô tả thêm một lớp MTP native cho giải mã suy đoán. Cửa sổ ngữ cảnh 1M của API không giống với giới hạn đầu vào tối đa 960K.
Tencent Hy4 Preview là gì?
Tencent Hy4 Preview là một mô hình ngôn ngữ lớn có trọng số mở do đội Hunyuan của Tencent phát triển. Phát hành ngày 28 tháng 8, 2026, đây là phiên bản sớm của thế hệ Hy4 và được tối ưu cho công việc năng suất trong thực tế: kỹ nghệ phần mềm, thực thi tác vụ theo tác nhân, phân tích văn phòng và tài chính, phát triển game, và nghiên cứu khoa học.
Hy4 Preview sử dụng kiến trúc Mixture-of-Experts với tổng 770 tỷ tham số backbone và 49 tỷ tham số được kích hoạt mỗi token. Ngăn xếp attention dùng Gated DeepSeek Sparse Attention (Gated DSA) với IndexCache để tái sử dụng chỉ mục thưa giữa các tầng. Mô hình cũng sử dụng identity Hyper-Connections (iHC) trong đường truyền residual. Bao gồm một lớp multi-token-prediction (MTP) native cho giải mã suy đoán.
Tencent phát hành trọng số mô hình, một biến thể lượng hóa FP8, và hướng dẫn triển khai cho vLLM và SGLang. Model card nêu giấy phép Apache 2.0.
Tính năng chính của Tencent Hy4 Preview
- Ngữ cảnh một triệu token: Cửa sổ ngữ cảnh 1,048,576 token dành cho codebase lớn, tài liệu kỹ thuật dài, và thông tin phân tán qua nhiều tài liệu. Tencent Cloud liệt kê đầu vào tối đa 960,000 token và đầu ra tối đa 64,000 token.
- Kỹ nghệ phần mềm dài hạn: Tencent nhấn mạnh khả năng hiểu mã, lập kế hoạch, gỡ lỗi và xác minh xuyên suốt các tác vụ phát triển kéo dài, bao gồm triển khai front-end và lặp lại.
- Thực thi tác vụ theo tác nhân: Mô hình được định vị cho các tác vụ phức tạp liên quan đến lập kế hoạch và sử dụng công cụ. Công thức phục vụ đã công bố bao gồm phân tích lời gọi công cụ và cấu hình tự động lựa chọn công cụ.
- Quy trình văn phòng và phân tích: Tencent mô tả tạo tài liệu, bảng tính và bài thuyết trình, phân tích dữ liệu, phương trình, và công việc mô hình tài chính.
- Lý luận khoa học và kỹ thuật: Tencent báo cáo công việc trong R&D AI, động lực học phân tử, vật lý vật chất ngưng tụ, và toán học cơ bản.
- Tùy chọn triển khai mở: Nhà phát triển có thể sử dụng trọng số theo giấy phép Apache-2.0, biến thể FP8, và công thức triển khai vLLM hoặc SGLang của Tencent.
Hiệu năng benchmark của Tencent Hy4 Preview
Tencent báo cáo một đánh giá nội bộ mù, trong đó 163 chuyên gia nội bộ chấm điểm đầu ra trên 203 tác vụ kỹ thuật. Hy4 Preview đạt điểm trung bình 2.99/4.00, so với 2.92/4.00 của GLM 5.3 và 2.94/4.00 của Kimi K3.
| Mô hình | Điểm trung bình | Kết quả đối đầu của Hy4 Preview |
|---|---|---|
| Tencent Hy4 Preview | 2.99/4.00 | Mô hình tham chiếu |
| GLM 5.3 | 2.92/4.00 | 46.8% thắng, 12.8% hòa, 40.4% thua |
| Kimi K3 | 2.94/4.00 | 51.2% thắng, 7.9% hòa, 40.9% thua |
Đây là kết quả từ đánh giá kỹ thuật nội bộ của Tencent do con người chấm, không phải bảng xếp hạng benchmark công khai tiêu chuẩn hóa. Không nên coi đó là bằng chứng rằng Hy4 Preview dẫn đầu trên mọi benchmark về lập trình, lý luận, hoặc mục đích chung. Văn bản model card hiện có không cung cấp bảng điểm benchmark tiêu chuẩn hóa đầy đủ ở dạng máy đọc được, nên không suy diễn thêm tại đây.
Hy4 Preview so sánh thế nào với GLM 5.3 và Kimi K3
Bằng chứng đã công bố có thể so sánh trực tiếp nhất là đánh giá kỹ thuật 203 tác vụ của Tencent. Hy4 Preview đạt 2.99/4.00, nhỉnh hơn GLM 5.3 ở 2.92 và Kimi K3 ở 2.94. So sánh này hữu ích để hiểu kết quả quy trình kỹ thuật nội bộ của Tencent, nhưng không phải đánh giá độc lập và không thiết lập ưu thế trên các khối lượng công việc không liên quan.
Hãy chọn Hy4 Preview khi triển khai trọng số mở, ngữ cảnh một triệu token, và các quy trình tác nhân hướng năng suất là yêu cầu cốt lõi. Hãy tự so sánh GLM 5.3 và Kimi K3 trên các tác vụ đại diện của bạn trước khi chọn mô hình sản xuất; thông số kiến trúc và ngữ cảnh của chúng không được tái hiện ở đây vì chưa được xác thực từ các nguồn sơ cấp tương đương cho so sánh này.
Hạn chế đã biết
Tencent mô tả Hy4 Preview là một vòng lặp sớm với dư địa cải thiện cả tiền huấn luyện và hậu huấn luyện. Các vấn đề đã công bố bao gồm mất nhiều thời gian hơn cần thiết để lý luận qua các tác vụ phức tạp và xu hướng kiểm tra quá mức công việc của chính mình. Những hành vi này có thể tăng độ trễ và độ dài đầu ra. Các đội nên kiểm thử tỷ lệ thành công tác vụ, độ trễ, tính đúng đắn của lời gọi công cụ, và tổng số token so với tiêu chí chấp nhận của riêng mình trước khi triển khai sản xuất.
Trường hợp sử dụng tiêu biểu
- Kỹ nghệ phần mềm ở quy mô kho mã: Phân tích các tệp nguồn và lịch sử issue, lập kế hoạch thay đổi đa tệp, gỡ lỗi và xác minh bản vá.
- Quy trình phát triển dựa trên tác nhân: Phối hợp các tác vụ mã hóa nhiều bước và thực thi có hỗ trợ công cụ, kèm theo ủy quyền và xác thực phía ứng dụng.
- Phân tích kinh doanh: Hợp nhất thông tin xuyên tài liệu và xây dựng báo cáo, bảng tính, và bài thuyết trình.
- Mô hình tài chính: Hỗ trợ phương trình, phân tích dữ liệu và quy trình mô hình tài chính, kèm xác thực độc lập các phép tính.
- Làm prototype trò chơi: Tạo và tinh chỉnh lặp lại các prototype có thể chơi với quy trình dùng game engine.
- Hỗ trợ nghiên cứu khoa học: Khám phá tài liệu kỹ thuật, xây dựng phân tích, và hỗ trợ công việc trong các lĩnh vực Tencent nêu như động lực học phân tử và toán học cơ bản.