Spesifikasi teknis Tencent Hy4 Preview
| Spesifikasi | Informasi terverifikasi |
|---|---|
| ID model | hy4-preview |
| Penyedia | Tencent Hunyuan |
| Tanggal rilis | 28 Agustus 2026 |
| Arsitektur | Campuran Pakar (MoE) |
| Total parameter backbone | 770B |
| Parameter backbone yang diaktifkan | 49B per token |
| Lapisan | 78 |
| Dimensi tersembunyi | 6.144 |
| Atensi | Atensi Jarang DeepSeek Bergerbang (Gated DSA) |
| Kepala atensi | 64 |
| Pakar terarah | 256 |
| Pakar bersama | 1 |
| Pakar terarah yang diaktifkan | 8 per token |
| Jendela konteks | 1.048.576 token (1M) |
| Input API maksimum | 960.000 token |
| Output API maksimum | 64.000 token |
| Ukuran kosakata | 120.832 |
| Jenis model | Instruct |
| Varian terkuantisasi | Hy4-preview-FP8 |
| Lisensi | Apache 2.0 |
Angka arsitektur di atas menggambarkan backbone; model card Tencent menjelaskan lapisan MTP native tambahan untuk decoding spekulatif. Jendela konteks 1M milik API tidak sama dengan batas input maksimum 960K-nya.
Apa itu Tencent Hy4 Preview?
Tencent Hy4 Preview adalah model bahasa besar berbobot terbuka yang dikembangkan oleh tim Hunyuan dari Tencent. Dirilis pada 28 Agustus 2026, ini adalah versi awal dari generasi Hy4 dan dioptimalkan untuk pekerjaan produktivitas dunia nyata: rekayasa perangkat lunak, eksekusi tugas berbasis agen, pekerjaan perkantoran dan analisis keuangan, pengembangan gim, serta riset ilmiah.
Hy4 Preview menggunakan arsitektur Campuran Pakar dengan total 770 miliar parameter backbone dan 49 miliar parameter yang diaktifkan per token. Tumpukan atensinya menggunakan Atensi Jarang DeepSeek Bergerbang (Gated DSA) dengan IndexCache untuk pemakaian ulang indeks jarang lintas-lapis. Model ini juga menggunakan Hyper-Connections identitas (iHC) pada jalur residualnya. Lapisan prediksi multi-token (MTP) native disertakan untuk decoding spekulatif.
Tencent merilis bobot model, varian terkuantisasi FP8, dan panduan penerapan untuk vLLM dan SGLang. Model card menetapkan lisensi Apache 2.0.
Fitur utama Tencent Hy4 Preview
- Konteks sejuta token: Jendela konteks 1.048.576 token ditujukan untuk basis kode besar, materi teknis panjang, dan informasi yang tersebar di banyak dokumen. Tencent Cloud mencantumkan input maksimum 960.000 token dan output maksimum 64.000 token.
- Rekayasa perangkat lunak jangka panjang: Tencent menyoroti pemahaman kode, perencanaan, debugging, dan verifikasi pada tugas pengembangan yang berkepanjangan, termasuk implementasi dan iterasi front-end.
- Eksekusi tugas berbasis agen: Model ini diposisikan untuk tugas kompleks yang melibatkan perencanaan dan penggunaan alat. Resep penyajian yang dipublikasikan mencakup penguraian pemanggilan alat dan konfigurasi pemilihan alat otomatis.
- Alur kerja perkantoran dan analitis: Tencent menjelaskan pembuatan dokumen, spreadsheet, dan presentasi, analisis data, persamaan, dan pekerjaan model keuangan.
- Penalaran ilmiah dan teknis: Tencent melaporkan pekerjaan di bidang R&D AI, dinamika molekuler, fisika materi terkondensasi, dan matematika fundamental.
- Opsi penerapan terbuka: Pengembang dapat menggunakan bobot berlisensi Apache 2.0, varian FP8, serta resep penerapan Tencent untuk vLLM atau SGLang.
Kinerja tolok ukur Tencent Hy4 Preview
Tencent melaporkan evaluasi internal buta di mana 163 ahli internal menilai keluaran pada 203 tugas rekayasa. Hy4 Preview menerima skor rata-rata 2,99/4,00, dibandingkan 2,92/4,00 untuk GLM 5.3 dan 2,94/4,00 untuk Kimi K3.
| Model | Skor rata-rata | Hasil head-to-head Hy4 Preview |
|---|---|---|
| Tencent Hy4 Preview | 2,99/4,00 | Model referensi |
| GLM 5.3 | 2,92/4,00 | 46,8% menang, 12,8% seri, 40,4% kalah |
| Kimi K3 | 2,94/4,00 | 51,2% menang, 7,9% seri, 40,9% kalah |
Ini adalah hasil dari evaluasi rekayasa berbasis penilaian manusia internal Tencent, bukan papan peringkat tolok ukur publik yang terstandar. Hasil ini tidak boleh dianggap sebagai bukti bahwa Hy4 Preview memimpin pada setiap tolok ukur pemrograman, penalaran, atau tujuan umum. Teks model card yang tersedia tidak menyediakan tabel lengkap yang dapat dibaca mesin untuk skor tolok ukur terstandar, sehingga tidak ada yang disimpulkan di sini.
Bagaimana Hy4 Preview dibandingkan dengan GLM 5.3 dan Kimi K3
Bukti terpublikasi yang paling langsung dapat dibandingkan adalah evaluasi rekayasa 203 tugas milik Tencent. Hy4 Preview mencetak 2,99/4,00, sedikit di atas GLM 5.3 pada 2,92 dan Kimi K3 pada 2,94. Perbandingan ini berguna untuk memahami hasil alur kerja rekayasa internal Tencent, tetapi bukan evaluasi independen dan tidak menetapkan superioritas pada beban kerja yang tidak terkait.
Pilih Hy4 Preview ketika penerapan bobot terbuka, konteks sejuta token, dan alur kerja agen berorientasi produktivitas merupakan persyaratan utama. Bandingkan GLM 5.3 dan Kimi K3 pada tugas representatif Anda sendiri sebelum memilih model produksi; spesifikasi arsitektur dan konteks mereka tidak ditampilkan di sini karena tidak diverifikasi dari sumber primer yang setara untuk perbandingan ini.
Keterbatasan yang diketahui
Tencent menggambarkan Hy4 Preview sebagai iterasi awal dengan ruang untuk perbaikan baik pada pra-pelatihan maupun pascapelatihan. Masalah yang diketahui yang dipublikasikan termasuk menghabiskan waktu lebih lama dari yang diperlukan untuk bernalar melalui tugas kompleks dan kecenderungan untuk memverifikasi pekerjaannya sendiri secara berlebihan. Perilaku ini dapat meningkatkan latensi dan panjang keluaran. Tim harus menguji keberhasilan tugas, latensi, kebenaran pemanggilan alat, dan total penggunaan token terhadap kriteria penerimaan mereka sendiri sebelum penerapan produksi.
Kasus penggunaan representatif
- Rekayasa perangkat lunak skala repositori: Menganalisis berkas sumber dan riwayat isu, merencanakan perubahan multi-berkas, melakukan debug, dan memverifikasi patch.
- Alur kerja pengembangan berbasis agen: Mengoordinasikan tugas pengkodean multi-langkah dan eksekusi berbantuan alat, dengan otorisasi dan validasi di sisi aplikasi.
- Analisis bisnis: Mengonsolidasikan informasi di berbagai dokumen dan membangun laporan, spreadsheet, serta presentasi.
- Pemodelan keuangan: Membantu dengan persamaan, analisis data, dan alur kerja model keuangan, dengan validasi perhitungan secara independen.
- Prototipe gim: Menghasilkan dan menyempurnakan prototipe yang dapat dimainkan secara iteratif dengan alur kerja engine gim.
- Bantuan riset ilmiah: Mengeksplorasi literatur teknis, merumuskan analisis, dan mendukung pekerjaan di area yang diidentifikasi Tencent seperti dinamika molekuler dan matematika fundamental.