Pada tanggal 25 Maret, menurut Qwen pengumuman tim, model Qwen2.5-VL-32B-Instruct resmi menjadi sumber terbuka, dengan skala parameter 32B, dan menunjukkan kinerja yang sangat baik dalam tugas-tugas seperti pemahaman gambar, penalaran matematika, dan pembuatan teks. Model tersebut lebih dioptimalkan melalui pembelajaran penguatan, dan responsnya lebih sesuai dengan preferensi manusia, melampaui model 72B yang dirilis sebelumnya dalam evaluasi multimodal seperti MMMU dan MathVista.
Apa itu Qwen2.5-VL-32B?
Qwen2.5-VL-32B-Instruct merupakan tambahan terbaru pada seri Qwen Alibaba, yang memiliki 32 miliar parameter. Dirancang untuk memproses dan menginterpretasikan informasi visual dan tekstual, model ini unggul dalam tugas-tugas yang membutuhkan pemahaman mendalam tentang gambar dan bahasa. Dirilis di bawah lisensi Apache 2.0, model ini menawarkan fleksibilitas bagi pengembang dan peneliti untuk mengintegrasikan dan mengadaptasi model untuk berbagai aplikasi.
Dibandingkan dengan model seri Qwen2.5-VL sebelumnya, model 32B memiliki peningkatan berikut:
- Responsnya lebih sesuai dengan preferensi subjektif manusia: gaya keluaran telah disesuaikan untuk membuat jawaban lebih terperinci, format lebih standar, dan lebih sesuai dengan preferensi manusia.
- Kemampuan penalaran matematika: Keakuratan penyelesaian masalah matematika yang kompleks telah ditingkatkan secara signifikan.
- Pemahaman dan penalaran gambar berbutir halus: Akurasi yang lebih baik dan kemampuan analisis yang lebih rinci telah ditunjukkan dalam tugas-tugas seperti penguraian gambar, pengenalan konten, dan deduksi logika visual.
Bagaimana Anda Dapat Menggunakan Qwen2.5-VL-32B Secara Lokal?
Penerapan Qwen2.5-VL-32B secara lokal memungkinkan pengguna memanfaatkan kemampuannya tanpa bergantung pada server eksternal, memastikan privasi data dan mengurangi latensi. Repositori GitHub resmi menyediakan sumber daya yang komprehensif untuk penerapan lokal. citeturn0search6
Menyiapkan Lingkungan
- Kloning Repositori:
git clone https://github.com/QwenLM/Qwen2.5-VL
- Navigasi ke Direktori Proyek:Pindah ke direktori kloning:
cd Qwen2.5-VL
- Instal Ketergantungan: Pastikan semua paket yang diperlukan telah terinstal. Repositori ini mencakup
requirements.txtfile untuk memfasilitasi hal ini:
pip install -r requirements.txt
Menjalankan Model
Setelah menyiapkan lingkungan:
- Luncurkan Aplikasi: Jalankan skrip utama untuk memulai aplikasi. Instruksi terperinci tersedia dalam dokumentasi repositori.
- Akses Antarmuka: Setelah berjalan, akses antarmuka model melalui peramban web di alamat lokal yang ditentukan.
Kiat Pengoptimalan
Untuk meningkatkan kinerja dan mengelola sumber daya secara efektif:
- Kuantisasi: Memanfaatkan
--quantizebendera selama konversi model untuk mengurangi penggunaan memori. - Kelola Panjang Konteks: Batasi token masukan untuk mempercepat respons.
- Tutup Aplikasi yang Membutuhkan Banyak Sumber DayaPastikan aplikasi intensif lainnya ditutup untuk mengosongkan sumber daya sistem.
- Pemrosesan Batch: Untuk beberapa gambar, proses secara bertahap untuk meningkatkan efisiensi.
Apa Fitur Utama Qwen2.5-VL-32B?
Qwen2.5-VL-32B-Instruct memperkenalkan beberapa peningkatan dibandingkan pendahulunya:
Respon yang Lebih Baik dari Manusia
Gaya keluaran model telah disempurnakan untuk menghasilkan jawaban yang lebih terperinci dan terstruktur dengan baik, yang selaras dengan preferensi manusia. Peningkatan ini memfasilitasi interaksi yang lebih alami dan intuitif.
Penalaran Matematika Tingkat Lanjut
Kemajuan signifikan telah dicapai dalam kemampuan model untuk memecahkan masalah matematika yang rumit secara akurat. Hal ini menjadikan Qwen2.5-VL-32B sebagai alat yang berharga untuk tugas-tugas yang memerlukan perhitungan numerik yang canggih.
Pemahaman dan Penalaran Gambar Berbutir Halus
Model ini menunjukkan akurasi yang lebih tinggi dalam penguraian gambar, pengenalan konten, dan deduksi logika visual. Model ini dapat menganalisis detail rumit dalam gambar, sehingga membuatnya mahir dalam tugas-tugas seperti deteksi objek dan pemahaman pemandangan.
Kemampuan Parsing Dokumen yang Kuat
Qwen2.5-VL-32B unggul dalam penguraian omnidokumen, secara efektif menangani dokumen multi-adegan dan multibahasa, termasuk dokumen dengan tulisan tangan, tabel, bagan, rumus kimia, dan notasi musik.
Bagaimana Kinerja Qwen2.5-VL-32B Dibandingkan dengan Model Lain?
Dalam evaluasi benchmark, Qwen2.5-VL-32B-Instruct telah menunjukkan kinerja yang luar biasa:
- Tugas Multimodal: Model ini mengungguli model yang lebih besar, seperti model 72B, dalam tugas yang dievaluasi oleh tolok ukur seperti MMMU, MMMU-Pro, dan MathVista. citeturn0search9
- Kemampuan Tekstual: Ia mencapai hasil canggih yang sebanding dengan model seperti Mistral-Small-3.1-24B dan Gemma-3-27B-IT, menunjukkan kehebatannya dalam tugas berbasis teks murni.
Topik terkait Cara Mengakses Grok 3 & Menggunakannya
Untuk Pengembang: Akses API
CometAPI menawarkan harga yang jauh lebih rendah daripada harga resmi untuk membantu Anda mengintegrasikan qwen API (nama model: qwen-max;), dan Anda akan mendapatkan $1 di akun Anda setelah mendaftar dan masuk! Selamat datang untuk mendaftar dan mencoba CometAPI.
CometAPI bertindak sebagai hub terpusat untuk API dari beberapa model AI terkemuka, sehingga tidak perlu lagi berinteraksi dengan beberapa penyedia API secara terpisah. CometAPI mengintegrasikan model seri Qwen 2.5. Anda dapat mengaksesnya melalui API.
Silakan lihat Qwen 2.5 Coder 32B Instruksi API dan API Qwen 2.5 Max untuk detail integrasi.CometAPI telah memperbarui yang terbaru API QwQ-32B.
Kesimpulan
Qwen2.5-VL-32B-Instruct merupakan kemajuan signifikan dalam bidang AI multimodal. Sifatnya yang open-source, dipadukan dengan kemampuan yang ditingkatkan dalam interaksi seperti manusia, penalaran matematis, dan pemahaman gambar, menjadikannya alat yang serbaguna dan canggih bagi para pengembang dan peneliti. Dengan menawarkan sumber daya untuk penerapan dan pengoptimalan lokal, Alibaba memastikan bahwa model ini dapat diakses dan praktis untuk berbagai aplikasi.