ในสาขาปัญญาประดิษฐ์ที่พัฒนาอย่างรวดเร็ว โมเดลภาษาขนาดใหญ่ (LLM) มีผลกระทบต่อโดเมนต่างๆ อย่างมาก รวมถึงการพัฒนาซอฟต์แวร์ หนึ่งในความก้าวหน้าล่าสุดคือ DeepSeek-Coder V2 ซึ่งเป็นโมเดลภาษาโค้ดโอเพ่นซอร์สที่พัฒนาโดย DeepSeek บริษัท AI ของจีน โมเดลนี้มีจุดมุ่งหมายเพื่อเชื่อมช่องว่างระหว่างโมเดลโอเพ่นซอร์สและโมเดลปิดในปัญญาประดิษฐ์
DeepSeek-Coder V2 คืออะไร?
DeepSeek-Coder V2 คือโมเดลภาษาโค้ดแบบโอเพ่นซอร์สที่ผสมผสานระหว่างผู้เชี่ยวชาญ (MoE) ซึ่งออกแบบมาเพื่อทำงานที่เกี่ยวข้องกับการสร้างและทำความเข้าใจโค้ด โดยโมเดลนี้ได้รับการฝึกอบรมล่วงหน้าจากจุดตรวจสอบขั้นกลางของ DeepSeek-V2 ด้วยโทเค็นเพิ่มเติมอีก 6 ล้านล้านโทเค็น ช่วยเพิ่มความสามารถในการเขียนโค้ดและการใช้เหตุผลทางคณิตศาสตร์ ในขณะที่ยังคงประสิทธิภาพที่เทียบเคียงได้ในงานภาษาทั่วไป
คุณสมบัติหลักและนวัตกรรม
การสนับสนุนภาษาแบบขยาย
DeepSeek-Coder V2 ได้ขยายการรองรับภาษาการเขียนโปรแกรมอย่างมีนัยสำคัญ โดยเพิ่มจาก 86 เป็น 338 ภาษา ซึ่งทำให้สามารถนำไปใช้งานในสภาพแวดล้อมและโครงการการเขียนโค้ดต่างๆ ได้มากขึ้น
ขยายความยาวบริบท
ความยาวบริบทของโมเดลได้รับการขยายจาก 16K เป็น 128K โทเค็น ช่วยให้สามารถจัดการกับฐานโค้ดที่ใหญ่ขึ้นและงานที่ซับซ้อนมากขึ้นได้โดยไม่สูญเสียบริบท