Apakah Halusinasi AI?

Apakah Halusinasi AI?

Halusinasi AI merujuk kepada fenomena di mana model kecerdasan buatan—terutamanya model bahasa besar (LLM) dan sistem AI generatif—menghasilkan output yang munasabah dalam bentuk tetapi mengandungi maklumat palsu, rekaan atau mengelirukan. "Halusinasi" ini boleh terdiri daripada ciptaan fakta dan petikan rekaan kepada tafsiran yang salah terhadap pertanyaan pengguna. Walaupun output sedemikian mungkin kelihatan koheren dan meyakinkan, ia menyimpang daripada realiti yang boleh disahkan, menimbulkan cabaran yang serius untuk mana-mana aplikasi yang bergantung pada kandungan yang dijana AI. Memahami halusinasi AI adalah penting dalam era di mana sistem ini semakin disepadukan ke dalam bidang kritikal seperti penjagaan kesihatan, undang-undang, kewangan dan kewartawanan, di mana ketepatan adalah yang terpenting.

Bagaimana Kita Mengenali Halusinasi?

Halusinasi AI nyata dalam beberapa cara:

1. Fakta Rekaan: AI mungkin menjana peristiwa sejarah yang boleh dipercayai, preseden undang-undang atau kajian perubatan yang langsung tidak wujud.
2. Data Numerik Salah: Ralat kuantitatif, seperti statistik atau tarikh yang salah.
3. Petikan Salah Atribut: Atribusi kenyataan kepada individu atau institusi yang salah.
4. Penaakulan yang Salah: Lompatan logik tidak disokong oleh bukti atau konteks.

Dengan membandingkan output dengan sumber data yang dipercayai—melalui perpustakaan semakan fakta atau pakar manusia—pengguna boleh mengesan kejadian halusinasi, tetapi proses ini memerlukan sumber yang intensif.

---

Mengapa Model AI Berhalusinasi?

Apakah yang Mendorong Halusinasi AI pada Tahap Teknikal?

Pada terasnya, kebanyakan LLM ialah enjin ramalan yang dilatih untuk meramalkan token seterusnya dalam urutan teks berdasarkan corak yang dipelajari daripada set data besar-besaran. Mekanisme kebarangkalian ini, digabungkan dengan faktor-faktor berikut, menimbulkan halusinasi:

• Had Data Latihan: Set data yang besar tidak dapat dielakkan mengandungi berat sebelah, maklumat lapuk dan bunyi bising. Apabila model AI membuat generalisasi daripada data yang tidak sempurna ini, ia boleh menjana output yang cacat.
• Kekangan Fungsi Objektif: Model dioptimumkan untuk kemungkinan atau kebingungan, bukan ketepatan fakta. Urutan berkemungkinan tinggi mungkin masih palsu.
• Strategi Persampelan: Kaedah penyahkodan seperti penskalaan suhu atau pensampelan nukleus memperkenalkan rawak untuk meningkatkan kreativiti tetapi juga boleh menguatkan ralat.
• Seni Bina Model: Seni bina berasaskan pengubah tidak mempunyai mekanisme asas yang wujud; mereka bergantung sepenuhnya pada corak dalam data latihan tanpa akses terus kepada pengesahan luaran.

Asas ini menjadikan halusinasi AI sebagai hasil sampingan intrinsik sistem AI generatif.

Adakah Halusinasi Lebih Kerap dalam Model Lanjutan?

Secara berlawanan, model yang paling canggih boleh mempamerkan kadar halusinasi yang lebih tinggi. Model penaakulan terkini OpenAI, o3 dan o4-mini, menunjukkan kadar halusinasi masing-masing sebanyak 33% dan 48%—jauh lebih tinggi daripada versi terdahulu seperti GPT-4. Peningkatan ini disebabkan oleh kelancaran dan keupayaan model ini yang dipertingkatkan untuk menghasilkan naratif yang meyakinkan, yang secara tidak sengaja menyembunyikan ketidaktepatan dengan lebih berkesan.

Bagaimanakah Kejuruteraan Pantas Dapat Mengurangkan Halusinasi AI?

Kejelasan dan Konteks dalam Gesaan

Satu strategi asas melibatkan pembuatan gesaan yang memberikan arahan eksplisit dan maklumat kontekstual yang mencukupi. Gesaan yang jelas dan berstruktur mengurangkan kekaburan, membimbing model ke arah tindak balas yang diingini dan tidak menggalakkan kandungan spekulatif atau rekaan. Panduan pasukan Microsoft AI Builder menekankan bahawa gesaan hendaklah termasuk (1) perihalan tugas yang tepat, (2) konteks atau data yang berkaitan dan (3) kekangan output yang jelas (cth, “Jika tidak pasti, jawab 'Saya tidak tahu.'”) . Ujian empirikal menunjukkan bahawa gesaan kontekstual yang baik boleh menurunkan kadar halusinasi sebanyak lebih 15% dalam tetapan perusahaan .

“Mengikut…” Teknik Pembumian

Kaedah gesaan terkini yang dipanggil teknik "Menurut..." mengarahkan model untuk mengaitkan responsnya kepada sumber maklumat yang dipercayai, seperti Wikipedia atau pangkalan data khusus domain. Berpunca daripada amalan atribusi sumber kewartawanan, kaedah ini meningkatkan kebarangkalian model itu mengambil daripada kandungan fakta dalam set latihannya dan bukannya memalsukan butiran. Eksperimen mendedahkan bahawa menambah frasa seperti "Menurut Wikipedia" boleh mengurangkan halusinasi sehingga 20%.

Pembingkaian Arahan dan Gesaan Positif

Penyelidikan menunjukkan bahawa arahan berbingkai positif—memberitahu model perkara yang perlu dilakukan dan bukannya perkara yang harus dielakkan—memberi hasil yang lebih dipercayai. Gesaan negatif (cth, “JANGAN berhalusinasi”) sering mengelirukan dinamik ramalan token model, manakala arahan positif yang jelas (cth, “Hanya sediakan fakta yang boleh disahkan”) membawa kepada output yang lebih bersih. Menggabungkan pembingkaian positif dengan pernyataan bersyarat ("Jika model tidak dapat mengesahkan, balas dengan 'Saya tidak pasti.'") meningkatkan lagi ketepatan, kerana model kurang berkemungkinan meneka apabila jaring keselamatan dipasang.

Bermula

CometAPI menyediakan antara muka REST bersatu yang mengagregatkan ratusan model AI (Model Gemini, Model klaude dan model openAI)—di bawah titik akhir yang konsisten, dengan pengurusan kunci API terbina dalam, kuota penggunaan dan papan pemuka pengebilan. Daripada menyulap berbilang URL vendor dan bukti kelayakan.

Sementara menunggu, Pembangun boleh mengakses API Pratonton Gemini 2.5 Pro , Claude Opus 4 API and API GPT-4.5 melalui CometAPI, model terkini yang disenaraikan adalah pada tarikh penerbitan artikel. Untuk memulakan, terokai keupayaan model dalam Taman Permainan dan berunding dengan Panduan API untuk arahan terperinci. Sebelum mengakses, sila pastikan anda telah log masuk ke CometAPI dan memperoleh kunci API. CometAPI menawarkan harga yang jauh lebih rendah daripada harga rasmi untuk membantu anda menyepadukan.

Kesimpulan

Halusinasi kecerdasan buatan mewakili sempadan kritikal dalam keselamatan dan kebolehpercayaan AI. Walaupun model canggih terus menolak sempadan apa yang boleh dihasilkan oleh mesin, kecenderungan mereka untuk "bermimpi" yang meyakinkan tetapi maklumat palsu menggariskan keperluan untuk strategi pengurangan yang teguh, pengawasan manusia yang ketat dan penyelidikan yang berterusan. Dengan menggabungkan inovasi teknikal—seperti pengesanan RAG dan entropi semantik—dengan pengurusan risiko dan panduan kawal selia yang wajar, pihak berkepentingan boleh memanfaatkan kuasa kreatif AI sambil melindungi daripada ralatnya yang paling berbahaya.