POJOKSATU.id, PERUSAHAAN dalam bidang riset dan penerapan AI yaitu OpenAI, baru saja membeberkan alasan mengapa ChatGPT dan model bahasa besar lainnya kerap memberikan jawaban salah atau yang biasa disebut halusinasi.

Ternyata, masalah ini bukan sekadar akibat data pelatihan yang kurang sempurna, melainkan juga konsekuensi matematis dari cara kerja kecerdasan buatan itu sendiri.

Halusinasi: Konsekuensi Matematis, Bukan Sekadar Bug

Penelitian menunjukkan bahwa tingkat kesalahan ChatGPT saat membuat kalimat dua kali lebih tinggi dibandingkan saat menjawab pertanyaan ya atau tidak.

Baca Juga: Mengapa Sewa Backdrop Lebih Praktis daripada Membuat Sendiri

Hal ini karena pertanyaan sederhana memiliki ruang kesalahan yang lebih kecil, sementara jawaban generatif membuka lebih banyak kemungkinan keliru.

Selain itu, semakin jarang sebuah fakta muncul dalam data pelatihan, semakin besar kemungkinan chatbot salah menjawab.

Misalnya, jika 20 persen tanggal lahir tokoh hanya muncul sekali di data pelatihan, maka setidaknya 20 persen pertanyaan serupa akan dijawab salah.

Kasus nyata ditunjukkan ketika peneliti menanyakan ulang tahun salah satu peneliti Adam Kalai.

Baca Juga: Xiaomi 15T dan 15T Pro Meluncur 24 September, Usung Layar Lebih Besar dan Kamera Leica

Model AI yang diuji memberikan tiga jawaban berbeda, dan semuanya salah. Hal ini membuktikan bahwa chatbot lebih sering menebak daripada berkata tidak tahu.

Mengapa AI Lebih Sering Menebak?

Jawaban palsu ChatGPT juga dipengaruhi oleh cara evaluasi yang digunakan saat pelatihan.

Ketika model memilih untuk tidak menjawab, ia mendapat skor nol. Sebaliknya, menebak memberikan peluang mendapat poin jika kebetulan benar.

Akibatnya, model dilatih untuk lebih berani menebak ketimbang mengakui ketidakpastian.

Baca Juga: Galaxy Tab S10 Lite vs Huawei MatePad 11,5 Inch, Siapa Jagoan Tablet Kreatif?

Solusi dari OpenAI

Setelah mengetahui penyebab utamanya, OpenAI memberikan saran mitigasi.

Salah satunya adalah meminta AI mempertimbangkan keyakinannya sendiri sebelum menjawab.

Pengguna bisa memberi instruksi khusus, misalnya:

> “Jawab hanya jika Anda lebih dari 75 persen yakin. Kesalahan diberi penalti 3 poin sementara jawaban benar mendapat 1 poin.”

Dengan cara ini, AI terdorong untuk mengekspresikan ketidakpastian alih-alih menebak secara sembarangan.

Tantangan dalam Penerapan

Namun, ada dilema baru. Jika AI lebih sering menjawab dengan “tidak tahu”, pengguna bisa kecewa karena terbiasa mendapat jawaban langsung.

Baca Juga: Kapan Stres Harus Ditangani Profesional? Ini Penjelasan Psikolog

Penelitian menyebutkan sekitar 30 persen pengguna mungkin meninggalkan chatbot bila sering menemui respons tidak pasti.

Selain itu, menghitung estimasi keyakinan memerlukan komputasi tambahan.

Model harus mengevaluasi banyak kemungkinan jawaban, lalu membandingkan tingkat kepastian sebelum memberi respons.

Hal ini bisa memengaruhi kecepatan maupun biaya operasional AI.

Baca Juga: Film Animasi Mahasiswa “Ikan Mas Tur Dedari” Viral, Buka Harapan Besar Industri Kreatif di Indonesia

Apa yang Bisa Dilakukan Pengguna?

Untuk saat ini, ada beberapa langkah praktis yang bisa diterapkan pengguna:

1. Minta AI menyebutkan tingkat keyakinan atau memberi catatan saat jawaban meragukan.
2. Selalu cek ulang fakta penting melalui sumber tepercaya.
3. Gunakan AI dengan fitur retrieval atau pencarian sumber eksternal bila tersedia.
4. Terapkan instruksi ambang batas keyakinan (misalnya 75%) agar AI lebih berhati-hati.
5. Berikan umpan balik bila menemukan jawaban salah, agar sistem terus diperbaiki.

Semoga informasi ini bermanfaat, ya.

Bantu kirim tanggapan di kolom komentar dan share info ini ya.

Akses artikel bisa dibaca melalui apps kami:

Demikian langkah praktis memperbaiki ChatGPT yang halu. ***