Jakarta (ANTARA) – OpenAI disebut telah menemukan penyebab masalah halusinasi pada chatbot kecerdasan buatan (AI) sekaligus menawarkan solusi untuk membuat teknologi tersebut lebih dapat dipercaya.

Meskipun kini sering digunakan dalam berbagai pekerjaan, chatbot AI masih menyimpan kelemahan serius yakni kecenderungan memberikan jawaban salah yang terlihat meyakinkan atau disebut sebagai halusinasi.

Dilansir dari Gizmochina pada Jumat, dalam makalah setebal 36 halaman yang ditulis bersama peneliti Georgia Tech, Santosh Vempala, OpenAI menilai halusinasi bukan semata akibat desain model yang buruk, melainkan cara sistem AI diuji dan diperingkat.

Tolok ukur saat ini, menurut mereka, justru mendorong chatbot menjawab semua pertanyaan meski salah dan menghukum model yang memilih menahan diri saat tidak yakin. Kondisi itu diibaratkan seperti ujian pilihan ganda yang lebih menghargai tebakan daripada meninggalkan jawaban kosong.

Baca juga: OpenAI sepakat dengan Microsoft untuk transisi jadi perusahaan publik

Sebagai alternatif, OpenAI mengusulkan sistem penilaian baru yang membebankan hukuman besar pada jawaban percaya diri tapi salah, dan memberi penghargaan pada model yang berhati-hati atau berani mengakui ketidaktahuan.

Dalam sebuah contoh uji coba, model yang berhati-hati hanya menjawab setengah pertanyaan namun 74 persen jawabannya benar, sementara model lain menjawab hampir semuanya namun memiliki tingkat halusinasi dan kesalahan lebih tinggi.

Jika pendekatan ini diterapkan, asisten AI di masa depan akan lebih sering mengatakan “saya tidak tahu” dibanding mengarang sumber atau data.

Meskipun terdengar kurang mengesankan, langkah ini diyakini dapat menyelamatkan pengguna dari keharusan terus-menerus memverifikasi jawaban. OpenAI menyebut riset ini sebagai langkah menuju AI yang lebih mengutamakan akurasi dan kepercayaan dibanding kepercayaan diri yang menyesatkan.

Baca juga: OpenAI cari kemitraan dengan Samsung dan SK untuk infrastruktur AI

Baca juga: OpenAI kukuhkan kesepakatan “cloud” 300 miliar dolar AS dengan Oracle

Baca juga: Microsoft diwartakan akan gunakan model AI dari Anthropic

Penerjemah: Farhan Arda Nugraha
Editor: Mahmudah
Copyright © ANTARA 2025

Dilarang keras mengambil konten, melakukan crawling atau pengindeksan otomatis untuk AI di situs web ini tanpa izin tertulis dari Kantor Berita ANTARA.