JAKARTA (LENSAKINI) – Peringatan mengejutkan datang langsung dari CEO OpenAI, Sam Altman. Dalam episode perdana podcast resmi OpenAI bertajuk “Sam Altman on AGI, GPT-5, and what’s next”, Altman mengajak publik untuk tidak menaruh kepercayaan buta terhadap ChatGPT produk kecerdasan buatan (AI) yang justru dikembangkan oleh perusahaannya sendiri.
Menurut Altman, banyak orang terlalu mempercayai jawaban ChatGPT, padahal sistem AI ini masih memiliki banyak keterbatasan. Ia mengungkapkan bahwa ChatGPT kerap “berhalusinasi”.
Dalam konteks AI, istilah ini merujuk pada kecenderungan chatbot menghasilkan informasi yang salah, meskipun disampaikan dengan gaya bahasa yang sangat meyakinkan.
“Teknologi ini belum bisa diandalkan 100 persen. Kami harus jujur dan terbuka soal itu,” kata Altman.
Ia menyarankan agar pengguna selalu memverifikasi setiap informasi yang diterima dari ChatGPT, apalagi bila berkaitan dengan hal penting seperti pendidikan, pekerjaan, riset, kesehatan, dan keuangan.
Altman juga menjelaskan bahwa ChatGPT sebenarnya tidak “mengerti” apa yang dibicarakan.
Sistem ini hanya memprediksi kata berikutnya dalam sebuah kalimat berdasarkan pola bahasa dari data pelatihan. Artinya, meski jawaban terdengar logis dan rapi, tidak berarti isinya selalu benar.
