KOTA SERANG | PROGRESIFMEDIA.ID – CEO OpenAI, Sam Altman, mengingatkan para pengguna untuk tidak sepenuhnya mempercayai jawaban yang diberikan oleh chatbot kecerdasan buatan (artificial intelligence/AI) buatan perusahaannya, ChatGPT.
Meskipun ChatGPT dikenal cerdas dan sering membantu, teknologi ini masih memiliki keterbatasan. Altman menegaskan bahwa AI seperti ChatGPT bisa saja memberikan jawaban yang keliru namun terdengar meyakinkan.
Pernyataan tersebut disampaikan Altman dalam episode perdana siniar resmi OpenAI bertajuk “Sam Altman on AGI, GPT-5, and What’s Next — The OpenAI Podcast Ep. 1”.
Dalam podcast berdurasi sekitar 40 menit itu, Altman berbicara langsung mengenai keterbatasan ChatGPT dan bagaimana pengguna seharusnya menyikapi teknologi ini.
“Orang-orang punya tingkat kepercayaan yang sangat tinggi terhadap ChatGPT, yang sebenarnya cukup mengejutkan, karena AI itu masih sering ‘berhalusinasi’,” ujar Altman.
Dalam konteks AI, istilah “hallucination” tidak berarti berkhayal seperti manusia, melainkan merujuk pada kecenderungan AI seperti ChatGPT dalam menghasilkan informasi yang salah, meskipun disampaikan dengan bahasa yang terdengar sangat meyakinkan.
Altman mengimbau agar para pengguna selalu memverifikasi informasi yang diberikan ChatGPT, terutama saat digunakan untuk hal-hal penting seperti pendidikan, riset, pekerjaan, kesehatan, hingga keuangan.
“Teknologi ini belum benar-benar bisa diandalkan 100 persen. Kami harus jujur dan terbuka soal itu,” tambahnya.
Altman menjelaskan bahwa ChatGPT bekerja dengan cara memprediksi kata berikutnya berdasarkan pola bahasa dari data pelatihan, bukan karena ia benar-benar memahami topik yang dibahas.
Dengan kata lain, ChatGPT hanya meniru pola bahasa yang sering muncul dari berbagai sumber seperti buku, internet, dan dokumen lainnya. Oleh karena itu, meskipun hasilnya terdengar masuk akal, tetap ada risiko jawaban yang diberikan tidak akurat atau bahkan sepenuhnya salah.
“ChatGPT itu alat bantu, bukan pengganti akal sehat kita,” ujar Altman menegaskan seperti yang dihimpun oleh Progresifmedia.id dari NDTV
Altman pun menyarankan agar ChatGPT digunakan layaknya alat bantu seperti kamus atau kalkulator, tetapi tidak menjadi satu-satunya sumber kebenaran. Pengguna diingatkan untuk tetap bersikap kritis dan melakukan pengecekan fakta atas informasi yang diperoleh dari chatbot tersebut.
Peringatan dari sosok kunci di balik pengembangan ChatGPT ini menjadi catatan penting bagi para pengguna AI agar bijak dalam memanfaatkannya.
