AMEERALIFE.COM, JAKARTA -- CEO OpenAl, Sam Altman, mengaku terkejut dengan tingginya tingkat kepercayaan publik terhadap ChatGPT. Dalam episode perdana podcast OpenAI, Altman membahas bagaimana orang terlalu mengandalkan teknologi AI, padahal teknologi ini masih kerap menghasilkan informasi yang keliru
"Orang-orang sangat percaya pada ChatGPT, padahal Al bisa berhalusinasi. Ini seharusnya teknologi yang justru tidak boleh terlalu dipercaya," ujar Altman seperti dilansir laman Barchart, Rabu (25/6/2025).
Pernyataan tersebut mencuat di tengah popularitas yang terus meningkat terhadap teknologi Al generatif. Meski kemampuannya dinilai membantu dalam berbagai bidang, mulai dari riset hingga pengasuhan anak, Al seperti ChatGPT juga dikenal kerap menyampaikan informasi yang terdengar meyakinkan namun faktanya tidak benar.
Altman sendiri mengakui pernah menggunakan ChatGPT untuk mencari informasi seputar pengasuhan anak, sambil menyadari risiko dari jawaban yang bisa saja menyesatkan. Kondisi ini menciptakan paradoks: di satu sisi, pengguna menyadari Al tidak selalu akurat, namun di sisi lain, mereka tetap mengandalkannya karena kemudahan, kecepatan, dan gaya penyampaian yang menyerupai manusia. Fitur-fitur seperti personalisasi, ingatan terhadap konteks, dan kemampuan menjawab lintas topik semakin memperkuat kepercayaan pengguna.
Altman mengingatkan bahwa kepercayaan semacam ini berpotensi berbahaya, terutama jika digunakan dalam bidang-bidang sensitif seperti kesehatan, hukum, dan pendidikan. la menegaskan pentingnya kesadaran kritis dari pengguna dalam menyaring informasi yang dihasilkan oleh Al.
"Anda tidak boleh percaya seutuhnya dengan jawaban atau respons dari ChatGPT. Kesadaran pengguna dan pemikiran kritis sangatlah penting," kata Altman.
Dalam kesempatan yang sama, Altman juga membahas isu privasi, penyimpanan data, dan monetisasi. la mengklaim bahwa OpenAl akan terus menjaga transparansi dan perlindungan privasi pengguna, terutama di tengah rencana pengembangan fitur baru seperti memori permanen dan kemungkinan integrasi iklan. Di sisi lain, gugatan yang masih bergulir dengan The New York Times menambah sorotan terhadap tantangan hukum dan etika yang dihadapi perusahaan Al di tengah laju inovasi teknologi.
