RAKYATEMPATLAWANG.DISWAY.ID - Kemajuan dalam kecerdasan buatan (AI) telah menghasilkan chatbot yang semakin canggih.
Namun, sebuah penelitian terbaru menunjukkan adanya tren yang mengkhawatirkan: AI yang lebih maju justru lebih sering memberikan jawaban yang salah daripada mengakui bahwa mereka tidak tahu jawabannya.
Penelitian pada Tiga Keluarga Model Bahasa
Penelitian yang dipimpin oleh José Hernández-Orallo, seorang profesor di Universitat Politecnica de Valencia, ini berfokus pada tiga keluarga model bahasa otomatis: GPT dari OpenAI, LLaMA dari Meta, dan BLOOM yang bersifat open-source.
BACA JUGA:Kapolri Lantik Kapolda Baru dan Resmikan Dua Posisi Penting di Mabes Polri
BACA JUGA:Internet Seberat Stroberi? Penelitian Mengungkap Berat Sesungguhnya Internet yang Bikin Syok
Para peneliti menguji versi-versi awal dan lebih maju dari setiap model, tetapi tidak memasukkan versi terbaru.
Model-model ini diuji dengan ribuan pertanyaan yang mencakup berbagai bidang, seperti "aritmatika, anagram, geografi, dan sains".
Tim peneliti juga menilai kemampuan model AI dalam memproses informasi, seperti mengurutkan daftar secara alfabetis.
Peningkatan Jawaban yang Tidak Akurat
BACA JUGA:Kartu Superhero Marvel Bocor, Akan Segera Muncul di MTG?
BACA JUGA:Meta Luncurkan Fitur Tag Lokasi di Threads: Bagaimana Cara Kerjanya?
Temuan penelitian menunjukkan bahwa semakin berkembangnya model AI, semakin tinggi pula proporsi jawaban yang salah yang diberikan oleh chatbot.
Hal ini mirip dengan seorang guru yang, setelah menguasai lebih banyak mata pelajaran, mulai merasa dirinya memiliki semua jawaban.
Lebih mengejutkan lagi, para sukarelawan yang menilai keakuratan jawaban AI seringkali keliru menganggap jawaban yang salah sebagai benar.