Mengatasi Halusinasi AI yang makin berbahaya karena model-model ini makin dipercaya untuk menyajikan informasi dan mengambil keputusan penting.
Bayangkan teman yang sok tahu dan nggak pernah mau ngaku kalau dia nggak ngerti, malah kasih saran ngawur dari info internet. Halusinasi pada AI itu seperti teman seperti itu—bedanya, AI ini bisa jadi yang bikin rencana pengobatan kanker kamu.
Di sinilah Themis AI hadir. Startup asal MIT ini berhasil mengajarkan sesuatu yang kelihatannya sederhana tapi sebenarnya rumit: bikin AI bisa bilang, “Saya nggak yakin.”
Biasanya, AI terlalu percaya diri. Platform Capsa milik Themis berfungsi seperti pemeriksa realitas, membantu AI menyadari kapan dia mulai menebak-nebak tanpa dasar yang kuat.
Didirikan tahun 2021 oleh Profesor MIT Daniela Rus bersama dua koleganya, Alexander Amini dan Elaheh Ahmadi. Themis AI membuat sistem yang bisa dipasang ke hampir semua model AI untuk menandai momen-momen ragu sebelum jadi kesalahan fatal.
Capsa pada dasarnya melatih AI mengenali pola saat ia memproses informasi yang bisa jadi menunjukkan kebingungan, bias, atau data yang nggak lengkap—yang bisa berujung pada halusinasi.
Sejak diluncurkan, Themis mengklaim teknologinya sudah bantu perusahaan telekomunikasi menghindari kesalahan mahal dalam perencanaan jaringan. Bantu perusahaan minyak dan gas memahami data seismik yang rumit, dan bahkan bikin chatbot yang nggak asal ngarang.
Kebanyakan orang nggak sadar kalau AI sering cuma menebak. Dan kalau AI dipakai buat tugas-tugas penting, tebakan itu bisa berakibat serius. Perangkat lunak dari Themis memberi lapisan kesadaran diri yang selama ini belum ada.
Awal Mula Perjalanan Themis AI Melawan Halusinasi AI
Perjalanan Themis dimulai dari lab Prof. Rus di MIT, saat timnya meneliti pertanyaan mendasar. Gimana caranya bikin mesin sadar kalau dia punya batas kemampuan?
Tahun 2018, Toyota mendanai riset mereka tentang AI yang bisa diandalkan untuk mobil otonom. Bidang di mana kesalahan bisa berujung fatal, apalagi saat mobil harus bisa membedakan pejalan kaki dari bahaya lain di jalan.
Terobosan besar datang saat mereka mengembangkan algoritma yang bisa mendeteksi bias ras dan gender pada sistem pengenalan wajah. Nggak cuma menemukan masalahnya, sistem mereka bisa memperbaikinya dengan menyeimbangkan ulang data latihannya—secara nggak langsung ngajarin AI untuk mengoreksi biasnya sendiri.
Tahun 2021, pendekatan ini mereka buktikan bisa mengubah dunia penemuan obat. AI bisa bantu menilai efektivitas obat baru, dan—yang penting—bisa memberi tahu apakah prediksinya berdasarkan data kuat, hanya tebakan terpelajar, atau bahkan halusinasi. Industri farmasi menyambut baik karena itu artinya bisa hemat banyak biaya dan waktu.
Solusi untuk Perangkat Terbatas dan Risiko Besar
Untuk mengatasi halusinasi AI, Teknologi Themis juga punya keunggulan lain: berguna banget buat perangkat dengan daya komputasi terbatas. Perangkat seperti ini biasanya pakai model kecil yang akurasinya kalah jauh dari model besar di server. Tapi dengan Themis, perangkat ini bisa menangani lebih banyak tugas secara lokal dan hanya minta bantuan server besar kalau ketemu masalah yang berat.
AI memang punya potensi besar untuk memperbaiki hidup kita, tapi juga datang dengan risiko besar. Ketika AI makin banyak dipakai di infrastruktur penting dan pengambilan keputusan, kemampuan untuk mengakui ketidakyakinan dan menghindari halusinasi bisa jadi nilai paling manusiawi—dan paling berharga. Dan Themis AI memastikan kemampuan ini benar-benar diajarkan.
Baca juga:
