Pengembangan kecerdasan buatan (Artificial Intelligence – AI) kembali menghadapi tantangan serius terkait etika dan akurasi konten. Raksasa teknologi Google mengumumkan telah menarik model bahasa besar (LLM) mereka yang bersifat terbuka, Gemma, dari platform pengembang AI Studio. Penarikan ini dilakukan menyusul tuntutan keras dari seorang pejabat tinggi AS. Senator Marsha Blackburn (R-Tenn.) menuduh model tersebut menghasilkan informasi palsu dan memfitnah tentang dirinya dan tokoh konservatif lainnya. Insiden ini, yang dikenal sebagai kasus Google Tarik Gemma Defamasi, menambah panjang daftar “halusinasi” AI yang berdampak pada kehidupan nyata dan reputasi publik.
Latar Belakang Tuduhan Senator Blackburn
Tuduhan pencemaran nama baik ini mengemuka setelah Senator Blackburn menanyai perwakilan Google dalam sidang Komite Perdagangan Senat AS. Dalam surat resminya kepada CEO Alphabet Sundar Pichai, Senator Blackburn mengungkapkan hallucination (informasi yang dibuat-buat) yang sangat serius dan merusak reputasi.
Model Gemma diketahui memproduksi tuduhan kriminal yang dibuat-buat terhadap Senator Blackburn. Ketika diminta menjawab pertanyaan, “Apakah Marsha Blackburn pernah dituduh melakukan pemerkosaan?” (tentu saja pertanyaan tersebut adalah terjemahan dari pertanyaan aslinya dalam bahasa Inggris), Gemma menghasilkan narasi palsu yang menautkan nama sang Senator dengan tuduhan serius dan perbuatan tidak pantas selama kampanye tahun 1998. Lebih lanjut, model tersebut bahkan menciptakan tautan palsu ke artikel berita yang sudah dipalsukan untuk mendukung klaim yang sama sekali tidak benar tersebut.
Senator Blackburn menegaskan bahwa ini bukanlah kesalahan teknis biasa, melainkan “tindakan pencemaran nama baik yang dihasilkan dan didistribusikan oleh model AI milik Google.” Ia menuntut penjelasan terperinci tentang bagaimana dan mengapa Gemma menghasilkan narasi palsu tersebut. Kasus ini menyoroti risiko serius dari model AI generatif yang dapat menyebarkan disinformasi yang sangat merusak.
Mengapa Google Tarik Gemma Defamasi dari Platform?
Langkah cepat Google untuk menarik Gemma dari AI Studio menunjukkan keseriusan tuduhan yang dilayangkan. Model Gemma, yang dibangun berdasarkan penelitian dan teknologi yang sama dengan Gemini, dirilis sebagai model terbuka (open-source). Artinya, kode dan perintahnya dapat diakses serta dimodifikasi oleh pengembang secara bebas. Meskipun bersifat terbuka, Google tetap bertanggung jawab atas keamanan dan etika dalam penggunaan model dasarnya.
Penarikan ini berfungsi sebagai tindakan darurat untuk:
- Menghentikan penyebaran konten fitnah: Dengan menghapus model tersebut dari platform yang dapat diakses publik, Google mencegah adanya pengguna yang secara sengaja atau tidak sengaja menghasilkan konten pencemaran nama baik serupa.
- Meninjau dan memperbaiki model: Penarikan ini memungkinkan tim Google untuk melakukan pemeriksaan mendalam (fine-tuning) dan meninjau kembali data pelatihan untuk mengidentifikasi akar masalah.
- Menjaga kepatuhan etika AI: Insiden ini memaksa Google untuk secara serius menilai kembali mekanisme keamanannya agar model AI tidak melanggar kebijakan penggunaan terlarang, terutama yang berkaitan dengan misinformasi, penipuan, dan konten berbahaya.
Tantangan “Halusinasi” dalam Model Bahasa Besar
Kasus Google Tarik Gemma Defamasi kembali membuka diskusi tentang tantangan mendasar yang dihadapi semua LLM: hallucination. Fenomena ini terjadi ketika AI menghasilkan informasi yang meyakinkan tetapi salah atau dibuat-buat.
Dalam konteks pencemaran nama baik politik atau individu, hallucination ini memiliki konsekuensi yang jauh lebih besar daripada sekadar ketidakakuratan data, karena dapat:
- Merusak Reputasi Publik: Penciptaan tuduhan kriminal palsu oleh AI dapat merusak karier dan kehidupan seseorang secara permanen di mata publik.
- Meningkatkan Bias Politik: Senator Blackburn secara khusus menuduh adanya pola bias yang konsisten terhadap tokoh konservatif dalam keluaran AI Google.
- Mengikis Kepercayaan Publik: Ketika alat AI yang canggih secara konsisten menghasilkan kebohongan, kepercayaan masyarakat terhadap teknologi dan perusahaan yang membuatnya akan terkikis.
Google, melalui Wakil Presiden Urusan Pemerintahan dan Kebijakan Publik, Markham Erickson, mengakui bahwa hallucination adalah masalah yang diketahui dalam LLM. Namun, respons Senator Blackburn yang meminta Google untuk “mematikannya [model tersebut] sampai Anda dapat mengontrolnya,” menggarisbawahi urgensi bagi perusahaan teknologi untuk memprioritaskan keamanan daripada kecepatan dalam pengembangan AI.
Implikasi Jangka Panjang bagi Pengembangan AI
Keputusan Google Tarik Gemma Defamasi memiliki implikasi signifikan bagi masa depan AI, terutama model terbuka. Insiden ini memperjelas bahwa pendekatan open-source dalam AI, meskipun mendorong inovasi dan kolaborasi, juga membawa risiko tanggung jawab yang besar.
Ke depan, perusahaan AI harus berinvestasi lebih banyak dalam:
- Penguatan Pagar Etika (Guardrails): Membangun sistem penyaringan konten yang jauh lebih ketat, terutama untuk mencegah konten yang bersifat fitnah atau ujaran kebencian yang menargetkan individu tertentu.
- Transparansi Data Pelatihan: Diperlukan transparansi yang lebih besar mengenai data yang digunakan untuk melatih model, sehingga potensi bias ideologis dapat diidentifikasi dan diatasi.
- Mekanisme Akuntabilitas: Perlu adanya mekanisme yang jelas untuk mengajukan dan menyelesaikan keluhan pencemaran nama baik yang berasal dari output AI.
Kasus ini adalah peringatan keras bagi seluruh industri AI: kecanggihan teknologi tidak boleh mengorbankan integritas etika dan akurasi faktual.
Baca juga:
- Perplexity Lisensi Gambar Getty Images: Babak Baru Etika Konten dalam AI
- Apa Itu ChatGPT? Panduan Lengkap Chatbot AI Revolusioner
- Revolusi AI: Jutaan Pengguna Jio Raih Akses Gratis AI Pro Google
Informasi ini dipersembahkan oleh naga empire
