Ibadah Intelektual di Era AI

REPUBLIKA.CO.ID, YOGYAKARTA -- Senin, 1 Juni 2026, bertepatan dengan Hari Lahir Pancasila, Badan Riset dan Inovasi Nasional (BRIN) mengunggah poster ucapan melalui akun resmi media sosialnya. Namun alih-alih menjadi ucapan yang membanggakan, unggahan tersebut justru memicu gelombang kritik dari masyarakat.

Warganet menemukan sejumlah ketidaksesuaian pada gambar Garuda Pancasila yang digunakan. Terutama, pada jumlah bulu sayap, ekor, dan leher yang tidak sesuai ketentuan resmi dalam Undang-Undang Nomor 24 Tahun 2009.

BRIN kemudian menyampaikan permohonan maaf dan mengganti unggahan itu dengan versi yang telah diperbaiki. Kasus ini menjadi menarik bukan hanya karena kesalahan desain yang terjadi, juga munculnya dugaan gambar itu dibuat dengan bantuan AI generatif.

Karakteristik visual yang ditampilkan dalam gambar menyerupai kelemahan yang sering ditemukan pada hasil generasi AI, yakni tampak meyakinkan secara sekilas tetapi keliru pada detail-detail penting.

Terlepas dari benar atau tidaknya dugaan tersebut, peristiwa ini mengingatkan kita bahwa teknologi yang mampu menghasilkan konten dengan sangat cepat belum tentu mampu memahami makna yang terkandung di balik simbol yang dihasilkannya.

Dalam dunia kecerdasan artifisial, kondisi semacam ini dikenal sebagai AI hallucination. Ketika sistem menghasilkan keluaran yang tampak benar dan meyakinkan tetapi sesungguhnya mengandung kekeliruan faktual.

Dalam kasus gambar Garuda Pancasila, setiap helai bulu mengandung makna historis yang merepresentasikan tanggal kemerdekaan Indonesia, yaitu 17 Agustus 1945. Ketika detail itu keliru makna simbolik yang terkandung di dalam gambar jadi hilang.

Pekan lalu, di kolom ini kita membahas kasus dugaan pemalsuan riset dalam konferensi ISPPD 2026 di Kopenhagen. Salah satu dugaan yang berkembang, adanya pemanfaatan AI untuk menghasilkan abstrak dan poster ilmiah yang tampak profesional dengan data yang tidak pernah ada.

Kasus BRIN dan Kopenhagen menunjukkan sebuah persoalan yang sama, yakni menyerahkan hasil keluaran kepada AI tanpa melalui proses verifikasi memadai. Dua kasus berbeda namun keduanya bermuara pada konsekuensi yang sama, yaitu terkikisnya kepercayaan publik.

Di lingkungan akademik, halusinasi AI seringkali muncul dalam bentuk lebih berbahaya dan jauh lebih sulit dideteksi, yaitu referensi atau sitasi yang difabrikasi.

Sebuah studi yang diterbitkan dalam The Lancet pada Mei 2026 dan dipimpin peneliti Columbia University, melakukan audit terhadap sekitar 2,5 juta artikel biomedis yang terbit selama tiga tahun terakhir.

Hasilnya menunjukkan tren mengkhawatirkan. Pada 2023, sekitar satu dari setiap 2.828 artikel mengandung sedikitnya satu referensi yang difabrikasi. Pada 2025, angka tersebut meningkat menjadi satu dari 458 artikel.

Dalam tujuh pekan pertama 2026, rasionya telah mencapai satu dari 277 artikel. Dengan kata lain, hanya dalam tiga tahun, keberadaan referensi palsu dalam publikasi ilmiah meningkat lebih dari dua belas kali lipat.

Referensi yang dihasilkan AI tidak dimungkiri seringkali tampak sangat meyakinkan. Nama penulis terlihat masuk akal, judul artikel terdengar ilmiah, jurnalnya tampak bereputasi, bahkan nomor DOI yang ditampilkan sekilas terlihat valid.

Namun saat ditelusuri lebih jauh, referensi tersebut ternyata tidak pernah ada. Bagi mahasiswa yang menggunakannya dalam tesis atau disertasi tanpa verifikasi, konsekuensinya bisa sangat serius. Sidang dapat tertunda, karya ilmiah dapat ditolak, dan integritas akademik dapat dipertanyakan.

Bagi peneliti dan dosen, dampaknya bahkan lebih besar lagi karena menyangkut reputasi profesional yang dibangun selama bertahun-tahun. Bagi civitas akademika Universitas Amikom Yogyakarta, khususnya dosen dan mahasiswa yang aktif menulis artikel ilmiah, buku, tesis, disertasi, maupun laporan penelitian, fenomena ini merupakan peringatan yang tidak boleh diabaikan.

Menggunakan AI sebagai alat bantu penulisan adalah sesuatu yang wajar dan bahkan semakin diperlukan. Namun setiap informasi, sitasi, data, maupun gambar yang dihasilkan AI tetap harus diverifikasi secara mandiri. Periksa apakah referensi tersebut benar-benar ada. Pastikan penulis dan jurnalnya nyata. Verifikasi DOI dan tautan sumbernya.

Sebagaimana gambar Garuda Pancasila yang seharusnya diperiksa sebelum dipublikasikan, setiap keluaran AI dalam karya akademik juga harus melewati penilaian kritis manusia sebelum dipublikasikan kepada masyarakat.

AI alat yang luar biasa tetapi ia tidak memiliki tanggung jawab. Yang memiliki tanggung jawab adalah kita. Kesalahan pada gambar Garuda Pancasila dapat diperbaiki melalui permintaan maaf dan unggahan baru. Namun referensi palsu yang telanjur masuk ke dalam literatur ilmiah jauh lebih sulit dibersihkan karena dapat dikutip kembali oleh penelitian-penelitian berikutnya.

Di era ketika AI semakin cerdas menghasilkan informasi, kemampuan manusia untuk memeriksa, memverifikasi, dan mempertanggungjawabkan informasi justru menjadi semakin penting. AI dapat menghasilkan jawaban tetapi tidak dapat memikul tanggung jawab atas kebenarannya. Tanggung jawab itu tetap berada di tangan manusia.

Karena itu, setiap proses memeriksa fakta, menelusuri sumber, menguji data, dan memastikan kebenaran informasi sesungguhnya bukan hanya bagian dari metodologi ilmiah, melainkan juga bentuk ibadah intelektual.

Melalui verifikasi, kita menjaga agar ilmu tetap berpijak pada kebenaran, bukan sekadar pada apa yang tampak meyakinkan. Di era AI, mungkin inilah salah satu bentuk amanah keilmuan yang paling penting untuk terus dijaga.

Allah SWT berfirman: "Dan janganlah kamu mengikuti sesuatu yang kamu tidak mempunyai pengetahuan tentangnya. Sesungguhnya pendengaran, penglihatan, dan hati, semuanya itu akan diminta pertanggungjawabannya." (QS. Al-Isra': 36).

Ayat ini mengingatkan, tanggung jawab atas kebenaran informasi tidak pernah dapat dialihkan kepada siapapun, termasuk kepada mesin yang paling canggih sekalipun.

Di tengah derasnya arus informasi dan kemudahan yang ditawarkan AI, verifikasi bukan lagi sekadar keterampilan akademik atau prosedur administratif. Ia amanah moral yang melekat pada setiap pencari ilmu. Wallāhu a'lam.