Waspadai Automation Bias: Saat Hakim Terlalu Percaya pada Jawaban AI

Waspadai Automation Bias: Saat Hakim Terlalu Percaya pada Jawaban AI

Pulang Pisau | pa-pulangpisau.go.id

Seberapa yakin kita pada jawaban AI hanya karena tampilannya rapi dan bahasanya meyakinkan? Pertanyaan itu menjadi sorotan dalam materi yang diterima Hakim Pengadilan Agama Pulang Pisau, Ina Aulia Rahayu, S.H., pada Pelatihan Kecerdasan Artifisial: Kejahatan, Batas Etika dan Pemanfaatan di Pengadilan Gelombang 3, Jumat (13/11/2026). Materi tersebut mengupas bahaya automation bias, yaitu kecenderungan manusia terlalu percaya pada hasil atau rekomendasi sistem otomatis, termasuk AI, tanpa verifikasi yang memadai.

Dalam materi itu, automation bias disebut dapat muncul dalam tiga bentuk. Pertama, kutipan yang tampak meyakinkan ternyata bersumber dari rujukan yang keliru, bahkan tidak ada. Kedua, rekomendasi yang terlihat objektif ternyata mengandung bias data, sebab AI mencerminkan data yang melatihnya. Ketiga, keyakinan pengguna semakin kuat karena jawaban disajikan dengan bahasa yang meyakinkan dan tampilan yang profesional. Para hakim pun diajak bercermin: apakah kita masih menguji jawaban AI, atau justru mencari pembenaran untuk mempercayainya?

Pertanyaan itu terasa nyata di daerah. Di Kalimantan Tengah, pengadilan kerap berhadapan dengan pihak atau saksi yang lebih nyaman berbicara dalam bahasa daerah, seperti Dayak Ngaju atau Banjar, sementara juru bahasa resmi tidak selalu tersedia. Aplikasi penerjemah berbasis AI pun menjadi pilihan yang menggoda karena cepat, murah, dan ada di genggaman. Namun terjemahan yang tampak lancar belum tentu akurat. Data bahasa daerah dan dialek lokal yang dikuasai AI terbatas, istilah kekerabatan, ungkapan adat, dan nuansa emosi sering tidak tertangkap dengan tepat, dan satu kata yang keliru diterjemahkan, misalnya soal pengakuan, kesepakatan, atau waktu kejadian, bisa memengaruhi pembuktian dan rasa keadilan para pihak.

Karena itu, hakim sebaiknya memosisikan AI sebagai alat bantu, bukan pengambil keputusan dan bukan penerjemah resmi. Pertimbangan, penilaian alat bukti, dan putusan tetap menjadi tanggung jawab penuh hakim. Sikap skeptis perlu menjadi kebiasaan: setiap keluaran AI, baik kutipan, ringkasan, maupun terjemahan, harus diperlakukan sebagai bahan uji, bukan kesimpulan jadi. Semakin meyakinkan sebuah jawaban, semakin besar pula kebutuhan untuk memeriksanya. Juru bahasa resmi tetap harus diutamakan bila tersedia, dan kerahasiaan data para pihak, terutama dalam perkara sensitif seperti perceraian, hak asuh, dan nafkah anak, harus dijaga dengan tidak memasukkan identitas lengkap atau isi berkas ke layanan AI publik.

Bila AI terpaksa dipakai untuk membantu penerjemahan di ruang sidang, hakim sebaiknya lebih dahulu mengupayakan penerjemah manusia, misalnya pegawai atau tokoh masyarakat yang menguasai bahasa tersebut dan bersedia dimintai bantuan secara resmi. Penggunaan AI disampaikan kepada para pihak dan dicatat dalam berita acara sidang. Pertanyaan disusun dengan kalimat pendek dan sederhana, satu pokok untuk satu pertanyaan, lalu hasil terjemahannya diuji dengan back-translation, yakni menerjemahkan kembali ke bahasa semula untuk memastikan maknanya tidak bergeser. Hakim juga perlu mengonfirmasi pemahamannya kepada pihak yang berbicara, dan untuk keterangan krusial seperti pengakuan, perjanjian, atau kronologi kejadian, meminta verifikasi dari penutur bahasa tersebut.

Pada akhirnya, AI memang dapat membantu pengadilan menjangkau pencari keadilan yang terkendala bahasa, tetapi kecepatan dan kefasihannya tidak boleh menggantikan ketelitian. Hakim tetap menjadi penjaga terakhir kebenaran dan keadilan, sehingga yang perlu dijaga bukan sekadar kemampuan memakai AI, melainkan kebiasaan untuk selalu mengujinya.

“C.A.T. (Cepat, Aktual, dan Terpercaya), IAR/Timred”