Apakah AI Punya Ruh? Taklif dan Tanggung Jawab Manusia

Jawaban langsung

Jawaban singkatnya: suatu sistem kecerdasan buatan (AI) dapat memperlihatkan kemampuan yang menonjol dalam tugas-tugas yang lazim kita sebut cerdas. Sebagian kinerjanya juga dapat disebut sebagai “pemahaman”, apabila istilah itu dibatasi pada pengertian fungsional yang jelas. Namun, keberhasilan tersebut tidak dengan sendirinya membuktikan adanya pengalaman subjektif, ruh, atau kedudukan sebagai subjek taklif—pihak yang dibebani kewajiban agama. Dalam penggunaan yang memengaruhi manusia, tanggung jawab atas perancangan, pengujian, pengambilan keputusan, dan penerapan tetap berada pada orang serta lembaga yang dapat dimintai pertanggungjawaban; tanggung jawab itu tidak lenyap hanya karena antarmuka sistem menggunakan kata “saya”.

Bayangkan Anda meminta suatu program menjelaskan hasil pemeriksaan kesehatan. Program itu memberikan jawaban dengan tenang, mengakui kekhawatiran Anda, lalu mengusulkan langkah berikutnya. Setelah beberapa menit, mudah sekali mengatakan, “Ia memahami saya.” Namun, satu kalimat itu dapat mempunyai makna yang sangat berbeda: sistem berhasil memproses kata-kata Anda; sistem membangun representasi yang berguna atas masalah Anda; sistem benar-benar merasakan perasaan Anda; atau sistem sudah menjadi pihak yang menanggung konsekuensi nasihatnya. Peralihan dari makna pertama ke makna terakhir bukan perkara istilah belaka. Ia dapat menentukan siapa yang memeriksa jawaban, siapa yang melindungi pasien, dan siapa yang dimintai pertanggungjawaban jika terjadi kerugian.

Pada halaman 51–54 buku Qul Sīrū fī al-Arḍ Fanẓurū Kaifa Bada’a al-Khalq (Katakanlah: Berjalanlah di Bumi dan Perhatikan Bagaimana Penciptaan Bermula), pembahasan Ahmed Alhafiz mengenai “manusia yang diajari” mencapai satu adegan yang penting: manusia yang memanfaatkan hukum-hukum materi telah membuat alat yang meniru sebagian fungsi akal, tetapi masih harus menjawab pertanyaan tentang bagaimana alat itu digunakan. Buku tersebut mengatakan: “Ia mampu membuat mesin, tetapi ia akan dimintai pertanggungjawaban atas apa yang dilakukannya dengan mesin itu” (hlm. 52). Pernyataan tersebut bukan penyangkalan terhadap kemampuan mesin, melainkan pengalihan pusat perhatian dari kecakapan hasilnya kepada amanah pembuat dan penggunanya. Karena buku itu sendiri menyatakan pada hlm. 51 bahwa mesin tidak mempunyai ruh maupun taklif, kita perlu membedakan apa yang dikatakan sebagai sikap keagamaan, apa yang dapat diuji secara ilmiah, dan apa yang tidak dapat diputuskan hanya lewat percakapan yang tampak sangat manusiawi.

Lima istilah, lima pertanyaan yang berbeda

Kecerdasan. Dalam banyak bidang AI, kecerdasan adalah sebutan bagi kemampuan suatu sistem melakukan tugas: mengenali pola, menerjemahkan, menyusun rencana dengan batasan tertentu, atau menjawab pertanyaan. Kinerja biasanya dinilai berdasarkan tugas, data uji, dan metode evaluasinya. Namun, keberhasilan dalam sekumpulan soal belum memberi tahu kita bagaimana sistem itu akan bekerja ketika datanya berubah atau ketika biaya kesalahan sangat besar. Manusia yang sangat cerdas bisa memperoleh hasil buruk dalam suatu tes, sementara mesin dapat unggul pada tugas yang sempit tanpa harus menyerupai manusia dalam segala aspek di balik kemampuannya.

Pemahaman. Istilah ini lebih ambigu. Ketika kita berkata bahwa sistem “memahami instruksi pengguna”, maksudnya mungkin ia dapat mengikuti instruksi itu dengan tepat dalam contoh baru, mengenali pengecualian, dan memperbaiki kesalahan ketika situasi berubah. Pemahaman fungsional demikian dapat dirumuskan lewat pengujian; kita tidak semestinya menolaknya hanya karena mesin bukan manusia. Namun, jika kita mengatakan seseorang memahami penderitaan pasien, terkadang yang kita maksud mencakup pengertian tentang maknanya dalam kehidupan pasien, konteks tubuh dan masyarakatnya, serta kemungkinan dimintai pertanggungjawaban atas tindakan. Kedua penggunaan kata “memahami” tidak otomatis identik. Artikel “Pengajaran Nama-nama dan Kecerdasan Buatan” membahas lebih jauh cara menguji representasi pada mesin dan hubungannya dengan dunia. Pertanyaan kita di sini ialah: apa akibatnya setelah kemampuan tertentu terbukti?

Kesadaran. Kata ini bisa berarti perhatian terhadap suatu informasi, representasi sistem atas keadaannya sendiri, atau pengalaman subjektif: adakah sesuatu yang benar-benar “dirasakan dari dalam”? Kita dapat menguji kemampuan sistem melaporkan keadaannya atau memakai informasi dalam suatu keputusan. Namun, tes perilaku tidak sama dengan pengukuran langsung terhadap pengalaman subjektif. Bahkan dalam penelitian terhadap manusia, laporan subjek dikaitkan dengan pengukuran saraf serta perilaku ketika mengalami anestesi atau cedera; hakikat pengalaman itu sendiri masih menjadi bidang penelitian. Karena itu, jawaban bahasa yang lancar bukan kesaksian pasti bahwa mesin sadar. Sebaliknya, keterbatasan pengetahuan kita juga bukan alasan untuk memastikan secara ilmiah bahwa semua bentuk kesadaran buatan mustahil untuk sepanjang masa. Lihat “Apakah Tes Turing Membuktikan AI Sadar?” dan “Otak, Kesadaran, dan Ruh” mengenai sisi eksperimen dan ilmu saraf.

Ruh. Dalam pembahasan ini, ruh adalah istilah keagamaan, bukan sinonim otomatis bagi “kesadaran” dalam suatu makalah ilmiah. Orang beriman membicarakan ruh manusia dalam kerangka penciptaan, kehidupan, dan kematian. Adapun ilmu pengetahuan mengukur kinerja, perilaku, struktur material, serta korelasi saraf. Bila laboratorium tidak memiliki tes untuk ruh, hal itu menunjukkan batas alat laboratorium tersebut; bukan bukti eksperimental tersendiri tentang adanya ataupun tidak adanya ruh dalam suatu mesin. Penelitian mengenai kesadaran sistem buatan, betapapun majunya, juga tidak dengan sendirinya menjadi tafsir final atas seluruh makna kata “ruh” dalam Al-Qur'an.

Taklif atau pembebanan tanggung jawab agama. Ini pertanyaan lain lagi: kepada siapa perintah dan larangan ditujukan, dan siapa yang dimintai pertanggungjawaban atas apa yang disengaja, diketahui, dan mampu dilakukannya? Dalam konteks Islam, taklif bukan sinonim bagi kemampuan menyelesaikan teka-teki, menghasilkan kalimat moral, atau bahkan sekadar kemampuan merasa apabila peneliti menduga sistem masa depan memiliki kemampuan tersebut. Mesin yang menuliskan, “Saya minta maaf, saya salah,” tidak menjadi orang yang bertobat hanya dengan kata-kata itu. Ia juga tidak otomatis menjadi subjek kewajiban agama karena perangkat lunaknya menirukan permintaan maaf. Penilaian praktis atas sistem-sistem yang kita gunakan sekarang harus disampaikan sebagai pembedaan antara alat dan manusia yang bertanggung jawab atas alat itu, bukan sebagai hasil percobaan yang mengungkap perkara gaib.

Jika dikatakan, “Model itu berhasil melakukan diagnosis dengan tingkat keberhasilan yang tinggi,” pertanyaan yang tepat menyangkut kecerdasan dan kinerja dalam kondisi pengujian. Jika dikatakan, “Model mampu menerapkan diagnosis ketika pertanyaannya diubah,” kita masuk ke pembahasan pemahaman fungsional. Jika program berkata, “Saya merasakan ketakutan Anda,” kalimat tersebut tidak membuktikan pengalaman subjektif. Jika kita bertanya, “Apakah program memiliki ruh?”, kita memasuki persoalan teologis dan filosofis yang tidak dijawab oleh persentase ketepatan. Dan jika muncul kerugian, pertanyaan awalnya: siapa yang memegang keputusan untuk mengoperasikannya, dan siapa yang bisa mencegahnya? Pembedaan ini tidak merendahkan ilmu pengetahuan dan tidak pula membebankannya dengan sesuatu yang belum diukurnya.

Apa artinya menguji kinerja secara jujur?

Pernyataan “akurasi 95%” belum lengkap jika kita tidak tahu: akurat dalam tugas apa, atas kasus-kasus apa, dibandingkan dengan standar rujukan mana, dan berlaku bagi kelompok manusia yang mana? Dalam layanan yang menjawab persoalan kesehatan, akurasi keseluruhan yang tinggi dapat menyembunyikan kesalahan yang sedikit jumlahnya tetapi berat akibatnya: keadaan yang membutuhkan rujukan segera justru dinilai aman, atau satuan pengukuran dibaca keliru. Karena itu, perlu dibedakan antara kesalahan yang memberikan peringatan padahal tidak diperlukan dan kesalahan yang gagal memberikan peringatan saat diperlukan, kemudian menghitung keduanya sesuai sifat tugas. Ini bukan penilaian keagamaan terhadap mesin; melainkan syarat agar kita tidak melebih-lebihkan bukti eksperimen.

Ada pengujian tambahan: apakah jawaban berubah ketika redaksi pertanyaan berubah padahal faktanya tetap sama? Apakah kemampuan menurun ketika usia, bahasa, atau tempat penggunaan berbeda dari data yang dipakai saat pengujian? Apakah sistem menyatakan “saya tidak tahu” ketika informasi penting tidak tersedia, atau justru berbicara dengan keyakinan tinggi? Panduan Measure dari lembaga standar dan teknologi Amerika Serikat, NIST, menganjurkan ukuran kesalahan seperti positif palsu dan negatif palsu dalam konteks penerapan, dokumentasi perbedaan antara lingkungan pengujian dan lingkungan penggunaan, serta pengukuran kinerja pada kelompok-kelompok yang relevan dan pemantauannya sesudah peluncuran. Semua prosedur itu bisa diperiksa. Kata “memahami” tidak menggantikannya, dan sebutan “hanya mesin” juga tidak membebaskan kita darinya. NIST AI RMF Playbook, Measure 2.3, 2.4, 2.6, dan 2.11.

Suatu sistem mungkin berhasil melakukan tugas meskipun penjelasan internal mengenai mekanisme keberhasilannya belum lengkap. Sistem itu mungkin membangun representasi yang bermanfaat lalu gagal ketika digunakan di luar bidangnya. Menilai persoalan ini tidak mengharuskan kita lebih dahulu menyelesaikan pertanyaan tentang apakah mesin mempunyai perasaan. Di sinilah hubungan penting dengan argumen buku tersebut: manusia yang memahami semikonduktor dan membuat cip komputer pada hlm. 49–51 tidak otomatis menjadi lebih jujur hanya karena mesinnya bisa berbicara. Justru kewajibannya untuk mengukur keterbatasan mesin sebelum mengikutsertakannya dalam keputusan yang menyangkut orang lain semakin besar.

Apa yang dinyatakan Ayat Amanah, dan apa yang tidak dinyatakannya?

Allah berfirman:

﴿إِنَّا عَرَضْنَا الْأَمَانَةَ عَلَى السَّمَاوَاتِ وَالْأَرْضِ وَالْجِبَالِ فَأَبَيْنَ أَنْ يَحْمِلْنَهَا وَأَشْفَقْنَ مِنْهَا وَحَمَلَهَا الْإِنْسَانُ إِنَّهُ كَانَ ظَلُومًا جَهُولًا﴾ [الأحزاب: 72].

Makna kutipan: “Sesungguhnya Kami telah menawarkan amanah kepada langit, bumi, dan gunung-gunung. Semuanya enggan memikulnya dan merasa takut, lalu manusia memikulnya. Sesungguhnya manusia sangat zalim dan sangat bodoh.”

Ath-Ṭabarī menyajikan sejumlah pendapat mengenai makna amanah, di antaranya ketaatan, kewajiban-kewajiban agama beserta balasan atasnya, serta amanah antarmanusia. Ia kemudian menguatkan cakupan umum amanah dalam urusan agama maupun hak sesama manusia, karena teks tidak membatasi amanah pada satu jenis tertentu. Tidak akurat jika ayat itu disempitkan menjadi “manajemen risiko AI”: jangkauannya lebih luas dan telah hadir jauh sebelum komputer dibuat. Akan tetapi, keluasan makna amanah memungkinkan kita menjadikan penggunaan teknologi sebagai penerapan etika kontemporer di bawah prinsip tersebut, bukan sebagai penemuan bahwa perangkat komputer telah disebut di dalam ayat. Tafsir ath-Ṭabarī, Al-Aḥzāb: 72.

Manusia dalam ayat itu tidak dipuji hanya karena menerima amanah. Penutupnya, ﴿ظَلُومًا جَهُولًا﴾—sangat zalim dan sangat bodoh—memperingatkan tentang kelalaian dan ketidaktahuan. Nada ini sejalan dengan uraian buku pada hlm. 52–53: kemajuan dalam perhitungan tidak menghapus kemungkinan manusia bersikap congkak dan merusak. Seseorang yang membuat sistem yang dapat menganalisis jutaan catatan mungkin tetap tidak mengenali keadaan satu individu yang dirugikan oleh klasifikasi yang salah. Kemampuan membangun alat tidak otomatis membuat keputusan untuk meluncurkannya benar. Maka amanah tidak berhenti pada demonstrasi kecanggihan model, tetapi mencakup perlindungan hak orang lain, pemeriksaan keterbatasan kinerja, dan penjelasan dampak keputusan kepada mereka yang terkena akibatnya. Ini adalah penerapan etika oleh penulis pada teknologi masa kini, bukan atribusi daftar prosedur operasional kepada sang mufasir.

Ayat lain menjelaskan sisi yang tidak boleh hilang di balik kata “tanggung jawab”:

﴿إِنَّ اللَّهَ يَأْمُرُكُمْ أَنْ تُؤَدُّوا الْأَمَانَاتِ إِلَىٰ أَهْلِهَا وَإِذَا حَكَمْتُمْ بَيْنَ النَّاسِ أَنْ تَحْكُمُوا بِالْعَدْلِ﴾ [النساء: 58].

Makna kutipan: “Sesungguhnya Allah memerintahkan kalian menunaikan amanah kepada yang berhak menerimanya dan, ketika memutuskan perkara di antara manusia, memutuskan dengan adil.”

Ath-Ṭabarī membahas pihak yang disapa oleh ayat ini dan, berdasarkan konteks, mengutamakan penjelasan mengenai penguasa dalam memenuhi hak-hak manusia, seraya mengakui bahwa kewajiban menunaikan amanah dapat mencakup siapa saja yang dipercaya. Karena itu, kita tidak boleh mengatakan bahwa direktur suatu perusahaan modern adalah “penguasa” yang secara khusus dimaksud dalam tafsir tersebut. Namun, menarik pelajaran etis untuk menjaga hak mereka yang terkena keputusan adalah penerapan yang sah apabila dinyatakan dengan jelas. Ketika orang mempercayakan data mereka kepada Anda, bagaimana data itu dilindungi? Ketika klasifikasi yang Anda buat memengaruhi pelayanan bagi orang lain, apakah orang yang dirugikan dapat memahami keputusan dan meminta koreksi? Di sini keadilan dikaitkan dengan orang yang memegang kendali keputusan, bukannya lenyap dalam pembicaraan abstrak mengenai “kecerdasan mesin”. Tafsir ath-Ṭabarī, An-Nisā’: 58.

Allah juga berfirman:

﴿لَا يُكَلِّفُ اللَّهُ نَفْسًا إِلَّا وُسْعَهَا﴾ [البقرة: 286].

Makna kutipan: “Allah tidak membebani seseorang melampaui kemampuannya.”

Ayat ini berada dalam konteks seruan keimanan kepada manusia dan menghubungkan pembebanan kewajiban dengan kemampuan. Ia bukan tes komputasi yang menyatakan bahwa apabila suatu sistem mencapai jumlah parameter atau persentase jawaban benar tertentu, maka sistem itu telah menjadi subjek taklif. Kecepatan memberikan jawaban tidak membuktikan bahwa mesin adalah “diri” yang dibebani kewajiban. Sebaliknya, kewajiban manusia tidak gugur begitu ia menggunakan asisten digital. Ketika membagi tanggung jawab dalam pekerjaan bersama, kemampuan, pengetahuan, dan wewenang nyata masing-masing orang harus diperhatikan: seorang direktur mungkin berwenang meluncurkan sistem, seorang ahli mungkin berwenang menghentikan penggunaan yang berbahaya, dan pengguna memiliki kewajiban memeriksa informasi sebelum menyebarkannya kepada orang lain. Rincian tersebut menyangkut perilaku manusia dan didukung oleh prinsip amanah serta pencegahan bahaya; bukan oleh angka hasil uji model. Tafsir ath-Ṭabarī, Al-Baqarah: 286.

Hal terpenting ialah agar pembedaan tadi tidak berubah menjadi klaim bahwa ayat-ayat tersebut menyebut “algoritma” atau memberikan satu keputusan teknis yang berlaku menyeluruh atas setiap sistem yang mungkin dibuat. Wahyu menjelaskan ukuran hubungan manusia dengan Penciptanya dan kewajibannya; sedangkan menggambarkan arsitektur sistem tertentu serta menguji kesalahannya merupakan pekerjaan penelitian dan rekayasa yang berubah mengikuti perkembangan. Keduanya dibutuhkan ketika teknologi menyentuh kehidupan manusia: mengetahui apa yang dikerjakan alat, dan mengetahui apa yang tidak boleh diabaikan manusia.

Ayat Ruh: kerendahan hati dalam pengetahuan, bukan alat pendeteksi

Dalam konteks pertanyaan tentang ruh, Allah berfirman:

﴿وَيَسْأَلُونَكَ عَنِ الرُّوحِ قُلِ الرُّوحُ مِنْ أَمْرِ رَبِّي وَمَا أُوتِيتُمْ مِنَ الْعِلْمِ إِلَّا قَلِيلًا﴾ [الإسراء: 85].

Makna kutipan: “Mereka bertanya kepadamu tentang ruh. Katakanlah: Ruh termasuk urusan Tuhanku, dan kalian hanya diberi sedikit pengetahuan.”

Buku tersebut kembali kepada bagian penutup ayat itu pada hlm. 52–53 untuk mengkritik kesombongan dalam pengetahuan. Namun, kita juga perlu membaca awalnya. Ath-Ṭabarī mencatat perbedaan pendapat tentang apa yang dimaksud dengan “ruh” pada ayat ini, lalu mendiskusikan riwayat yang berhubungan dengannya. Oleh sebab itu, kita tidak boleh memotong ayat tersebut seolah-olah ia menetapkan secara harfiah suatu aturan laboratorium untuk menentukan program komputer mana yang memiliki ruh dan mana yang tidak. Tafsir ath-Ṭabarī, Al-Isrā’: 85.

Pernyataan buku bahwa mesin buatan manusia tidak mempunyai ruh dan tidak dibebani taklif mengekspresikan sikap keimanan penulis terhadap sistem teknologi yang kita buat. Pembedaan praktis ini dapat dipertahankan tanpa berpura-pura bahwa pengujian komputer sudah memeriksa keberadaan ruh. Hal sebaliknya pun benar: posisi keagamaan itu tidak otomatis gugur ketika seorang peneliti menemukan pada suatu model sebuah arsitektur baru yang berkorelasi, menurut teori ilmiah tertentu, dengan indikator kesadaran. Sebab, “kesadaran” dalam penelitian tersebut dan “ruh” dalam wacana Al-Qur'an bukan dua istilah yang boleh saling menggantikan hanya karena keduanya sulit diukur. Ayat ini juga tidak boleh dipakai untuk menghentikan penelitian tentang otak ataupun perilaku mesin. Mengakui batas pengetahuan bukan berarti menutup pintu untuk belajar.

Ada keberatan yang patut dihargai: jika kita tidak mempunyai akses langsung kepada pengalaman orang lain, atas dasar apa kita dengan pasti menolak pengalaman pada mesin? Jawaban yang berimbang adalah bahwa kita belum mempunyai metode yang disepakati untuk memastikan kesadaran setiap sistem yang mungkin ada hanya dari satu kalimat. Namun, ketidakpastian itu tidak menuntut kita menghapus pembedaan yang sekarang diperlukan. Dokter bertanggung jawab atas pekerjaannya dalam hubungan manusiawi dan profesional, sedangkan suatu sistem dijalankan, dikendalikan, dan diubah melalui keputusan manusia. Sebuah laporan riset yang ditulis bersama oleh sejumlah peneliti mengusulkan penyusunan indikator berdasarkan bermacam teori kesadaran dan pemeriksaan sistem AI menurut indikator-indikator itu. Untuk sistem-sistem yang ditelaah, para penulis menyimpulkan bahwa sistem tersebut tidak tampak sadar; pada saat yang sama mereka menyatakan tidak menemukan hambatan teknis yang jelas yang akan selamanya menghalangi sistem masa depan memenuhi indikator tersebut. Itu adalah inferensi yang bergantung pada teori, indikator, dan sampel sistem yang diperiksa—bukan kepastian tentang seluruh sistem pada tahun 2026 atau putusan mengenai ruh secara keagamaan. Butlin dkk., 2023.

Mengapa amanah tidak berpindah kepada mesin hanya karena mesin berkata “saya”?

Bayangkan rangkaian yang sederhana: pengembang memilih data dan cara pelatihan; sebuah lembaga membeli sistem dan menentukan tempat penggunaannya; seorang manajer mengizinkan sistem melayani masyarakat; pegawai menerima atau mengoreksi jawabannya; dan pengguna memberikan informasi sensitif berdasarkan pemahamannya atas tampilan sistem. Jika teks yang akhirnya disampaikan keliru, ungkapan “sistem memutuskan” tidak menjelaskan siapa yang mengetahui keterbatasan produk, siapa yang menyembunyikan peringatan, siapa yang meluncurkannya tanpa pemeriksaan, dan siapa yang berwenang menghentikannya. Mungkin juga bukan satu orang yang bertanggung jawab untuk semua hal. Tanggung jawab didistribusikan menurut peran, wewenang, pengetahuan, dan kemampuan mencegah kerugian.

Kerangka Manajemen Risiko AI dari NIST memberikan contoh praktis untuk memperinci persoalan tersebut. Panduan fungsi Govern menganjurkan penetapan tanggung jawab tim perancangan, pengujian, pengoperasian, dan pengawasan sistem serta pembedaan peran manusia ketika berinteraksi dengan sistem atau mengawasinya. Ini adalah panduan pengelolaan risiko, bukan tafsir Al-Aḥzāb: 72 atau fatwa mengenai taklif. Akan tetapi, panduan tersebut memperlihatkan cara menjadikan amanah yang kita bicarakan dapat dilaksanakan di dalam lembaga. NIST AI RMF Playbook, Govern 2 dan 3.

Mencantumkan kalimat “ada manusia dalam proses” (human in the loop) bukan jaminan dengan sendirinya. Jika orang itu tidak tahu kapan perlu menghentikan proses, tidak memiliki cukup waktu ataupun data untuk memeriksa keluaran, maka tanda tangannya mungkin hanya menjadi kedok bagi keputusan otomatis. Pertanyaan utamanya bukan sekadar apakah seseorang melihat layar, tetapi apakah ia mengetahui keterbatasan alat, menerima tanda bahaya, memiliki kewenangan untuk mengubah atau menolak hasil, dan mencatat alasan keputusannya. Dengan perincian seperti ini, tanggung jawab tidak berubah menjadi khotbah umum dan tidak tersembunyi di balik nama program.

Satu contoh yang memperlihatkan perbedaannya

Misalkan sebuah lembaga kesehatan menggunakan asisten untuk menjelaskan arti hasil pemeriksaan darah kepada pasien, dengan ketentuan penjelasannya diperiksa oleh ahli sebelum dikirim. Suatu hari asisten secara keliru menilai sebuah angka laboratorium sebagai sesuatu yang tidak mengkhawatirkan. Jawaban itu tiba pada pasien sebelum peninjauan ahli selesai, sehingga pasien menunda menghubungi petugas kesehatan padahal semestinya segera melakukannya. Ini hanyalah contoh hipotetis untuk menjelaskan cara berpikir, bukan laporan kejadian nyata atau nasihat medis.

Pertanyaan teknis pertama: apakah sistem mengenali angkanya, satuan pengukuran, rentang rujukan, usia, dan konteks, atau meringkasnya ke dalam pola bahasa yang lazim? Pertanyaan ini menguji kinerja dan pemahaman fungsional. Lalu: seberapa sering kesalahan serupa muncul pada kasus penting? Apakah sistem diuji pada berbagai kelompok pasien? Bagaimana cara ia menunjukkan keraguan alih-alih berbicara dengan keyakinan palsu? Semua itu merupakan soal pengujian dan keselamatan. Adapun pertanyaan “apakah program itu merasa sedih untuk pasien?” tidak menyelesaikan salah baca satuan ataupun keputusan menunda pertolongan, apa pun jawaban filosofisnya.

Jika kita memiliki seribu kasus dengan 990 jawaban benar, sembilan kesalahan berdampak kecil, dan satu kasus berbahaya karena pasien secara keliru diyakinkan bahwa kondisinya aman, kalimat “model benar dalam 99% kasus” menyembunyikan informasi yang seharusnya diperiksa: bagaimana sifat satu kasus tersebut, pada ambang atau kondisi apa sistem gagal, dan apakah pola itu muncul berulang dalam bahasa, satuan ukuran, atau kelompok pengguna tertentu? Angka-angka ini merupakan contoh rekaan, bukan hasil suatu percobaan. Bergantung pada tingkat bahayanya, kita mungkin memerlukan rancangan yang menghentikan jawaban ketika informasi penting belum tersedia, lalu meneruskannya kepada ahli alih-alih melengkapinya dengan nada menenteramkan. Itulah penerapan praktis gagasan “ilmu dengan ukuran yang benar” dalam buku—bukan atribusi standar klinis tertentu kepada ayat atau penulis.

Setelah itu, persoalan etika dan kelembagaan muncul dan sama pentingnya: siapa mengizinkan penjelasan dikirim sebelum diperiksa ahli? Apakah antarmuka memberikan peringatan yang dapat dipahami pasien? Apakah tim mengetahui kapan harus menghentikan sistem? Apakah lembaga menerima laporan kesalahan dan memperbaikinya? Tujuannya bukan menentukan pihak yang bersalah terlebih dahulu, melainkan menemukan jalur yang mencegah kerugian berulang dan memungkinkan pihak yang mengambil keputusan dimintai pertanggungjawaban. Firman Allah:

﴿وَلَا تَقْفُ مَا لَيْسَ لَكَ بِهِ عِلْمٌ إِنَّ السَّمْعَ وَالْبَصَرَ وَالْفُؤَادَ كُلُّ أُولَٰئِكَ كَانَ عَنْهُ مَسْئُولًا﴾ [الإسراء: 36]

Makna kutipan: “Jangan mengikuti sesuatu yang tidak kamu ketahui. Sesungguhnya pendengaran, penglihatan, dan hati, semuanya akan dimintai pertanggungjawaban.”

mengingatkan agar orang tidak mengikuti sesuatu yang tidak diketahuinya dalam cakupan etika yang umum. Kita tidak menyajikannya sebagai peraturan teknis klinis yang secara khusus diturunkan mengenai asisten digital. Tafsir ath-Ṭabarī, Al-Isrā’: 36.

Jika jawaban medis sistem benar dalam sebagian besar kasus, hal itu merupakan alasan untuk meneliti kemungkinan manfaatnya dengan pengamanan yang sesuai, bukan alasan menyerahkan setiap kasus kepadanya. Standar pemeriksaan harus berubah mengikuti akibat kesalahan terhadap manusia. Inilah gerakan pemikiran yang dimaksud buku itu: dari memahami hukum materi serta membuat cip dan mesin pada hlm. 49–51 menuju pertanyaan tentang apa yang kita perbuat dengan ilmu tersebut pada hlm. 52–53.

Dua keberatan yang menguji argumen, bukan menghancurkannya

“Jika mesin mampu mengerjakan seluruh pekerjaan dokter, mengapa mesin tidak kita anggap bertanggung jawab?” Sebab, menyatakan bahwa mesin berhasil mengerjakan suatu tugas, menyatakan bahwa ia merupakan pihak yang memikul kewajiban agama, dan membebankan kewajiban kepada lembaga untuk mengganti kerugian atau memperbaiki akibat kesalahan adalah persoalan yang memakai kriteria berbeda. Lembaga dapat menyerahkan sebagian pekerjaan kepada sistem dan secara internal mendasarkan keputusan atau peringatan pada keluarannya. Namun, hal itu tidak membuat kode program menggantikan manusia yang memilih menerapkannya dan menentukan batas kewenangannya. Menyatakan manusia bertanggung jawab juga tidak berarti semua pegawai menanggung semua hal: peran masing-masing dinilai menurut apa yang diketahui dan mampu dilakukannya. Jika kemampuan sistem berkembang, rincian tata kelola serta penelitiannya juga berkembang; bahasa keagamaan tidak otomatis menjadi sama dengan bahasa pemasaran.

“Apakah nilai hewan atau manusia yang tidak mampu akan berkurang jika taklif dihubungkan dengan kemampuan?” Tidak. Nilai suatu makhluk dan haknya atas perlakuan baik atau perawatan bukan hadiah karena berhasil mengikuti ujian kecerdasan. Manusia yang sakit ataupun anak kecil tidak kehilangan martabat hanya karena sebagian syarat pertanggungjawaban terperinci belum terpenuhi sebagaimana pada orang dewasa yang mampu. Kita juga tidak boleh menggunakan alasan “mesin tidak dibebani taklif” untuk mengabaikan dampaknya pada manusia atau makhluk hidup lain. Pemisahan antara nilai moral pihak yang terkena dampak dan pertanggungjawaban pihak yang bertindak serta memutuskan mencegah kata “kecerdasan” menjadi satu-satunya ukuran martabat.

Dari “manusia mengajari mesin” menuju “manusia ditanya tentang perbuatannya”

Pada hlm. 51, buku itu mengatakan bahwa “manusia yang telah diajari kini mengajari mesin”. Keindahan ungkapan ini terletak pada pengembalian kemampuan teknis kepada sejarah manusia dalam bahasa, pendidikan, matematika, pekerjaan, dan materi, bukan membayangkan program sebagai makhluk yang muncul sendiri terpisah dari manusia dan dunia. Namun, bagian terbaiknya dapat lenyap apabila kita menjadikannya alasan untuk memuji manusia tanpa batas. Siapa pun yang mampu mengajarkan mesin menghasilkan suatu jawaban semestinya juga mampu mengajarkan lembaga cara mengujinya, menjelaskan keterbatasannya, serta menghentikan penggunaannya ketika terlihat adanya bahaya.

Buku itu juga mengutip firman Allah:

﴿إِنَّمَا يَخْشَى اللَّهَ مِنْ عِبَادِهِ الْعُلَمَاءُ﴾ [فاطر: 28].

Makna kutipan: “Di antara hamba-hamba Allah, yang takut kepada-Nya ialah orang-orang berilmu.”

Ungkapan ini muncul setelah penyebutan beragam warna buah-buahan, gunung, manusia, dan hewan. Ath-Ṭabarī menjelaskan bahwa rasa takut kepada Allah di sini berhubungan dengan mengenali kekuasaan-Nya dan menjauhi kemaksiatan, bukan semata-mata menghafal nama benda atau memiliki mesin yang lebih canggih. Tafsir ath-Ṭabarī, Fāṭir: 28. Ketika makna itu dihubungkan dengan keputusan untuk menerapkan model yang mungkin keliru dan merugikan manusia, hubungan tersebut merupakan perenungan etis sesuai jalur buku: pengetahuan yang memperbesar kemampuan pemiliknya tetapi tidak mendorong ketelitian, kerendahan hati, dan pencegahan bahaya telah kehilangan sebagian adabnya. Kita tidak dapat menghitung kadar ketakwaan pembuat model dari skor kinerja, dan tidak mengklaim bahwa ayat tersebut menawarkan standar rekayasa. Kita bertanya kepada pemilik ilmu apa yang ia lakukan dengan ilmunya.

Di sini ilmu agama tidak menentukan persentase keberhasilan model, dan ilmu eksperimen juga tidak sendirian menentukan makna amanah dan ruh. Pengelola proyek harus memahami kedua ranah tersebut serta batasnya masing-masing, lalu memikul tanggung jawab keputusan pada ruang tempat keduanya bersinggungan. Dengan demikian, artikel ini tidak memerlukan janji bahwa Al-Qur'an lebih dahulu mengungkap rekayasa komputasi, juga tidak perlu menyatakan bahwa segala yang tidak dapat kita ukur pasti tidak ada. Yang dibutuhkan lebih sederhana sekaligus lebih sulit: mengukur apa yang dapat diukur secara jujur, membaca teks dalam konteksnya, dan menjaga agar pihak pengambil keputusan tetap dapat diidentifikasi ketika tulisan di layar memengaruhi kehidupan seseorang.

Inilah kelanjutan langsung argumen Qul Sīrū fī al-Arḍ: penelaahan terhadap penciptaan memberikan manusia berbagai alat, dan alat-alat itu mengungkap kemampuan sekaligus batasnya. Tidak cukup bertanya apakah mesin berhasil meniru percakapan kita. Pertanyaan yang kembali kepada pembuatnya ialah: sudahkah Anda memperlakukan manusia dengan adil melalui pengetahuan dan karya Anda, dan mampukah Anda menjelaskan serta memperbaiki keputusan Anda?

Pertanyaan yang sering diajukan

Apakah AI benar-benar cerdas, atau hanya mengulang kata-kata?

Jawabannya bergantung pada tugas dan makna “kecerdasan”. Sebuah sistem dapat menggeneralisasi pola serta berhasil pada tugas baru dalam batas tertentu, sehingga ungkapan “hanya mengulang” tidak cukup untuk menggambarkan seluruh kinerjanya. Namun, keberhasilan dalam satu tes juga tidak membuktikan kecakapan umum dalam segala keadaan.

Apakah AI memahami apa yang dikatakannya?

Kata “memahami” dapat digunakan dalam pengertian fungsional apabila tugasnya didefinisikan dan kemampuan generalisasi, perbaikan, serta keterbatasannya diuji. Istilah tersebut tidak otomatis berarti pengalaman manusia, perasaan, atau tanggung jawab. Rincian ilmiahnya dibahas dalam artikel Pengajaran Nama-nama dan Kecerdasan Buatan.

Apakah AI memiliki kesadaran?

Percakapan saja tidak cukup untuk memutuskannya. Ada bermacam teori serta indikator yang masih diperdebatkan. Suatu penilaian yang diterbitkan pada 2023 menyimpulkan bahwa sistem-sistem yang diteliti tampaknya tidak sadar; ini bukan keputusan menyeluruh untuk semua sistem atau masa depan. Butlin dkk..

Apakah AI memiliki ruh menurut Al-Qur'an?

Al-Isrā’: 85 tidak menyediakan tes untuk perangkat dan tidak menyebut AI. Posisi keagamaan yang dinyatakan buku ini adalah bahwa mesin buatan manusia tidak mempunyai ruh; posisi tersebut perlu disajikan sebagai pandangan teologis dan penafsiran dalam konteks buku, bukan sebagai hasil pengukuran ruh di laboratorium.

Apakah sebuah program menjadi subjek taklif atau diadili jika merugikan seseorang?

Kita tidak memperlakukan program yang saat ini digunakan sebagai subjek kewajiban agama hanya karena program dapat berbicara atau memilih keluaran. Tanggung jawab dalam perancangan, penerapan, pemeriksaan, dan penggunaan berada pada manusia serta lembaga yang memiliki peran dan wewenang nyata. Rincian tanggung jawab hukum dapat berbeda menurut fakta dan sistem hukum yang berlaku; artikel ini tidak mengkajinya sebagai masalah fikih atau peradilan khusus.

Jika manusia bertanggung jawab, apakah itu berarti AI harus dilarang dalam kedokteran atau pendidikan?

Tidak. Pertanyaannya menuntut penilaian manfaat dan risiko dalam setiap penggunaan, penetapan tenaga ahli yang memeriksa serta mekanisme menghentikan kesalahan, dan penjelasan batas alat kepada pengguna. Tidak semua pemakaian aman atau dapat dibenarkan hanya karena menawarkan manfaat, dan tidak semua pemakaian harus dilarang hanya karena kesalahan mungkin terjadi.

Bagaimana mengetahui bahwa kinerja sistem cukup baik sebelum digunakan untuk manusia?

Tentukan tugas dan standar pembandingnya; pisahkan jenis kesalahan menurut potensi kerugiannya; uji pada kelompok dan kondisi yang menyerupai keadaan penggunaan; serta pantau kinerja setelah peluncuran. Persentase total saja tidak menunjukkan kasus yang luput dari peringatan dan tidak menggantikan pemeriksaan tenaga ahli ketika keputusan berdampak besar.

Apa kaitan semua persoalan ini dengan buku Qul Sīrū fī al-Arḍ Fanẓurū Kaifa Bada’a al-Khalq?

Halaman 49–54 pada bagian “Manusia yang Diajari” bergerak dari pemanfaatan materi, cip, dan komputer menuju tanggung jawab atas mesin serta ilmu. Artikel ini memperjelas perbedaan antara kemampuan program, keterbatasan klaim mengenai kesadaran dan ruh, serta siapa yang memikul amanah pengambilan keputusan oleh manusia. Itulah inti persoalan yang muncul pada bagian buku tersebut.

Sumber dan batas pembahasan

• Al-Qur'an: Al-Aḥzāb: 72, An-Nisā’: 58, Al-Baqarah: 286, Al-Isrā’: 85, Al-Isrā’: 36, dan Fāṭir: 28. Ayat-ayat tersebut dibaca sesuai konteksnya, bukan sebagai teks yang khusus membicarakan pembuatan perangkat lunak.
• Ath-Ṭabarī: Tafsir Al-Aḥzāb: 72, mengenai beragam makna amanah dan keluasan cakupannya; An-Nisā’: 58, mengenai penunaian amanah dan keadilan; Al-Baqarah: 286, mengenai kewajiban dan kemampuan; Al-Isrā’: 85, mengenai perbedaan penafsiran ruh; Al-Isrā’: 36, mengenai larangan berbicara tanpa pengetahuan; serta Fāṭir: 28, mengenai ilmu dan rasa takut kepada Allah.
• Ahmed Alhafiz, Qul Sīrū fī al-Arḍ Fanẓurū Kaifa Bada’a al-Khalq, bagian kedua “Manusia yang Diajari”, hlm. 49–54, terutama 51–53. Buku ini merupakan asal pertanyaan dan menjelaskan pendirian penulis, bukan bukti eksperimen yang terpisah tentang sifat-sifat AI.
• Patrick Butlin dkk. (2023), Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. Laporan ini menawarkan indikator yang bergantung pada teori-teori kesadaran dan menilai sistem tertentu; ia tidak menguji ruh menurut pengertian agama dan tidak menyelesaikan pertanyaan mengenai semua sistem di masa depan.
• NIST AI Risk Management Framework Playbook: Govern, khususnya Govern 2.1 dan 3.2, mengenai pembagian peran, tanggung jawab, dan pengawasan manusia; serta Measure, mengenai pengujian kesalahan, konteks penggunaan, dan pemantauan. Panduan ini merupakan petunjuk manajemen risiko, bukan ketentuan agama atau hukum yang mengikat setiap negara.
• Bacaan terkait di situs penulis: Pengajaran Nama-nama dan AI menelaah representasi dan pemahaman; Tes Turing dan Kesadaran membedakan perilaku bahasa dari pengalaman subjektif; dan Otak, Kesadaran, serta Ruh mengkaji batas ilmu saraf. Artikel yang sekarang difokuskan pada taklif dan amanah pengambilan keputusan ketika menggunakan mesin.

Transparansi bukti: Buku tersebut merupakan sumber pertanyaan dan pendirian penulis mengenai taklif serta mesin; penafsiran ayat dikaitkan dengan rujukan yang dicantumkan, sementara evaluasi kinerja dan kesadaran dirujuk kepada penelitian dan panduan terkait. Belum ada penelaahan independen oleh ahli bidang-bidang tersebut.

Terjemahan makna ayat dan kutipan buku dalam artikel ini disusun untuk menjelaskan teks sumber; ini bukan kutipan dari edisi terjemahan resmi. Rujukan halaman buku mengacu pada naskah penulis setebal 158 halaman.

Bacaan lanjutan

Untuk mekanisme representasi, baca Pengajaran Nama-nama dan AI; untuk batas pengujian lewat percakapan, baca Tes Turing dan Kesadaran; lalu kembali ke halaman buku Qul Sīrū fī al-Arḍ.