Apakah AI Benar-Benar Memahami Bahasa? Bukti dan Batasnya

Apa yang perlu dibuktikan, lapis demi lapis, sebelum keberhasilan model bahasa memakai nama dapat disebut makna, rujukan ke dunia, model kausal, maksud, atau tanggung jawab? Apa yang ditambahkan kisah pengajaran nama kepada Adam tanpa mengubahnya menjadi teori rekayasa komputer?

Jawaban langsung

Kita tidak dapat menyimpulkan bahwa model sama sekali tidak mempelajari struktur semantik hanya karena tugas pelatihannya mencakup “memprediksi token berikutnya”. Namun, kefasihan berbicara atau keberadaan representasi internal juga tidak cukup untuk menyimpulkan bahwa model memahami seperti manusia. Eksperimen dalam lingkup tugas terbatas memperlihatkan bahwa model sekuensial dapat mempelajari representasi yang teratur tentang keadaan permainan atau hubungan ruang serta waktu. Pada sebagian eksperimen, intervensi terhadap representasi itu mengubah perilaku ke arah yang diprediksi. Sebaliknya, pengujian lain memperlihatkan kerapuhan terhadap perubahan yang seharusnya tidak mengubah makna serta kekurangan dalam generalisasi komposisional. Karena itu, enam pertanyaan mesti dipisahkan: mengenali simbol; keteraturan hubungan; komposisi serta generalisasi; rujukan dan grounding; penggunaan kausal model dunia; serta maksud, agensi, dan tanggung jawab. Kesadaran fenomenal tetap persoalan terpisah yang tidak otomatis muncul dari keberhasilan keenam lapisan tersebut.

Dari sisi Al-Qur'an, ﴿وَعَلَّمَ آدَمَ الْأَسْمَاءَ كُلَّهَا﴾—“Dan Dia mengajarkan kepada Adam nama-nama semuanya”—tidak boleh dipisahkan dari Al-Baqarah: 30–33. Kisah bermula dari pengangkatan khalifah, pertanyaan tentang kerusakan dan pertumpahan darah, kemudian pengajaran, penunjukan, dan pengakuan malaikat ﴿لَا عِلْمَ لَنَا إِلَّا مَا عَلَّمْتَنَا﴾, “Kami tidak memiliki ilmu selain apa yang Engkau ajarkan kepada kami.” Para mufasir berbeda pandangan tentang cakupan serta hakikat nama-nama. Perbedaan itu tidak memberi izin mengubah “nama” menjadi tokens atau embeddings, atau menggambarkan pelatihan model sebagai padanan pengajaran Allah kepada Adam. Hubungan yang sah berada pada pertanyaan epistemologis dan etis mengenai ilmu, kemampuan, dan tanggung jawab, bukan persamaan teknis.

Temuan positif paling kuat: Representasi internal dapat memiliki peran kausal pada tugas yang terbatas, seperti dalam eksperimen Othello-GPT. Batas paling kuat: Informasi yang dapat dibaca dari aktivasi tidak membuktikan sendiri bahwa model menggunakan, menggeneralisasi, atau menyadarinya. Batas Qur'ani: Pengajaran nama-nama merupakan bagian dari argumen tentang kekhalifahan serta keterbatasan ilmu makhluk, bukan rancangan pembelajaran mesin. Kontribusi asli tulisan ini: Matriks Nama–Dunia–Tanggung Jawab, enam lapisan yang mencegah lompatan dari bukti sebagian menuju putusan menyeluruh.

Apa arti “memahami” dalam pembahasan ini?

Pertanyaan populer “Apakah AI memahami?” terlalu luas untuk dijawab dengan satu eksperimen. Maksudnya bisa: apakah sistem membedakan satu kata dari kata lain? Apakah ia membangun hubungan internal yang stabil? Dapatkah ia menggeneralisasi aturan ke kasus baru? Apakah simbolnya berkaitan dengan objek, persepsi, dan tindakan di luar teks? Apakah ia menggunakan model kausal dunia? Apakah ia bermaksud mengatakan sesuatu? Apakah ia memiliki pengalaman subjektif? Semua itu bukan berbagai susunan kata bagi pertanyaan yang sama, melainkan tuntutan berbeda yang memerlukan jenis bukti berbeda.

Karena itu, artikel ini tidak memilih salah satu dari dua slogan: “AI hanyalah pelengkapan statistik, jadi tidak memiliki makna internal” atau “AI berbicara lancar, jadi merupakan akal yang sadar.” Keduanya melompati sejumlah tingkat pembuktian. Fungsi objektif tidak menerangkan seluruh struktur yang mungkin terbentuk di dalam model, dan perilaku luar tidak mengungkap maksud atau kesadaran dengan sendirinya.

Glosarium yang diperlukan sebelum berdebat

Peta bidang: Di mana wilayah teks berakhir dan laboratorium bermula?

Penelitian ini menggabungkan empat bidang tanpa mencampur otoritasnya. Al-Qur'an merupakan teks keagamaan rujukan. Tafsir menyimpan upaya para mufasir memahami makna serta konteksnya. Ilmu pembelajaran mesin menggambarkan cara model dilatih dan apa yang ditunjukkan eksperimen tentang perilaku serta struktur internalnya. Filsafat bahasa dan pikiran membicarakan apa yang kita sebut makna, maksud, atau kesadaran. Hasil laboratorium tidak dipakai untuk membuktikan perkara gaib, dan perkara gaib tidak dipakai untuk membatalkan hasil empiris dalam batas wilayahnya.

Buku Ahmed Alhafiz, Qul Sīrū fī al-Arḍ Fanẓurū Kaifa Bada’a al-Khalq, menjadi asal langsung pertanyaan ini, khususnya halaman 37–43 dalam bab “Manusia yang Diajari”. Buku bergerak dari pengajaran nama menuju konsep, hubungan, dan model, kemudian mengaitkan kemampuan mengungkapkan makna serta tulisan dengan ingatan peradaban dan tanggung jawab. Kajian ini menguji kerangka tersebut berdasarkan sumber tafsir dan penelitian modern tentang model. Buku menetapkan pertanyaan serta kontribusi pemikirannya, tetapi bukan sumber eksperimen tentang kerja model dan bukan sumber tafsir yang berdiri sendiri.

Al-Baqarah 30–33: Mengapa ayat 31 saja tidak cukup?

Bagian ayat dimulai dengan firman Allah: ﴿وَإِذْ قَالَ رَبُّكَ لِلْمَلَائِكَةِ إِنِّي جَاعِلٌ فِي الْأَرْضِ خَلِيفَةً قَالُوا أَتَجْعَلُ فِيهَا مَنْ يُفْسِدُ فِيهَا وَيَسْفِكُ الدِّمَاءَ... قَالَ إِنِّي أَعْلَمُ مَا لَا تَعْلَمُونَ﴾. Sesudah itu terdapat pengajaran nama-nama kepada Adam, penunjukan kepada malaikat, pengakuan mereka ﴿سُبْحَانَكَ لَا عِلْمَ لَنَا إِلَّا مَا عَلَّمْتَنَا﴾, dan jawaban Adam yang menyebut nama-nama tersebut. [R1]

Urutan ayat penting. Pertanyaan pertama bukan “siapa yang mampu menghafal lebih banyak kata?”, melainkan “apa hikmah pengangkatan makhluk yang dapat membuat kerusakan serta menumpahkan darah?” Pengajaran datang dalam konteks itu, menampakkan sisi hikmah tanpa menghapus kemungkinan kerusakan. Dengan demikian, ilmu tidak identik dengan kesalehan; ilmu adalah kemampuan yang berada dalam ujian moral.

Ungkapan paling penting untuk membatasi klaim pengetahuan di sini ialah ﴿لَا عِلْمَ لَنَا إِلَّا مَا عَلَّمْتَنَا﴾. Ayat tersebut tidak merendahkan ilmu, melainkan menetapkan batas pengetahuan makhluk. Batas itu tidak dapat diterapkan langsung pada mesin seolah membicarakannya. Akan tetapi, pembaca yang meneliti mesin tetap dituntut bersikap metodologis: jangan mengisi jarak antara sesuatu yang diukur dengan sesuatu yang dibayangkan melalui klaim yang melampaui bukti.

Peta perbedaan tafsir: “Nama-nama” bukan satu pendapat tunggal

Ath-Ṭabarī: Menukil pandangan umum tanpa mutlak memilihnya

Ath-Ṭabarī menukil pendapat bahwa yang dimaksud adalah nama segala benda, malaikat, atau keturunan Adam. Namun, ia lebih memilih penafsiran yang lebih sempit, terkait nama keturunan Adam dan para malaikat, berdasarkan kata ganti jamak dalam ﴿ثُمَّ عَرَضَهُمْ﴾, seraya mengakui bahwa pemaknaannya mencakup kelompok makhluk yang lebih luas juga mungkin dalam bahasa Arab. [R2] Karena itu, tidak tepat mengatakan begitu saja bahwa ath-Ṭabarī “lebih memilih penafsiran Adam diajari nama segala sesuatu”.

Al-Qurṭubī: Nama, tindakan menamai, dan yang dinamai

Al-Qurṭubī membedakan ism sebagai ungkapan, tasmiyah sebagai tindakan menamai, dan musammā sebagai sesuatu yang dinamai. Ia menukil perbedaan tentang cakupannya dan memberikan bobot pada makna umum berdasarkan kata ﴿كُلَّهَا﴾, “semuanya”, sambil tetap mencatat pendapat lain. [R3] Pembahasan tersebut berguna karena mencegah orang menyamakan kata dengan benda yang dirujuknya. Namun, ini tidak otomatis menjadi teori modern mengenai reference atau symbol grounding.

Ar-Rāzī: Keunggulan tidak terletak pada label semata

Ar-Rāzī membahas penafsiran nama-nama sebagai sifat, gambaran, serta karakteristik sesuatu; ia menekankan bahwa pengetahuan tentang hakikat serta sifat lebih tinggi daripada menghafal ucapan belaka. [R4] Ini membuka pertanyaan tentang perbedaan menamai sesuatu dan memahami sifatnya. Namun, pendapat itu bukan konsensus, dan khawāṣṣ atau sifat dalam uraian ar-Rāzī tidak dapat disamakan secara otomatis dengan embeddings atau features dalam komputasi.

Ibn ‘Āsyūr: Kemampuan mengungkapkan makna dalam hikmah kekhalifahan

Ibn ‘Āsyūr menghubungkan pengajaran dengan firman sebelumnya ﴿إِنِّي أَعْلَمُ مَا لَا تَعْلَمُونَ﴾, dan menjadikan kemampuan Adam menerima ilmu sebagai bagian dari hikmah pengangkatannya. Ia membahas pengajaran sebagai sesuatu yang melampaui pemberian daftar hafalan: kemampuan berbicara, menetapkan nama, mengungkapkan isi pikiran kepada orang lain, serta hubungannya dengan perkembangan berbagai ilmu. [R5]

Abū Ḥayyān: Pengajaran mendahului penyampaian nama

Abū Ḥayyān membicarakan perbedaan nama dengan tindakan menamai serta apakah yang diperlihatkan ialah nama atau sesuatu yang dinamai. Ia menghubungkan kisah ini dengan penampakan keutamaan Adam dan keterbatasan pengetahuan malaikat dalam hal yang tidak mereka pelajari. [R6] Urutan pengajaran sebelum penyampaian nama penting: pengetahuan yang ditunjukkan Adam tidak berdiri sendiri terlepas dari pengajaran ilahi.

Batas keagamaan yang harus dijaga: Tidak ada izin untuk menyamakan “nama-nama” dengan tokens, concepts, atau embeddings, dan keberhasilan sistem bahasa tidak otomatis memberinya ruh, taklif, atau status khalifah. Matriks Nama–Dunia–Tanggung Jawab ialah kerangka analitis buatan penulis, bukan tafsir yang diriwayatkan dari generasi awal.

Dari tujuan prediksi menuju struktur internal

Arsitektur Transformer memperkenalkan cara mengolah hubungan antara posisi dalam urutan data dengan mekanisme attention yang efisien, dan pada awalnya diuji dalam penerjemahan mesin. [A4] Makalah itu tidak melakukan pengujian kesadaran atau makna. Attention dalam konteks tersebut adalah nama teknik rekayasa, bukan pembuktian bahwa sistem memiliki fenomena psikologis sebagaimana manusia.

Pada model bahasa autoregresif, tujuan pelatihan yang penting ialah memperkirakan token berikutnya. Penelitian GPT-3 menunjukkan bahwa model dan data yang semakin besar memungkinkan kemampuan menjalankan berbagai tugas berdasarkan beberapa contoh dalam konteks. [A5] Namun, fungsi objektif menunjukkan apa yang dihargai proses optimisasi, bukan semua representasi internal yang mungkin muncul saat model berusaha mencapainya. Pernyataan tepat ialah: kesederhanaan tujuan tidak membuktikan kesederhanaan struktur yang dipelajari, dan keluasan kinerja tidak membuktikan makna atau maksud dengan sendirinya.

Tiga tingkat bukti mengenai representasi

• Kemampuan diekstraksi (decodability): dapatkah sebuah probe luar mengambil informasi dari aktivasi?
• Kestabilan dan generalisasi: apakah informasi tetap ada ketika susunan kata, entitas, atau distribusi berubah?
• Peran kausal: jika representasi yang diduga diubah, apakah perilaku model berubah ke arah yang diprediksi oleh penjelasan tersebut?

Tingkat pertama saja belum cukup. Hewitt dan Liang menunjukkan bahwa probe dapat berhasil karena kemampuan probe sendiri menghafal data. Mereka mengusulkan tugas kontrol serta ukuran selectivity agar bisa dibedakan representasi yang bermakna dari probe yang terlalu kuat. [A15] Kerangka abstraksi kausal oleh Geiger dan rekan-rekan memberikan kriteria lebih ketat: penjelasan tingkat tinggi menjadi lebih kuat apabila hubungan antartindakan intervensi tetap terjaga ketika dibandingkan dengan perhitungan tingkat rendah. [A16]

Othello-GPT: Contoh kuat tetapi terbatas mengenai representasi internal “keadaan dunia”

Sebuah model GPT berukuran kecil dilatih pada urutan langkah permainan Othello, tanpa diberikan gambar papan maupun uraian tertulis mengenai peraturannya. Model itu kemudian menunjukkan kemampuan sangat tinggi memprediksi langkah yang sah dalam lingkungan permainan buatan tersebut. Para peneliti berusaha mengekstraksi keadaan setiap petak papan dari aktivasi model. Probe linier belum memadai, sedangkan probe nonlinier memperlihatkan peningkatan yang besar. [A10]

Yang lebih penting, mereka tidak berhenti pada ekstraksi informasi. Aktivasi diubah agar seolah-olah mewakili keadaan papan alternatif. Peneliti lalu memeriksa apakah prediksi model bergeser ke langkah-langkah yang menjadi sah menurut keadaan alternatif itu. Perubahan ke arah yang diperkirakan memang terjadi dengan kekuatan yang berarti. Intervensi ini menjadikan buktinya lebih kuat daripada sekadar pernyataan bahwa informasi tertentu ditemukan dalam suatu lapisan: hasilnya mendukung peran kausal representasi keadaan dalam perhitungan.

Namun, ruang tugasnya ialah permainan tertutup dengan 64 petak, aturan tetap, dan keadaan yang dapat ditentukan secara tepat. Kesimpulan yang didukung ialah bahwa tujuan pelatihan berbasis urutan dapat mendorong terbentuknya model keadaan internal pada tugas tertentu dan penggunaan kausal representasi tersebut. Kesimpulan itu tidak membuktikan bahwa model mengetahui seluruh dunia terbuka, mempunyai maksud, ataupun sadar.

Ruang dan waktu: Struktur yang teratur, bukan peta lengkap tentang dunia

Gurnee dan Tegmark menemukan representasi linier mengenai ruang dan waktu pada model Llama-2 melalui contoh kota, tempat terkenal, tokoh, dan karya, dengan sejumlah kestabilan terhadap variasi ungkapan serta jenis entitas. [A11] Temuan tersebut lebih kaya daripada hafalan sebuah kalimat, tetapi sebagian besar tetap merupakan bukti bahwa informasi dapat diekstraksi. Temuan itu tidak membuktikan bahwa model selalu menggunakan koordinat yang diekstraksi secara kausal dalam setiap tugas spasial, ataupun bahwa keberadaan dimensi ruang atau waktu setara dengan pemahaman komprehensif mengenai dunia.

Generalisasi: Di mana jalan pintas model mulai terlihat?

Bila suatu sistem menguasai kaidah yang abstrak, kita mengharapkan kaidah itu tetap berlaku ketika bentuk permukaan diubah tetapi strukturnya dipertahankan. Karena itu, pengujian urutan baru, akar kata yang belum dikenal, dan variasi tidak relevan merupakan alat penting untuk membedakan generalisasi yang kuat dari jalan pintas statistik.

Urutan baru

Dalam Ordered CommonGen, Sakai dan rekan-rekannya menguji 36 model pada tugas penggunaan konsep yang diberikan menurut urutan tertentu, bukan hanya menyebutkan konsep-konsep itu dalam urutan apa pun. Mereka menemukan kecenderungan menggunakan susunan yang sudah lazim. Bahkan model terbaik pada pengukuran cakupan berdasarkan urutan masih jauh dari sempurna. [A17]

Akar kata baru dan kerumitan morfologi

Ismayilzada dan rekan-rekannya menguji generalisasi morfologis dalam bahasa Turki dan Finlandia. Kesulitan menonjol terutama ketika model berhadapan dengan akar kata baru dan meningkatnya kerumitan bentuk. Hasilnya memperlihatkan perbedaan antara mengenali contoh yang sudah biasa dan menerapkan struktur pada bahan baru. [A19]

Perubahan yang semestinya tidak mengubah jawaban

Zhao dan rekan-rekannya mengubah panjang pilihan jawaban, cara penyajian soal, dan nama-nama yang tidak menentukan isi pertanyaan. Dalam sejumlah pengaturan, skor berubah tajam meskipun kandungan masalah yang hendak diukur tetap sama. [A20] Temuan-temuan ini tidak meniadakan setiap bentuk representasi abstrak, tetapi menunjukkan bahwa satu benchmark dapat mencampur pengetahuan dengan bias format dan pilihan.

Apakah teks saja cukup untuk menghasilkan makna?

Bender dan Koller berargumen bahwa pembelajaran dari bentuk bahasa saja tidak dengan sendirinya memberi sistem niat komunikasi atau rujukan ke dunia luar sebagaimana terdapat dalam makna bahasa manusia. [A6] Bisk dan rekan-rekannya memperluas keberatan ini ke pengalaman fisik serta sosial bersama, lalu mengajukan program penelitian yang menghubungkan bahasa dengan persepsi dan tindakan. [A7]

Namun, pihak yang berbeda pandangan juga patut ditanggapi secara serius. Piantadosi dan Hill berpendapat bahwa hubungan dalam sebuah sistem yang membentuk peran konseptual dapat membawa aspek makna yang nyata. Bahasa manusia sendiri bukan bentuk tanpa dunia, melainkan jejak pengetahuan yang terakumulasi dari manusia yang hidup di dunia. [A9] Karena itu, tidak tepat mengatakan bahwa teks sama dengan “nol makna”, sebagaimana tidak tepat menyatakan bahwa hubungan internal sudah mencukupi seluruh dimensi makna.

Model multimodal dan robotika menambah jalur hubungan dengan lingkungan. PaLM-E menggabungkan teks, gambar, dan estimasi keadaan bernilai kontinu dalam tugas-tugas robotik serta visual, sekaligus menunjukkan transfer terbatas antarsejumlah bidang pelatihan. [A12] Ini menambah dasar untuk membahas grounding dibanding model yang hanya membaca teks. Namun, hasil itu tidak membuktikan pengalaman subjektif, maksud, atau kelayakan menerima tanggung jawab moral.

Matriks Nama–Dunia–Tanggung Jawab

Matriks ini merupakan sumbangan analitis penulis. Ini bukan pengukur kesadaran ataupun standar akademis yang telah disahkan, melainkan alat untuk memisahkan jenis klaim dari bukti yang diperlukan.

Kesadaran bukan lapisan ketujuh. Sebuah sistem mungkin menjalankan fungsi-fungsi di atas tanpa tersedia ukuran yang memutuskan apakah ia mempunyai pengalaman subjektif. Karena itu, penelitian fungsional tentang global workspace atau akses internal ke informasi harus diperlakukan sebagai bukti untuk fungsi tertentu, bukan bukti langsung mengenai kesadaran.

Protokol pengujian adversarial sebelum menyatakan sebuah model “memahami”

1. Mengganti nama: tukar nama entitas dengan kata rekaan tanpa mengubah hubungan.
2. Memparafrasekan: ubah urutan dan pola kalimat tanpa mengganti proposisinya.
3. Menambahkan pengalih perhatian: sisipkan informasi tidak relevan dan uji ketahanan jawaban.
4. Menetralkan bentuk pilihan: ubah panjang pilihan dan posisi jawaban benar.
5. Komposisi baru: terapkan kaidah pada akar kata atau struktur yang belum pernah muncul dalam bentuk tersebut.
6. Memisahkan saluran: bandingkan teks saja dengan teks yang dilengkapi penglihatan atau tindakan.
7. Mengendalikan probe: pakai tugas kontrol dan ukuran selectivity.
8. Intervensi internal: ubah representasi yang diduga penting lalu amati hasil kontrafaktual.
9. Transfer: uji kemampuan pada distribusi atau lingkungan baru.
10. Kalibrasi: ukur keyakinan dan ketidakpastian, bukan akurasi semata.

Protokol itu tidak menghasilkan satu angka yang disebut “skor pemahaman”. Tujuannya mencegah tiga penyamaan yang salah: hafalan = generalisasi, kemampuan ekstraksi = sebab, dan kefasihan = maksud.

Keberatan terkuat terhadap matriks tersebut

Perilaku adalah satu-satunya bukti yang kita miliki bahkan tentang manusia

Keberatan ini kuat. Kita tidak melihat pengalaman batin orang lain secara langsung; kita menyimpulkannya dari perilaku, struktur, dan sejarah bersama. Maka perilaku mesin tidak boleh dikesampingkan. Namun, ketika kita bisa mengakses aktivasi internal dan melakukan intervensi, kita berhak menguji hipotesis mekanistis yang saling bersaing, bukan berhenti pada penampilan luar. Tanggung jawab manusia pun tidak disandarkan pada satu jawaban verbal, melainkan pada keberlanjutan diri, tubuh, hubungan, dan kemampuan menghadapi akibat tindakan.

Manusia mempelajari banyak hal hanya melalui bahasa

Benar. Kita mengenal kota yang belum dikunjungi dan abad yang tidak kita alami. Karena itu, bersentuhan langsung dengan setiap rujukan bukan syarat masuk akal bagi semua makna. Tetapi pembelajaran bahasa manusia berlangsung dalam masyarakat, tubuh, praktik, dan prosedur koreksi dengan merujuk kembali kepada dunia atau rantai pengetahuan yang dapat dipercaya. Hal itu tidak membuktikan bahwa model berbasis teks tidak mempunyai makna apa pun; yang tampak ialah cara hubungannya dengan dunia berbeda dan membutuhkan deskripsi lebih tepat.

Intervensi sudah membuktikan adanya model dunia

Dalam Othello dan contoh lain memang ada bukti kuat mengenai representasi keadaan yang berperan secara kausal. Matriks ini tidak menolaknya; bukti tersebut memperoleh tempat pada lapisan kelima. Yang ditolak ialah generalisasi berlebihan: model untuk papan permainan tertutup tidak serta-merta menjadi model dunia sosial dan fisik yang terbuka.

Multimodalitas menyelesaikan persoalan grounding

Penglihatan dan tindakan mengurangi kesenjangan penting karena memberikan saluran koreksi yang tidak tersedia dalam teks saja. Akan tetapi, keberhasilan pada sejumlah tugas robot atau gambar belum membuktikan grounding yang terbuka sepenuhnya, apalagi maksud atau kesadaran. Grounding sendiri mempunyai tingkat keterhubungan, koreksi, dan tindakan yang beragam.

Lapisan-lapisan itu sendiri adalah pilihan filosofis penulis

Benar. Jumlah dan batas lapisannya terbuka untuk kritik. Kerangka ini bukan temuan empiris ataupun ukuran yang sudah disertifikasi. Manfaatnya ialah memperlihatkan secara terang lompatan antara “kami menemukan representasi” dengan “kesadaran terbukti”, sehingga lompatan tersebut dapat dipersoalkan secara terbuka, bukan tersembunyi di balik satu kata ambigu.

Turing dan Searle: Kriteria perilaku dan batas-batas program

Alan Turing mengusulkan imitation game untuk mengubah pertanyaan “bisakah mesin berpikir?” menjadi tolok ukur perilaku yang bisa diuji. [A1] Kelebihannya ialah membuka jalan keluar dari pertengkaran definisi tanpa pengujian. Namun, permainan itu bukan alat pencitraan keadaan internal dan tidak menjadikan keberhasilan berbahasa sebagai bukti kesadaran.

Sebaliknya, argumen Kamar Tiongkok dari John Searle menggugat anggapan bahwa menjalankan program simbolik sudah cukup untuk menghasilkan intensionalitas atau maksud batin. [A2] Argumen ini berpengaruh dalam filsafat, tetapi bukan eksperimen laboratorium yang membuktikan ketidakmungkinan semua bentuk pemahaman mesin. Turing ditempatkan sebagai pembela pentingnya pengujian perilaku; Searle sebagai peringatan bahwa pemrosesan aturan belum tentu sama dengan maksud. Keduanya tidak menutup penyelidikan empiris modern.

Bagaimana dengan kesadaran?

Belum ada satu pengujian yang disepakati untuk mengubah kefasihan bahasa langsung menjadi putusan pasti mengenai kesadaran. Kemampuan berkata “saya merasa” tidak dengan sendirinya merupakan laporan independen tentang keadaan batin; itu adalah keluaran bahasa yang dipengaruhi data dan instruksi. Sebaliknya, perbedaan struktur mesin dari manusia tidak cukup untuk membuktikan bahwa kesadaran mustahil muncul pada semua mesin masa depan.

Pernyataan yang dapat dipertahankan ialah: bukti yang tersedia tentang representasi, generalisasi, dan intervensi belum memutuskan ada atau tidaknya pengalaman subjektif. Posisi ini lebih sempit daripada penyangkalan mutlak ataupun penetapan mutlak. Ulasan Mitchell dan Krakauer menekankan bahwa perdebatan tentang “pemahaman” bergantung pada definisi dan tingkat pengujian yang berbeda, sehingga bukti tidak patut disederhanakan menjadi satu slogan. [A14]

Siapa bertanggung jawab ketika sistem “mengambil keputusan”?

Bahkan jika kemampuan perencanaan dan generalisasi sistem meningkat, rantai pengambil keputusan manusia tidak lenyap: pihak yang mengumpulkan data, merancang tujuan, memilih model, memasang pembatas, meluncurkannya, memasukkannya ke lembaga, dan mengandalkan keluarannya. Ungkapan “model memutuskan” dapat menjadi singkatan operasional, tetapi tidak boleh menyembunyikan pembagian tanggung jawab.

Di sini konteks Al-Qur'an kembali relevan tanpa mengada-ada hubungan teknis. Pengajaran nama terjadi dalam kisah seorang khalifah yang dapat membangun ataupun berbuat kerusakan. Bertambahnya kemampuan tidak otomatis berarti meningkatnya kebajikan; sebaliknya, tanggung jawab atas tujuannya semakin penting. Hubungan teks dengan mesin bukan bahwa Adam “dilatih” layaknya model, tetapi bahwa ilmu dan kemampuan tidak terlepas dari tanggung jawab moral.

Lampiran: Klaim, bukti, dan batasnya

Daftar klaim, sumber, dan batas lebih lengkap tersedia dalam claims.json. Daftar mesin ini memudahkan pemeriksaan, tetapi tidak menggantikan pembacaan sumber-sumber asli.

Batas dan hal-hal yang tidak diklaim penelitian ini

• Tidak mengklaim bahwa Al-Qur'an meramalkan kecerdasan buatan atau struktur Transformer.
• Tidak menyamakan pengajaran nama kepada Adam dengan pelatihan model bahasa.
• Tidak menyatakan semua model “memahami”, maupun semua model “sama sekali tidak memahami”.
• Tidak menganggap setiap embedding sebagai konsep sungguhan hanya karena informasi darinya dapat diekstraksi.
• Tidak menyatakan bahwa world model dalam tugas terbatas merupakan bukti kesadaran.
• Tidak memperlakukan laporan sebuah sistem tentang dirinya sebagai bukti independen atas pengalaman subjektif.
• Tidak menyatakan bahwa Matriks Nama–Dunia–Tanggung Jawab ialah standar tervalidasi: matriks itu terbuka bagi kritik.
• Belum ada penelaahan independen oleh ahli syariat atau spesialis pembelajaran mesin sampai tanggal pembaruan terakhir.

Kesimpulan yang dapat dikutip

Deskripsi terbaik yang tersedia bukan bahwa model “sekadar burung beo”, tetapi juga bukan bahwa ia “pikiran manusia digital”. Ada bukti bahwa tujuan prediksi dapat membentuk representasi internal yang teratur, dan dalam tugas terbatas representasi itu memiliki peran kausal. Ada pula bukti mengenai kerapuhan, penggunaan jalan pintas, dan celah generalisasi. Karena itu, “pemahaman” tidak bisa diringkas menjadi satu nilai: kita harus menunjukkan lapisan mana yang benar-benar diuji, dengan metode apa, dan batas mana yang belum dijangkau.

Pembacaan terhadap pengajaran nama kepada Adam menambahkan disiplin dari wilayah lain. Ilmu dalam Al-Baqarah 30–33 berada dalam konteks kekhalifahan, keterbatasan pengetahuan makhluk, dan tanggung jawab atas kemampuan. Ini tidak menggambarkan algoritme komputer, tetapi mengingatkan bahwa peningkatan kemampuan bukan pembenaran moral dengan sendirinya. Pertanyaan pentingnya bukan hanya apa yang dapat dikatakan mesin, melainkan bagaimana simbolnya berhubungan dengan dunia, bukti kausal mana yang tersedia, serta siapa menentukan tujuan dan memikul akibat penggunaan sistem.

Asal pertanyaan dalam buku Qul Sīrū fī al-Arḍ

Kajian ini bermula dari bagian “Manusia yang Diajari” dalam buku Ahmad Alhafiz, Qul Sīrū fī al-Arḍ fa-nẓurū Kayfa Bada'a al-Khalq (قل سيروا في الأرض فانظروا كيف بدأ الخلق), khususnya peralihan dari nama menuju konsep, hubungan, model, dan akhirnya tanggung jawab manusia. Seluruh klaim tafsir maupun teknis dalam studi ini didukung sumber yang berdiri sendiri di luar naskah buku.

Halaman buku — dalam tahap penerbitan.

Status penelaahan dan koreksi

Naskah ini belum menjalani penelaahan independen ataupun pemeriksaan spesialis. Sumber-sumber primer dibahas, sedangkan batas klaim dan keberatan dijelaskan agar mudah diaudit. Kajian ini tidak diajukan sebagai karya akademik yang telah melewati peer review. Koreksi substantif dan penelaahan luar, jika dilakukan, perlu tercatat dalam riwayat pembaruan dan daftar sumber.

Rujukan sitasi: Alhafiz, Ahmad. “Pengajaran Nama dan Kecerdasan Buatan: Dari Nama Menuju Dunia dan Tanggung Jawab.” Situs resmi Ahmad Alhafiz, 2 September 2026; terakhir diperbarui 3 September 2026. Sumber Arab. Format BibTeX, RIS, CFF, dan catatan klaim.

Referensi beranotasi

1. Al-Qur'an, Al-Baqarah 30–33: teks dan konteks. Kekhalifahan, risiko kerusakan, pengajaran, pengakuan malaikat akan keterbatasan ilmu, serta penyampaian nama. [R1]
2. Ath-Ṭabarī, Jāmiʿ al-Bayān, Al-Baqarah 31: tafsir. Berguna untuk mengetahui perbedaan pendapat dan mengoreksi penisbatan pilihan makna umum kepadanya. [R2]
3. Al-Qurṭubī, tafsir Al-Baqarah 31: tafsir. Perbedaan nama, penamaan, dan yang dinamai. [R3]
4. Ar-Rāzī, Mafātīḥ al-Ghayb, Al-Baqarah 31: tafsir. Sifat, karakteristik, dan nilai mengetahui hakikat di samping kata. [R4]
5. Ibn ʿĀsyūr, At-Taḥrīr wa at-Tanwīr, Al-Baqarah 31: tafsir. Pengajaran, kekhalifahan, ekspresi, perkembangan ilmu. [R5]
6. Abū Ḥayyān, Al-Baḥr al-Muḥīṭ, Al-Baqarah 31: tafsir. Nama dan yang dinamai, pengajaran sebelum penyampaian. [R6]
7. A. M. Turing (1950), “Computing Machinery and Intelligence”: Mind. Usulan permainan imitasi sebagai kriteria perilaku, bukan pengukuran langsung kesadaran. [A1]
8. John Searle (1980), “Minds, Brains, and Programs”: Behavioral and Brain Sciences. Argumen Kamar Tiongkok sebagai keberatan filosofis terhadap kesepadanan program dan maksud. [A2]
9. Stevan Harnad (1990), “The Symbol Grounding Problem”: Physica D. Rumusan klasik masalah penautan simbol. [A3]
10. Vaswani et al. (2017), “Attention Is All You Need”: NeurIPS. Dasar arsitektur Transformer; bukan kajian kesadaran. [A4]
11. Brown et al. (2020), “Language Models are Few-Shot Learners”: NeurIPS. Perluasan kinerja model autoregresif pada contoh dalam konteks. [A5]
12. Bender & Koller (2020), “Climbing towards NLU”: ACL. Perbedaan bentuk bahasa dan makna yang berhubungan dengan niat dan rujukan. [A6]
13. Bisk et al. (2020), “Experience Grounds Language”: EMNLP. Bahasa terkait dengan pengalaman, lingkungan sosial, dan tindakan. [A7]
14. Lake & Baroni (2018), “Generalization without Systematicity”: ICML. Kesulitan awal model urutan dalam generalisasi komposisional. [A8]
15. Piantadosi & Hill (2022), “Meaning without Reference in Large Language Models”: arXiv, pra-cetak. Argumen tandingan tentang peran konseptual sebagai sebagian landasan makna; belum melalui penelaahan jurnal. [A9]
16. Li et al. (2022), “Emergent World Representations”: arXiv. Model Othello, ekstraksi keadaan, dan intervensi kausal dalam domain tertutup. [A10]
17. Gurnee & Tegmark (2024), “Language Models Represent Space and Time”: ICLR. Representasi ruang dan waktu yang dapat diekstraksi. [A11]
18. Driess et al. (2023), “PaLM-E: An Embodied Multimodal Language Model”: ICML, PMLR 202. Perpaduan bahasa, visual, dan keadaan robot dalam tugas tertentu. [A12]
19. Mahowald et al. (2024), “Dissociating Language and Thought in Large Language Models”: studi. Pembedaan kemampuan bahasa formal dari kemampuan fungsional yang lebih luas. [A13]
20. Mitchell & Krakauer (2023), “The Debate over Understanding in AI’s Large Language Models”: PNAS. Telaah tentang ambiguitas konsep “pemahaman” dan tingkat bukti. [A14]
21. Hewitt & Liang (2019), “Designing and Interpreting Probes with Control Tasks”: ACL. Pentingnya tugas pembanding dan ukuran selectivity. [A15]
22. Geiger et al. (2025), “Causal Abstraction”: JMLR. Pengujian hubungan kausal antara abstraksi dan komputasi model. [A16]
23. Sakai et al. (2025): ACL, Ordered CommonGen. Generalisasi terhadap urutan baru dan bias urutan yang sudah dikenal. [A17]
24. Ismayilzada et al. (2025): NAACL. Pengujian akar kata baru dan morfologi aglutinatif. [A19]
25. Zhao et al. (2025): EMNLP. Kepekaan skor terhadap panjang pilihan, format, dan nama tidak relevan. [A20]
26. Schaeffer et al. (2023), “Are Emergent Abilities of Large Language Models a Mirage?”: NeurIPS. Bagaimana metrik diskret dapat menghasilkan lonjakan kinerja yang tampak tiba-tiba. [A21]

Referensi agama membuktikan teks dan riwayat perbedaan penafsir, sedangkan referensi teknis menjelaskan pengukuran dalam lingkup masing-masing. Tidak satu pun referensi tersebut boleh dipakai sendirian sebagai bukti ada atau tidaknya kesadaran. Catatan tiap klaim dan keyakinan yang menyertainya tercantum dalam data klaim dan bukti.

Bacaan lanjutan: Ruh, taklif, dan tanggung jawab manusia; Tes Turing dan batas pembuktian kesadaran; seluruh artikel; profil penulis.