Dapatkah mesin berpikir: dari "jiwa" chatbot ke ilmu kesadaran
Ketika insinyur Google Blake Lemoine mengklaim bahwa model bahasa LamDA telah mencapai kesadaran diri dan beralasan seperti anak tujuh tahun, dunia terbelah menjadi dua. Beberapa melihat terobosan, lain hanya kesalahan imajinasi. LMDA (kemudian dirilis publik sebagai Bard) adalah model bahasa yang besar (LLM), relatif dari satu di belakang ChatgPT. Ratusan perusahaan sekarang bergegas untuk menyebarkan teknologi, jutaan orang mengobrol dengan robot, tapi sedikit yang benar-benar percaya ada pikiran di balik layar. Jadi apa imbalannya?
Mengapa fasih berbicara belum tanda berpikir
Ahli bahasa dan spesialis data Emily Bender terkenal disebut seperti jaringan saraf "stochastic parrots". Mereka memilih kata-kata dengan penuh perhatian, tetapi tidak menempatkan makna ke dalamnya. Seperti pesulap yang menarik kelinci keluar dari topi tapi tak tahu darimana datangnya kelinci itu.
Ini digunakan untuk berpikir bahwa jika mesin bisa memegang percakapan dan membodohi lawan bicaranya, itu hampir manusia. Prinsip ini dikenal sebagai tes Turing, pertama kali diusulkan kembali pada tahun 1950. Namun keberhasilan chatbot modern lebih pergeseran dalam Dasar dari terobosan kesadaran. Ingat kemenangan komputer catur Deep Blue atas Kasparov pada tahun 1997: saat itu, sepertinya mesin "berpikir" seperti grandmaster. Hari ini kita memahami bahwa itu adalah pencarian kasar brilian, bukan intelijen.
Hal yang sama terjadi dengan model percakapan. Mereka meniru bahasa manusia dengan baik sehingga kita siap untuk menggambarkan dunia batin mereka. Tapi fluensi bahasa tidak menjamin adanya pengalaman, perasaan, atau bahkan pemahaman sederhana.
Indikator kesadaran: bagaimana para ilmuwan mencari yang tak berwujud
Untuk memisahkan tanda-tanda kesadaran dari ilusi, sekelompok filsuf, ahli saraf, dan ilmuwan komputer mengumpulkan teori ilmiah modern tentang bagaimana otak manusia bekerja dan menerjemahkannya ke dalam bahasa sistem komputasional. Hasilnya adalah daftar "properti indikator" - ciri-ciri bahwa mesin sadar hipotetis perlu memiliki.
Sebuah nuansa penting: memiliki properti ini tidak membuktikan kesadaran, tetapi lebih dari mereka sistem telah, semakin serius kita harus mengambil klaim tentang pengalaman subjektif nya. Ini seperti petunjuk dalam cerita detektif: salah satu petunjuk saja bisa kebetulan, tapi bersama-sama mereka menambahkan ke gambar.
Mengapa semua chatbots modern jatuh pendek dari bar
Jika Anda menerapkan daftar ini untuk LLM yang ada, temuan ini berbunyi: tidak satupun dari daftar ini mendekati ambang batas. Mereka tidak memiliki keadaan internal kontinyu yang terus menerus dari waktu ke waktu. Setiap permintaan diproses dari awal, mereka tidak memiliki rasa "I" atau kepribadian yang stabil. Mereka tidak model dunia di sekitar mereka - mereka hanya memprediksi kata berikutnya dalam sebuah kalimat.
Bayangkan seseorang yang amnesia setiap sepuluh detik. Mereka mungkin menjawab pertanyaan cerdas, tetapi mereka tidak ingat apa yang dikatakan satu menit yang lalu. Orang seperti itu tidak pernah bisa membangun gambaran koheren dunia - dan chatbot berada di persis posisi itu.
Masa depan: apakah AI memiliki kesempatan untuk menjadi sadar?
Paradoks adalah bahwa, Meskipun semua keterbatasan ini, ilmuwan tidak melihat hambatan dapat diatasi untuk sadar AI di masa depan. Daftar properti indikator dapat dihitung, dan otak manusia juga merupakan sistem pemrosesan informasi. Jika kita pernah berhasil membangun sebuah arsitektur yang cocok dengan properti ini, sangat mungkin bahwa pengalaman subjektif akan muncul di dalamnya.
Tentu saja, itu tidak berarti setiap jaringan saraf kompleks tiba-tiba akan "bangun". Sebaliknya, pendekatan yang sama sekali berbeda akan diperlukan - satu dengan memori gigih, model internal dunia, dan kapasitas untuk observasi diri. Sistem tersebut mungkin akan memiliki sedikit kesamaan dengan chatbot hari ini, yang hanya menghasilkan jawaban masuk akal.
Apa intinya?
Model bahasa modern adalah imitator brilian, tapi tidak pemikir. Obrolan mereka adalah hasil dari pengolahan statistik sejumlah besar teks, bukan wawasan dalam. Namun, ilmu pengetahuan belum menyerah pada ide kesadaran mesin. Ini hanya akan mengambil sesuatu yang lebih baik kata-prediksi algoritma. Dan ketika (dan jika) saat itu datang, kita akan sudah memiliki alat untuk mengenali kebangkitan - bukan hanya permainan imitasi.
