Batas kognitif dari AI: apa yang mencegah model dari benar-benar berpikir
Sistem generatif dan agentic sudah dapat menulis kode, melakukan dialog, dan memecahkan tugas-tugas sempit. Tetapi ketika Anda mencoba untuk menggunakannya dalam proyek jangka panjang atau situasi yang tidak biasa, itu dengan cepat menjadi jelas: di belakang fluensi permukaan sering terletak kurangnya alasan berkelanjutan, memori, dan pengendalian diri. Survei terbaru yang diposting pada arxiv (2602553) mencoba untuk mensistemasi masalah ini dan menguraikan jalan dari "pelaksana pintar" ke sistem dengan kemampuan kognitif asli.
Penulis karya - Taye Akinrele, Sindhuja Penchala, Noorbakhsh Amiri Golilarz, Sudip Mittal, dan Shahram Ramhimi - mengumpulkan dan diklasifikasikan penelitian pada celah antara kemampuan AI saat ini dan apa yang diperlukan untuk perilaku kognitif. Daripada hanya daftar kekurangan, mereka mengusulkan taksonomi meliputi lima dimensi kunci. Ini bukan hanya sebuah kerangka dasar teoritis. Ini memungkinkan pengembang melihat kemampuan mana yang tetap terfragmentasi dan di mana usaha harus terkonsentrasi.
Lima dimensi dari kesenjangan kognitif
Dimensi pertama model negara tetapIni menyangkut kemampuan sistem untuk mempertahankan dan memperbarui model internal dunia selama periode panjang. Bagi kebanyakan model saat ini, konteks terbatas pada jendela perhatian, sehingga mereka "lupa" interaksi sebelumnya atau gagal untuk benar menghubungkan peristiwa-peristiwa terkini dengan yang sebelumnya. Ini penting bagi tugas yang memerlukan keputusan perencanaan dan sekuensial.
Dimensi kedua adalah goal-directed otonomiSebuah model mungkin dapat merumuskan tujuan, tapi memegangnya sepanjang skenario kompleks adalah masalah yang berbeda. Seorang agen sering menyimpang dari rencana yang dimaksudkan pada hasil pertama yang tak terduga karena tidak dapat menyesuaikan strateginya tanpa intervensi eksternal.
Dimensi ketiga adalah pemantauan dan kontrol diriIni termasuk kemampuan mengevaluasi tindakan seseorang, melihat kesalahan, meragukan jawaban, dan mengkalibrasi kepercayaan diri. Model generatif modern sering menampilkan terlalu percaya diri, dan mekanisme verifikasi internal baik tidak hadir atau beroperasi hanya sebagai langkah post- tambahan.
Yang keempat adalah interaksi lingkunganUntuk beroperasi di dunia nyata, seorang agen tidak hanya harus menerima umpan balik tetapi juga percobaan aktif, menjelajahi ruang negara bagian, dan belajar dari kegagalan. Saat ini, kebanyakan sistem dilatih pada dataset statis dan tidak bisa benar-benar "menyelidiki" lingkungan secara langsung.
Dimensi kelima adalah belajar dan adaptasiIni adalah kemampuan untuk mengubah perilaku berdasarkan pengalaman baru, bukan hanya untuk melatih lebih lanjut pada contoh berlabel. Belajar seumur hidup, mentransfer keterampilan melintasi tugas, dan kekonyolan untuk perubahan kondisi tetap menjadi masalah terbuka.
Arsitektur ACIA dan akunition- evaluasi sentris
Untuk membawa semua lima arah bersama-sama, penulis mengusulkan arsitektur konseptual, Adaptive Cognitive Intelligence Architecture (ACIA)Ini bukan produk yang sudah dibuat, tapi kerangka kerja: ini menggambarkan betapa gigih keadaan, pengaturan, pemantauan diri, interaksi lingkungan, dan modul pembelajaran dapat dihubungkan ke dalam satu sistem. Dalam pandangan penulis, arsitektur ini harus berfungsi sebagai dasar untuk percobaan dan teknik masa depan bekerja.
Perhatian khusus dalam survei diberikan kepada Evaluasi sentrisTradisional uji benchmarks akurasi pada tugas individu tetapi tidak mengukur apakah sistem dapat mempertahankan alasan dalam jarak jauh, beradaptasi dengan baru, atau mengendalikan tindakan sendiri. Pendekatan baru memegang bahwa tes harus dibangun di sekitar fungsi kognitif; sebaliknya, kemajuan di lapangan akan dievaluasi dengan tidak benar.
Apa selanjutnya?
Taksonomi dalam survei adalah upaya untuk membawa ketertiban untuk penelitian tersebar. Alih-alih mengumpulkan trik terisolasi seperti meningkatkan memori atau mekanisme perhatian baru, pengembang mendapatkan peta umum masalah. Hal ini terutama penting pada jalan menuju AI Kognitif dan, akhirnya, Kecerdasan Umum Buatan (AGI).
Untuk saat ini, model generatif dan agentic tetap kuat tapi alat terbatas. Mereka menangani tugas dengan baik ketika tidak ada negara yang gigih, kritik internal, atau jangka panjang tujuan mengejar diperlukan. Tapi pemikiran yang benar - dengan kapasitas untuk regulasi diri, belajar dari pengalaman, dan adaptasi dalam lingkungan tak terduga - masih di luar mereka. Menyelaraskan keterbatasan ini adalah langkah pertama untuk mengubah janji itu dari klaim pemasaran menjadi kenyataan rekayasa.
