মানুষ বোধগম্য, LLM নয়: বিশেষজ্ঞরা মডেলগুলির যুক্তি ব্যাখ্যা করতে পারেননি
যখন আমরা পরীক্ষার ফলাফল দেখি, তখন স্বাভাবিকভাবেই ধরে নেওয়া মনে হয় যে কৃত্রিম বুদ্ধিমত্তা "মানুষের মতো" কাজগুলো সমাধান করে: একই ধারণা, নিয়ম এবং যুক্তি ব্যবহার করে। তবে একটি নতুন গবেষণা এই ধারণাকে প্রশ্নবিদ্ধ করেছে। বিজ্ঞানীরা খুঁজে পেয়েছেন যে LLM-এর উত্তর নির্ধারণকারী লুকানো কাঠামোগুলো বেশিরভাগ ক্ষেত্রে মানুষের ব্যাখ্যার অযোগ্য — এমনকি বিষয়ভিত্তিক বিশেষজ্ঞদের কাছেও।
ঠিক কী পরীক্ষা করা হয়েছিল
গবেষণাপত্রের লেখকরা (arXiv:2608.17810) — অ্যালোনা স্ট্রুগাটস্কি, লিকোল জেইনফেল্ড, জেসন কুপার এবং তাদের সহকর্মীরা — পরিমাণগত যুক্তি এবং রসায়ন সংক্রান্ত কাজগুলিতে মানুষ এবং ছয়টি ভিন্ন LLM-এর উত্তর নিয়েছিলেন। অনুসন্ধানমূলক ফ্যাক্টর বিশ্লেষণের মাধ্যমে তারা প্রতিটি গ্রুপের জন্য লুকানো ল্যাটেন্ট ফ্যাক্টর চিহ্নিত করেছিলেন, যা অনুমান করা হয় এই কাজগুলো সফলভাবে সম্পন্ন করার পেছনে রয়েছে।
এরপর বিষয়ভিত্তিক বিশেষজ্ঞরা অন্ধভাবে প্রাপ্ত কাঠামোগুলো অধ্যয়ন করেন এবং ফ্যাক্টরগুলোর সাথে শিক্ষাগত অর্থ যুক্ত করার চেষ্টা করেন: যেমন, "সূত্র নিয়ে কাজ করার দক্ষতা" বা "স্টোইকিওমেট্রি বোঝা"। অন্ধ ফরম্যাটটি কোনো ইঙ্গিত বাদ দিয়েছিল — বিশেষজ্ঞরা জানতেন না যে গ্রাফগুলো মানুষ বা মডেলের কিনা।
ফলাফল: ব্যাখ্যাযোগ্যতার ব্যবধান
বিশেষজ্ঞরা মানুষের উত্তর থেকে প্রাপ্ত ফ্যাক্টরগুলো প্রায় কোনো সমস্যা ছাড়াই বুঝতে পেরেছিলেন। বেশিরভাগ কাঠামো একটি অর্থপূর্ণ ব্যাখ্যা পেয়েছিল, যা সহজেই শিক্ষা বা রোগ নির্ণয়ের জন্য সুপারিশে রূপান্তরিত করা যায়।
LLM-এর ক্ষেত্রে চিত্রটি ভিন্ন ছিল:
- পরিমাণগত যুক্তিতে, বিশেষজ্ঞরা মডেলগুলির জন্য চিহ্নিত কোনো একটি ফ্যাক্টরও অর্থপূর্ণভাবে ব্যাখ্যা করতে সক্ষম হননি।
- রসায়নে পরিস্থিতি কিছুটা ভালো ছিল, তবে আদর্শ থেকে এখনও অনেক দূরে: কাঠামোর মাত্র অর্ধেকের মতো ব্যাখ্যা করা সম্ভব হয়েছিল।
এর অর্থ কী
লেখকরা একটি গুরুত্বপূর্ণ সিদ্ধান্তে পৌঁছেছেন: যখন LLM পরীক্ষায় উচ্চ ফলাফল দেখায়, এর অর্থ এই নয় যে তারা আমাদের পরিচিত উপায়ে যুক্তি করে। মডেলগুলো পরিসংখ্যানগতভাবে কার্যকর, কিন্তু মানুষের জন্য সম্পূর্ণ "অপরিচিত" উপায়ে সমস্যা সমাধান করতে পারে। তাদের অভ্যন্তরীণ প্রক্রিয়াগুলো এমন প্যাটার্নের স্তরে কাজ করে যা কোনো বোধগম্য শিক্ষাগত বা জ্ঞানীয় অর্থ বহন করে না।
এই পর্যবেক্ষণটি প্রচলিত অনুশীলনকে চ্যালেঞ্জ করে, যেখানে AI-এর ফলাফলের ভিত্তিতে জ্ঞান বা দক্ষতার স্তর সম্পর্কে সিদ্ধান্ত নেওয়ার চেষ্টা করা হয়। যদি আমরা ব্যাখ্যা করতে না পারি যে উত্তরের পেছনে ঠিক কোন কাঠামো রয়েছে, তাহলে আমরা মডেলগুলিকে অস্তিত্বহীন ক্ষমতা আরোপ করার ঝুঁকি নিই — বা বিপরীতভাবে, প্রকৃত সীমাবদ্ধতাগুলো উপেক্ষা করার ঝুঁকি নিই।
সামনে এগোনোর পথ
গবেষণাটি দাবি করে না যে LLM ব্যাখ্যা করা নীতিগতভাবে অসম্ভব। এটি কেবল দেখায় যে মানুষের জ্ঞান অধ্যয়নের জন্য তৈরি শাস্ত্রীয় পদ্ধতিটি সরাসরি মডেলগুলিতে প্রযোজ্য নয়। সম্ভবত, মৌলিকভাবে নতুন বিশ্লেষণ পদ্ধতি তৈরি করার প্রয়োজন হবে — এমন পদ্ধতি যা ল্যাটেন্ট কাঠামোর "অ-মানবিক" প্রকৃতিকে বিবেচনা করে।
এখন পর্যন্ত প্রশ্নটি উন্মুক্ত রয়েছে: যদি বিশেষজ্ঞরা মডেলগুলির যুক্তি ব্যাখ্যা করতে না পারেন, তাহলে আমরা কি শিক্ষা এবং জ্ঞান মূল্যায়নে তাদের ব্যবহারের উপর নির্ভর করতে পারি? উত্তরটি সম্ভবত AI পরীক্ষার পদ্ধতিগুলির পুনর্বিবেচনা এবং মেশিনের "বুদ্ধিমত্তা" সম্পর্কে আমাদের প্রত্যাশার পুনর্বিবেচনা উভয়েরই প্রয়োজন করবে।
