কাঠামোগত নিয়ম বনাম 'ধারণাগত দৃষ্টিভঙ্গির বিচ্যুতি': কীভাবে LLM-রা নলেজ গ্রাফে নির্ভরযোগ্যভাবে যুক্তি করতে শেখে

27 আগস্ট 2026১২ প্রদর্শন

প্রস্তাবিত নতুন প্রিপ্রিন্টে SIRLM মডেলটি ভাষা মডেলকে যাচাইযোগ্য কাঠামোগত নিয়ম তৈরি করতে এবং গ্রাফ-নিশ্চিত প্রমাণের উপর নির্ভর করতে শেখায়, যা জ্ঞান কাঠামো এবং LLM-এর প্যারামেট্রিক মেমরির মধ্যে ব্যবধান দূর করে। লেখকরা ৩৬টি ডেটাসেটে ১৭টি আধুনিক পদ্ধতির উপর শ্রেষ্ঠত্বের কথা জানিয়েছেন।

কাঠামোগত নিয়ম বনাম 'ধারণাগত দৃষ্টিভঙ্গির বিচ্যুতি': কীভাবে LLM-রা নলেজ গ্রাফে নির্ভরযোগ্যভাবে যুক্তি করতে শেখে

জ্ঞান গ্রাফ হলো তথ্য এবং তাদের মধ্যে সম্পর্ক সংরক্ষণের একটি সুবিধাজনক উপায়: মানুষ, কোম্পানি, ঘটনা, বৈজ্ঞানিক প্রকাশনা এবং হাজার হাজার ধরনের সম্পর্ক। কিন্তু এই ধরনের গ্রাফের মূল মূল্য ডেটাবেসে নয়, বরং যুক্তি করার ক্ষমতায়: ইতিমধ্যে জানা সম্পর্কের উপর ভিত্তি করে লুকানো তথ্য খুঁজে বের করা। সাম্প্রতিক বছরগুলিতে, এই কাজটি সমাধানের জন্য বড় ভাষার মডেলগুলিকে ক্রমবর্ধমানভাবে ব্যবহার করার চেষ্টা করা হচ্ছে — তারা টেক্সট নিয়ে ভালো কাজ করে এবং "চলতে চলতে" শিখতে সক্ষম। তবে, এই পদ্ধতির একটি সূক্ষ্ম কিন্তু গুরুত্বপূর্ণ সীমাবদ্ধতা রয়েছে: মডেলটি গ্রাফের কাঠামো থেকে যুক্তি বের করার পরিবর্তে একটি বিশ্বাসযোগ্য উত্তর মনে রাখতে পারে।

arXiv-এ সাম্প্রতিক একটি প্রিপ্রিন্টে (2608.17443), গবেষকদের একটি দল — Xingrui Zhuo, Jiapu Wang, Manzong Huang, Gongqing Wu এবং Xindong Wu — SIRLM নামে একটি মডেল বর্ণনা করেছেন যা কাঠামোগত নিয়ম তৈরি করার মাধ্যমে এই সমস্যাটি মোকাবিলা করার চেষ্টা করে। কিন্তু সমাধানটি বিশ্লেষণ করার আগে, ঠিক কী ভাঙছে তা বোঝা উচিত।

"যুক্তির প্রমাণ উপলব্ধির প্রবাহ" কী

যখন একটি ভাষার মডেল জ্ঞান গ্রাফ নিয়ে কাজ করে, তখন এটি সাধারণত গ্রাফটিকে গ্রাফ হিসেবে নয়, বরং টেক্সট ট্রিপলের একটি ক্রম হিসেবে পায়: বিষয়, সম্পর্ক, বস্তু। এই উপস্থাপনা নিজেই LLM-এর জন্য সুবিধাজনক, কারণ মডেলটি টেক্সটে প্রশিক্ষিত। কিন্তু একটি গ্রাফ শুধুমাত্র তথ্যের একটি তালিকা নয়, এটি সীমাবদ্ধতাও: ট্রানজিটিভিটি, সিমেট্রি, টাইপের শ্রেণিবিন্যাস, দ্বন্দ্বের উপর নিষেধাজ্ঞা। কাঠামো থেকে টেক্সটে রূপান্তরের সময়, এই সীমাবদ্ধতাগুলি আংশিকভাবে হারিয়ে যায়।

লেখকরা সমস্যাটিকে "যুক্তির প্রমাণ উপলব্ধির প্রবাহ" (reasoning evidence perception drift) বলে অভিহিত করেছেন। সারমর্ম হল, মডেলের প্যারামেট্রিক জ্ঞান — যা এটি কোটি কোটি টেক্সটে প্রশিক্ষণের সময় "শিখেছে" — গ্রাফ থেকে আসা কাঠামোগত সংকেতের উপর প্রাধান্য পেতে শুরু করে। মডেলটি সহজেই একটি প্রশ্নের উত্তর দিতে পারে কারণ এটি প্রশিক্ষণের ডেটাতে অনুরূপ বিষয় দেখেছে, এবং不是因为 যুক্তিটি সত্যিই গ্রাফের সম্পর্ক থেকে অনুসরণ করে। এটি একটি বিপজ্জনক পরিস্থিতি: উত্তরটি আত্মবিশ্বাসী দেখায়, কিন্তু গ্রাফের যুক্তির দৃষ্টিকোণ থেকে এটি নির্ভরযোগ্য নয়।

SIRLM কীভাবে কাঠামোর সাথে সংযোগ পুনরুদ্ধার করে

SIRLM-এর ধারণা — মডেলকে নিয়ম শুধু পরামর্শ দেওয়া নয়, বরং যুক্তি করার মডেলের মধ্যে কাঠামোগত জ্ঞান অন্তর্ভুক্ত করা। এর জন্য কাঠামোগত নিয়ম তৈরি ব্যবহার করা হয়: মডেলটি "যদি A সম্পর্ক এবং B সম্পর্ক থাকে, তাহলে সম্ভবত C সম্পর্ক আছে" এই ধরনের নিয়ম তৈরি করতে শেখে এবং তারপর গ্রাফে এই নিয়মগুলি যাচাই করে। এই পদ্ধতিটি প্যারামেট্রিক লার্নিংকে ফলাফলের আনুষ্ঠানিক যাচাইয়ের সাথে যুক্ত করে: মডেলটি কেবল "মনে করে" উত্তর দিতে পারে না, তাকে গ্রাফের বাস্তব পথের সাথে তার সিদ্ধান্তকে সমন্বয় করতে হয়।

নিয়ম জেনারেটর SIRG

মডেলের মূল উপাদান — কাঠামোগত নিয়ম জেনারেটর SIRG। এটি কাঠামোগত সম্পর্কের মেমরি দ্বারা পরিপূরক একটি ইন-কনটেক্সট লার্নিং ব্লক হিসেবে সাজানো। সাধারণ ইন-কনটেক্সট লার্নিং মডেলটিকে কনটেক্সট থেকে উদাহরণ ব্যবহার করতে দেয়, যখন কাঠামোগত সম্পর্কের মেমরি এতে যোগ করে জ্ঞান যে এই গ্রাফের জন্য সাধারণত কোন ধরনের সম্পর্ক বৈশিষ্ট্যপূর্ণ। এর ফলে, মডেলটি প্যারামেট্রিক জ্ঞান এবং বর্তমান কাঠামোকে আরও ভালোভাবে সমন্বয় করে।

আলাদাভাবে, SIRG-এর দুটি গুরুত্বপূর্ণ প্রক্রিয়া রয়েছে:

  • কাঠামোগত ইনভেরিয়েন্স লার্নিং-এর উপর ভিত্তি করে গ্রাফ টোকেনাইজার — এটি নোড এবং সম্পর্কগুলিকে এমনভাবে উপস্থাপন করতে শেখে যাতে একই কাঠামোগত অবস্থান একই রকম উপস্থাপনা দেয়, এমনকি যদি বস্তুগুলি ভিন্ন হয়।
  • নিয়ম-সীমাবদ্ধ বার্তা প্রচারের উপর ভিত্তি করে নিউরোসিম্বলিক রিজনার — এটি গ্রাফ জুড়ে সংকেত প্রচার করে, তবে শুধুমাত্র সেই পথগুলিতে যা তৈরি করা নিয়ম দ্বারা অনুমোদিত। এটি নিয়মের প্রকৃত বাস্তবায়ন থেকে প্রতিক্রিয়া দেয়: যদি একটি নিয়ম একটি তথ্য নিশ্চিত করে, মডেলটি একটি ইতিবাচক সংকেত পায়।

এই সংমিশ্রণটি শেখার যোগ্য কাঠামোগত উপস্থাপনা পেতে এবং নিয়ম বাস্তবায়নের মাধ্যমে তাদের নির্ভরযোগ্যতা যাচাই করতে দেয়।

স্ট্যান্ডার্ড লার্নিং চক্রে একীকরণ

SIRLM-এর একটি শক্তিশালী দিক — ইঞ্জিনিয়ারিং ব্যবহারিকতা। মডেলটির কোনো অস্বাভাবিক আর্কিটেকচারের প্রয়োজন হয় না এবং এটি LLM প্রশিক্ষণের স্ট্যান্ডার্ড প্যারাডাইমে অন্তর্ভুক্ত করা যেতে পারে, যার মধ্যে SFT (লেবেলযুক্ত উদাহরণে অতিরিক্ত প্রশিক্ষণ) এবং GRPO (গ্রুপ রিইনফোর্সমেন্ট অপ্টিমাইজেশন) রয়েছে। এর মানে হল, ডেভেলপাররা একটি বিদ্যমান মডেল নিতে পারে এবং কাঠামোগত নিয়মগুলিকে অতিরিক্ত প্রশিক্ষণ স্তর হিসেবে যোগ করতে পারে।

এই পদ্ধতিটি শুধুমাত্র মানের দৃষ্টিকোণ থেকে নয়, মডেলের উপর আস্থার দৃষ্টিকোণ থেকেও গুরুত্বপূর্ণ। যখন মডেলের যুক্তি গ্রাফের নির্দিষ্ট নিয়ম এবং সম্পর্কের মাধ্যমে ব্যাখ্যা করা যায়, তখন ব্যবহারকারীর চিন্তার ধারা যাচাই করার সুযোগ থাকে। এটি এমন পরিস্থিতি থেকে অনেক আলাদা যেখানে মডেলটি কোনো যুক্তি ছাড়াই কেবল একটি সম্ভাব্য উত্তর দেয়।

এটি কতটা কার্যকর

লেখকরা দাবি করেছেন যে তারা ব্যাপক পরীক্ষা-নিরীক্ষা করেছেন: 36টি ডেটাসেটে 17টি আধুনিক KGR পদ্ধতির সাথে SIRLM-এর তুলনা করেছেন। তাদের তথ্য অনুসারে, মডেলটি বিদ্যমান পদ্ধতিগুলিকে উল্লেখযোগ্যভাবে ছাড়িয়ে গেছে। এটি আশাব্যঞ্জক দেখাচ্ছে, বিশেষ করে এই প্রেক্ষাপটে যে অনেক LLM পদ্ধতি কাঠামোর প্রকৃত বোঝার পরিবর্তে শুধুমাত্র স্কেল বা জটিল প্রম্পটের মাধ্যমে মান উন্নত করে।

অবশ্যই, যেকোনো প্রিপ্রিন্টের মতো, ফলাফলগুলির প্রতি সতর্ক দৃষ্টিভঙ্গি রাখা উচিত: ডেটাসেট, মেট্রিক্স এবং বেস মডেলের পছন্দ চূড়ান্ত চিত্রকে প্রভাবিত করতে পারে। কিন্তু সমস্যাটির প্রণয়ন — "উপলব্ধির প্রবাহ" — সঠিক এবং সময়োপযোগী। LLM ইতিমধ্যে দক্ষতার সাথে টেক্সট পরিচালনা করতে শিখেছে, কিন্তু দায়িত্বশীল কাজের জন্য যেখানে সমাধান উপলব্ধ প্রমাণ থেকে অনুসরণ করা উচিত, শুধুমাত্র ভাষাগত অন্তর্দৃষ্টি যথেষ্ট নয়।

উপসংহার

জ্ঞান গ্রাফগুলির জন্য মডেলগুলির কাছ থেকে শৃঙ্খলা প্রয়োজন: যুক্তি কাঠামোর উপর ভিত্তি করে হওয়া উচিত, স্মৃতির উপর নয়। SIRLM — ভাষার মডেলগুলির নমনীয়তাকে নিয়মের আনুষ্ঠানিক কঠোরতার সাথে সংযুক্ত করার দিকে প্রথম উল্লেখযোগ্য পদক্ষেপগুলির মধ্যে একটি। এটি কেবল ভালো সংখ্যা সহ আরেকটি পদ্ধতি নয়, বরং LLM-এর গ্রাফের সাথে মিথস্ক্রিয়া করার পদ্ধতি পরিবর্তন করার একটি প্রচেষ্টা। যদি এই ধরনের মডেলগুলি প্রতিষ্ঠিত হয়, গ্রাফে যুক্তি কেবল আরও নির্ভুল নয়, বরং উল্লেখযোগ্যভাবে আরও স্বচ্ছ হয়ে উঠবে: প্রতিটি উত্তরের জন্য নিয়ম এবং সম্পর্কের একটি যাচাইযোগ্য পথ থাকবে।

সাধারণ প্রশ্নোত্তর

বিভিন্ন উপাদান

সব উপাদান
কাঠামোগত নিয়ম বনাম 'ধারণাগত দৃষ্টিভঙ্গির বিচ্যুতি': কীভাবে LLM-রা নলেজ গ্রাফে নির্ভরযোগ্যভাবে যুক্তি করতে শেখে