MaRK: প্রাক-প্রশিক্ষিত SSM-এ পুনরাবৃত্তিমূলক প্যারামিটারের প্রসঙ্গভিত্তিক মডুলেশন

14 নভেম্বর 2026২ প্রদর্শন

এমন একটি পদ্ধতি প্রস্তাব করা হয়েছে, যা নিম্ন-র‍্যাঙ্কের প্যারামিটার পরিবর্তনের মাধ্যমে হিমায়িত স্টেট-স্পেস মডেলের পুনরাবৃত্ত অপারেটরকে প্রসঙ্গ অনুযায়ী মানিয়ে নেয় এবং প্রতিটি জেনারেশন ধাপে «ইনপুট—আউটপুট» কার্নেলকে প্রভাবিত করে। অ্যাডাপ্টারের তিনটি জ্যামিতির তুলনায় দেখা যায়, ভ্যালিডেশন ত্রুটির দিক থেকে চেবিশেভ বহুপদী এগিয়ে; আর সীমাবদ্ধ প্যারামিটারায়ন স্থিতিশীলতার বিশ্লেষণাত্মক যাচাইয়ের সুযোগ দেয়।

MaRK: প্রাক-প্রশিক্ষিত SSM-এ পুনরাবৃত্তিমূলক প্যারামিটারের প্রসঙ্গভিত্তিক মডুলেশন

MaRK-এর কাজ ও মূল ধারণা

MaRK (Markov-adapted Recurrent Kernels) হলো অপারেটরের ডায়নামিক কন্ডিশনিংয়ের একটি ফ্রেমওয়ার্ক। এটি কনটেক্সট ভেক্টরকে অপারেটরের রিকারেন্সের সীমাবদ্ধ মড্যুলেশনে রূপান্তর করে।

  • LPV-SSM উপস্থাপনায় MaRK কনটেক্সট-ইনডেক্সড মার্কভ প্যারামিটার সিকোয়েন্সের একটি পরিবার নির্ধারণ করে।
  • এই পদ্ধতি প্রি-ট্রেইনড SSM-এর জন্য তৈরি।
  • সাধারণ কন্ডিশনিং মেকানিজমে মূল সময়গত ডায়নামিক্স অপরিবর্তিত থাকে। এর মধ্যে রয়েছে ইনপুটে তথ্য যোগ করা এবং অ্যাক্টিভেশন মড্যুলেট করা।

ব্যবহারিক মানদণ্ড: শুধু ইনপুট ডেটা বা অ্যাক্টিভেশন নয়, SSM-এর সময়গত ডায়নামিক্স পরিবর্তন করতে হলে MaRK প্রয়োজন।

কোন SSM প্যারামিটারগুলো মড্যুলেট করা হয়

MaRK একটি ফ্রোজেন SSM-এর পাঁচটি প্যারামিটার গ্রুপ মড্যুলেট করে:

  • A — রিকারেন্স;
  • B — ইনপুট রিডআউট;
  • C — আউটপুট রিডআউট;
  • D — স্কিপ;
  • Δ — ডিসক্রিটাইজেশন।

ব্যবহারিক মানদণ্ড: MaRK A, B, C, D এবং Δ পরিবর্তন করে। কোনো কাজে এই প্যারামিটারগুলো পরিবর্তন করতে হলে, এই পদ্ধতি তা সমর্থন করে।

অ্যাডাপ্টার ও ফ্রোজেন বেসে প্রশিক্ষণ

MaRK 111 মিলিয়ন প্যারামিটারের একটি ফ্রোজেন বেস মডেল Hydra SSM-এর ওপর নির্ভর করে। গবেষণায় অ্যাডাপ্টারের তিনটি জ্যামিতি পরীক্ষা করা হয়েছে:

  • Hypernet;
  • Chebyshev বহুপদী;
  • Discrete Cosine Transform (DCT) কার্নেল।

অ্যাডাপ্টারগুলো লো-র‍্যাঙ্ক সহায়ক ম্যাপিংয়ের মাধ্যমে মার্কভ প্যারামিটার সিকোয়েন্স পরিবর্তন করে। বেস মডেলটি ফ্রোজেন থাকে।

বাইডিরেকশনাল অবজেক্টিভ ফাংশন থেকে ইটারেটিভ ডিফিউশন মোডে যেতে 6.3–11 মিলিয়ন প্রশিক্ষণযোগ্য সহায়ক প্যারামিটার প্রয়োজন। ব্যবহারিক মানদণ্ড: শুধু সহায়ক ম্যাপিংগুলো প্রশিক্ষণ দিতে হবে, আর বেস SSM-কে ফ্রোজেন রাখতে হবে।

পরীক্ষার ফলাফল ও জ্যামিতি নির্বাচন

সিন্থেটিক LPV পুনরুদ্ধার এবং মার্কভ অপারেটর ডায়াগনস্টিক পরীক্ষায়, অনুমানগুলো মিলে গেলে MaRK স্থানাঙ্ক-অপরিবর্তনশীল সময়গত অপারেটর পুনরুদ্ধার করে। পদ্ধতিটি সময় ধাপ অনুযায়ী বিভিন্ন স্থিতিশীল মেমরি প্রোফাইল তৈরি করে।

অ্যাডাপ্টারের জ্যামিতিযাচাইকরণ ক্ষতি
Chebyshev2.55
DCT2.59
Hypernet3.77

তিনটি বিকল্পের মধ্যে Chebyshev-এর যাচাইকরণ ক্ষতি সবচেয়ে কম—2.55। DCT-এর ফল 2.59, Hypernet-এর 3.77। ব্যবহারিক মানদণ্ড: বর্ণিত পরীক্ষাগুলোর যাচাইকরণ ক্ষতিকে বিবেচনায় নিলে, Chebyshev-এর ফল 2.55, DCT-এর 2.59 এবং Hypernet-এর 3.77। অ্যাডাপ্টারের জ্যামিতি নির্বাচন ফলাফলে প্রভাব ফেলে।

স্থিতিশীলতা ও প্রয়োগের সীমা

রিকারেন্সের সীমাবদ্ধ প্যারামিটারাইজেশন মড্যুলেটেড রিকারেন্সের জন্য Affine Quadratic Stability-এর একটি বিশ্লেষণাত্মক সার্টিফিকেট দেয়। MaRK প্রি-ট্রেইনড SSM দিয়ে ইটারেটিভ জেনারেশনের জন্য তৈরি। ডিফিউশনের প্রতিটি ধাপে মডেলের «ইনপুট—আউটপুট» মেমরি কার্নেল পরিবর্তিত হতে পারে।

ব্যবহারিক মানদণ্ড: বিশ্লেষণাত্মক স্থিতিশীলতা সার্টিফিকেট এবং ডিফিউশনের প্রতিটি ধাপে মেমরি কার্নেল পরিবর্তন করা দরকার হলে MaRK উপযুক্ত।

প্রকাশনার অবস্থা ও সংস্করণ

  • কাজটির লেখক: Syed Ibrahim Omer, Ginny Y. Wong, Xiangyu Zhao।
  • arXiv নিবন্ধ 2610.09092-এ 6 অক্টোবর 2026-এর v1 সংস্করণ রয়েছে।
  • সর্বশেষ সংশোধন 18 অক্টোবর 2026 (v3 সংস্করণ)।
  • জার্নাল রেফারেন্সে NeurIPS 2026 Submission উল্লেখ করা হয়েছে।

ব্যবহারিক মানদণ্ড: ফলাফলের সঠিক রেফারেন্সে 18 অক্টোবর 2026-এর v3 সংস্করণ এবং NeurIPS 2026 Submission-এর অবস্থা অন্তর্ভুক্ত থাকবে।

সাধারণ প্রশ্নোত্তর

বিভিন্ন উপাদান

সব উপাদান
FedPix: ফেডারেটেড লার্নিংয়ে তথ্য ফাঁস কমাতে ক্লায়েন্ট থেকে সংকুচিত ছবি প্রেরণ
সংবাদ

FedPix: ফেডারেটেড লার্নিংয়ে তথ্য ফাঁস কমাতে ক্লায়েন্ট থেকে সংকুচিত ছবি প্রেরণ

প্রবন্ধটিতে আলোচনা করা হয়েছে, ক্লায়েন্টকে সার্ভারে কী তথ্য পাঠানোর অনুমতি দেওয়া উচিত, এবং মডেলের ওজন বা মধ্যবর্তী উপস্থাপনার বদলে কমপ্যাক্ট, দৃশ্যত যাচাইযোগ্য ছবি পাঠানোর প্রশিক্ষণের প্রস্তাব দেওয়া হয়েছে। BloodMNIST, CIFAR-10, FashionMNIST এবং MNIST-এ এই পদ্ধতিতে পুনর্গঠনের সময় PSNR কম থাকে এবং 65,63–99,18% নির্ভুলতার সঙ্গে ক্লায়েন্টের সময় 96,0% পর্যন্ত কমে।

15 নভেম্বর 2026
B-PINN এবং কোলাইডার বায়াস: কারণ, নির্ণয় ও চেইন বিকল্প
সংবাদ

B-PINN এবং কোলাইডার বায়াস: কারণ, নির্ণয় ও চেইন বিকল্প

লেখকেরা দেখিয়েছেন যে প্রচলিত B-PINN পদ্ধতি, যেখানে স্বতন্ত্র পূর্ববর্তী প্যারামিটারগুলোকে ডিফারেনশিয়াল সমীকরণের অবশিষ্টাংশের ভার্চুয়াল লাইকলিহুডের মাধ্যমে সংযুক্ত করা হয়, তা পদ্ধতিগতভাবে ভৌত রাশিগুলোর পোস্টেরিয়র অনুমানে পক্ষপাত সৃষ্টি করতে পারে। এর পরিবর্তে, তাঁরা স্টোকাস্টিক গতিবিদ্যার ডিসক্রিটাইজেশন ও particle MCMC স্যাম্পলিংসহ একটি হায়ারার্কিক্যাল চেইন মডেল প্রস্তাব করেছেন, পাশাপাশি প্রচলিত পদ্ধতির নির্ভরযোগ্যতা নির্ণয়ের মানদণ্ডও দিয়েছেন।

14 নভেম্বর 2026
জেনারেটিভ ইমেজ মডেলের ফাইন-টিউনিং: পছন্দ ও মূল্যায়ন-মানদণ্ডের যৌথ বিবেচনা
সংবাদ

জেনারেটিভ ইমেজ মডেলের ফাইন-টিউনিং: পছন্দ ও মূল্যায়ন-মানদণ্ডের যৌথ বিবেচনা

নিবন্ধে উন্মুক্ত ডোমেইনে text-to-image মডেলগুলোর পোস্ট-ট্রেনিংয়ের একটি পদ্ধতি বর্ণনা করা হয়েছে, যেখানে মানুষের পছন্দের সংকেতের পাশাপাশি প্রম্পটের সঙ্গে সামঞ্জস্য এবং কাঙ্ক্ষিত বৈশিষ্ট্য যাচাইয়ের জন্য রুব্রিকভিত্তিক পরীক্ষা যোগ করা হয়। ফলাফল থেকে বোঝা যায়, পুরস্কারের ওজনযুক্ত গড় প্রস্তাবিত পদ্ধতির তুলনায় খারাপ ফল দেয়, আর Arena-র স্ন্যাপশটে ফাইন-টিউন করা Flux2dev এবং Ideogram-4-এর Elo-তে উল্লেখযোগ্য বৃদ্ধি দেখা যায়।

14 নভেম্বর 2026
MaRK: প্রাক-প্রশিক্ষিত SSM-এ পুনরাবৃত্তিমূলক প্যারামিটারের প্রসঙ্গভিত্তিক মডুলেশন