শুদ্ধ ডেটা কেন KAN-এর ভ্যারিয়েন্টগুলোর মধ্যে পার্থক্য লুকিয়ে রাখে
কার্যকর Kolmogorov–Arnold নেটওয়ার্ক ভ্যারিয়েন্ট নিয়ে সাহিত্যে Chebyshev, ওয়েভলেট এবং রেডিয়াল-বেসিস সংস্করণের মূল KAN আলোচিত হয়েছে। এসব কাজের বেঞ্চমার্ক শুদ্ধ ডেটার উপর তৈরি। এমন পছন্দ আর্কিটেকচারগুলোর সক্ষমতার মধ্যে একটি বড় পার্থক্য ঢেকে রাখে।
arXiv:2608.14773 কাজটি এই পার্থক্যকে সামনে নিয়ে আসে। প্রথম সংস্করণ প্রকাশিত হয় ১৪ আগস্ট ২০২৬, দ্বিতীয়টি — ২৫ আগস্ট ২০২৬। আয়তন — ২২ পৃষ্ঠা, ২০টি চিত্র এবং ৮টি টেবিল। বিষয়বস্তু — মেশিন লার্নিং এবং কৃত্রিম বুদ্ধিমত্তা।
ব্যবহারিক মানদণ্ড: শুধু শুদ্ধ ডেটার উপর KAN-এর ভ্যারিয়েন্ট তুলনা করলে বেছে নেওয়ার কোনো ভিত্তি পাওয়া যায় না। মূল্যায়নের জন্য শোরগোলযুক্ত ডেটার প্রোটোকল দরকার।
শোরগোলে ত্রুটি কতটা বাড়ে
মেট্রিক — টেস্ট MSE, যা শুদ্ধ রেফারেন্স ফাংশনের বিপরীতে মাপা হয়। প্রশিক্ষণ চলে sigma = ০.১ শোরগোলে নষ্ট করা ডেটার উপর। বৃদ্ধির সূচক বর্ণনা করে, শুদ্ধ ক্ষেত্রের তুলনায় ত্রুটি কত গুণ বেড়েছে।
| আর্কিটেকচার ভ্যারিয়েন্ট | sigma = ০.১-এ টেস্ট MSE-এর বৃদ্ধি |
|---|---|
| ChebyKAN | ১০.৬x |
| মূল KAN | ৭.৯x |
| স্ট্যান্ডার্ড MLP | ১.৭x |
| ER-KAN | ১.৪x |
সিদ্ধান্ত: পরীক্ষিত ভ্যারিয়েন্টগুলোর মধ্যে ER-KAN সবচেয়ে কম ত্রুটি বৃদ্ধি দেয়। স্ট্যান্ডার্ড MLP-ও ChebyKAN এবং মূল KAN-এর তুলনায় заметно ভালো টিকে থাকে।
তিনটি সমাধান যা ER-KAN-কে স্থিতিশীলতা দেয়
ER-KAN তিনটি কৌশল দিয়ে গঠিত, যা ডেটা-সংকটে শোরগোলযুক্ত মোডকে লক্ষ্য করে।
- স্তরের সব প্রান্তে সাধারণ গাউসিয়ান RBF-বেসিস। এগুলো লোকালিটি এবং সাশ্রয়ী প্যারামিটারাইজেশন দেয়।
- প্রশিক্ষণের সময় curriculum noise injection। মডেল স্পষ্টভাবে শোরগোল সহনশীলতা শেখে।
- Entropy-weighted adaptive regularisation। অল্প সংখ্যক উদাহরণে ওভারফিটিং বাধা দেয়।
ফলাফল: ৫৯৫ প্যারামিটারের নেটওয়ার্ক মাঝারি শোরগোলে নির্ভুলতায় MLP-এর সঙ্গে মেলে। শোরগোল বাড়লে এটি অনেক নরমভাবে অবনতি হয়।
যাচাই প্রোটোকল এবং তার নেতিবাচক ফলাফল
পরীক্ষাগুলো কয়েকটি শর্তের সেটে গঠিত।
- আটটি বিশ্লেষণী ফাংশন, উদাহরণ সংখ্যা N সেট ৫০, ২০০ এবং ৫০০ থেকে।
- শোরগোল স্তর sigma সেট ০.০৩ এবং ০.১ থেকে।
- স্যাঁতসেঁতে হারমোনিক অসিলেটরের জন্য PINN: ER-KAN MLP-এর তুলনায় ৪.২ গুণ কম solution MSE দেয়।
- বার্গার্স সমীকরণের জন্য PINN: সব মডেল অভিসৃত হয় না।
লেখক বার্গার্স সমীকরণে ব্যর্থতার কথা খোলাখুলি জানান। এটি পদ্ধতির সীমাবদ্ধতা, প্রতিবেদনের গোপন ত্রুটি নয়। অসিলেটর নিয়ে সিদ্ধান্তগুলো স্বয়ংক্রিয়ভাবে অন্য সমীকরণে প্রযোজ্য হয় না।
Noise degradation ratio আলাদা মেট্রিক হিসেবে
লেখক noise degradation ratio চালু করেন — বিদ্যমান পরিমাপের একটি সরল সংযোজন। মেট্রিক দেখায়, শোরগোলযুক্ত ডেটার ত্রুটি শুদ্ধ ডেটার ত্রুটির চেয়ে কত গুণ বেশি। লেখক কার্যকর KAN ভ্যারিয়েন্ট নিয়ে নিবন্ধে এটিকে প্রতিবেদনের বাধ্যতামূলক উপাদান করার সুপারিশ করেন।
মেট্রিকের ব্যবহারিক মূল্য — শুধু নির্ভুলতা নয়, স্থিতিশীলতার ভিত্তিতেও আর্কিটেকচার তুলনা করা। যে সাহিত্যে বেঞ্চমার্ক শুদ্ধ ডেটার উপর দাঁড়িয়ে ছিল, সেখানে এটি মূল্যায়নের মানদণ্ড বদলে দেয়।
বেছে নেওয়ার ব্যবহারিক মানদণ্ড
- শোরগোলযুক্ত ডেটা এবং অল্প উদাহরণ। পরীক্ষিত ভ্যারিয়েন্টগুলোর মধ্যে ER-KAN সবচেয়ে কম ত্রুটি বৃদ্ধি দেয়।
- মাঝারি শোরগোল। ৫৯৫ প্যারামিটারের নেটওয়ার্ক নির্ভুলতায় MLP-এর সঙ্গে মেলে।
- তুলনার জন্য সরল ভিত্তি দরকার। স্ট্যান্ডার্ড MLP ChebyKAN এবং মূল KAN-এর তুলনায় দুর্বলভাবে অবনতি হয়।
- স্যাঁতসেঁতে অসিলেটরের জন্য PINN। ER-KAN MLP-এর তুলনায় কম solution MSE দেখায়।
- বার্গার্স সমীকরণের জন্য PINN। পরীক্ষিত মডেলগুলোর কোনোটিই অভিসৃত হয়নি।
পছন্দ নির্ভর করে শোরগোলের মাত্রা এবং নমুনার আয়তনের উপর, শুদ্ধ ডেটার ফলাফলের উপর নয়। যে কাজে শোরগোল উপস্থিত, সেখানে noise degradation ratio ছাড়া প্রতিবেদন অসম্পূর্ণ।
