কেন GPT-পদ্ধতি সাংকেতিক সঙ্গীতে হোঁচট খায়: সংকোচন কেবল সঠিক স্থানাঙ্ক ব্যবস্থাতেই কাজ করে
মনে হয়, সাংকেতিক সঙ্গীত টোকেনাইজেশনের জন্য তৈরি: নোটগুলো বিচ্ছিন্ন, কর্ডগুলো পুনরাবৃত্ত হয়, মোটিফগুলো চেনা যায় এমন কাঠামো গঠন করে। GPT‑মডেল পুনঃব্যবহারযোগ্য টোকেনের সাথে চমৎকারভাবে কাজ করে, তাই ভাষাগত পদ্ধতিকে সরাসরি নোট স্টাফে স্থানান্তর করার প্রলোভন দেখা দেয়। কিন্তু অনুশীলন দেখায়: সঙ্গীতের টোকেনাইজেশন কেবল ক্রম কাটাছেঁড়া নয়, বরং এমন একটি স্থানাঙ্ক ব্যবস্থা নির্বাচন করা যেখানে মডেলটি আদৌ প্যাটার্ন দেখতে সক্ষম হয়।
টোকেন — সার্বজনীন ইন্টারফেস নয়
ভাষা মডেলের সাফল্য টোকেনের সসীম শব্দভাণ্ডারের উপর নির্মিত, যা বিভিন্ন প্রসঙ্গে পুনঃব্যবহার করা যায়। এই ইন্টারফেসটি এতটাই সুবিধাজনক যে এটিকে অন্যান্য ক্ষেত্রে প্রয়োগ করা শুরু হয়েছে — কোড থেকে জৈবিক ক্রম পর্যন্ত। তবে ভাষার সীমানা ছাড়িয়ে স্থানান্তরের সময় সমস্যা দেখা দেয়: টোকেনাইজেশন কী প্রতিনিধিত্ব করবে এবং কোথায় থামানো উচিত তার কোনো একক মানদণ্ড নেই। যা পাঠ্যের জন্য ভালো, তা সঙ্গীতের জন্য অকেজো বা এমনকি ক্ষতিকারক হতে পারে।
ইই ওয়াং-এর গবেষণা (arXiv:2608.18025) একটি সাধারণ মানদণ্ড প্রস্তাব করে — প্রেডিক্টিভ কোডলেংথ (predictive codelength)। এটি একটি পরিমাপ যে মডেলটি পরবর্তী উপাদান পূর্বাভাস দেওয়ার সময় কতটা সফলভাবে তথ্য সংকুচিত করে। যদি টোকেনাইজেশন এই দৈর্ঘ্য কমাতে সাহায্য করে — তাহলে এটি ডেটার প্রকৃত কাঠামো ধরে; যদি না করে — তাহলে এটি কেবল শৃঙ্খলার আভাস তৈরি করে।
সঙ্গীতের জন্য কেবল অভিধান নয়, স্থানাঙ্ক প্রয়োজন
সাংকেতিক সঙ্গীত প্রতারণামূলকভাবে ভাষার মতো: একই নোট, একই কর্ড। কিন্তু এই বিচ্ছিন্নতার আড়ালে সময় এবং টোনালিটির ধারাবাহিক পরামিতি লুকানো থাকে। যখন আমরা শব্দের সাথে সাদৃশ্য রেখে সঙ্গীতকে টোকেনে কাটছি, তখন আমরা নীরবে একটি রেফারেন্স ফ্রেম স্থির করছি। উদাহরণস্বরূপ, নোটের পিচকে পরম মান হিসেবে এনকোড করা যায় — কিন্তু তখন মডেলটিকে নিজেই টোনালিটি অনুমান করতে হবে। সময়কে পূর্ণসংখ্যা কাউন্টার হিসেবে নির্ধারণ করা যায় — কিন্তু তখন শিফট এবং টেম্পো আলাদা করা যায় না।
Effectiveness–Losslessness Framework-এর লেখক দুটি সীমানা পৃথক করেন। Fact–Token Boundary নির্ধারণ করে কোথায় পর্যবেক্ষণযোগ্য কাঠামো টোকেন ইন্টারফেসে প্রবেশ করবে — উদাহরণস্বরূপ, স্থানাঙ্কের স্পষ্ট নির্মাণের মাধ্যমে। Token–State Boundary নির্দেশ করে কোথায় টোকেনাইজেশন থামতে হবে: বাকি নির্ভরতাগুলো মডেলকে নিজেই গণনা করতে হবে, তার অভ্যন্তরীণ অবস্থায়, টোকেনাইজার থেকে সেগুলো প্রস্তুত অবস্থায় পেতে হবে না। যদি খুব বেশি সংকুচিত করা হয়, মডেল প্রসঙ্গ ব্যবহারের সুযোগ হারায়; যদি খুব কম সংকুচিত করা হয় — অপ্রয়োজনীয় বিবরণে ডুবে যায়।
পরীক্ষা: সময় এবং টোনালিটি সিদ্ধান্ত নেয়
সাংকেতিক সঙ্গীতের নিয়ন্ত্রিত multi-seed পরীক্ষায় দেখা গেছে যে সঙ্গীতের সময়ের স্পষ্ট নির্ধারণ ধারাবাহিকভাবে প্রেডিক্টিভ কোড হ্রাস করে। অর্থাৎ টোকেনের ভিতরে টাইমস্ট্যাম্প লুকানোর পরিবর্তে, সেগুলোকে আলাদা স্থানাঙ্ক করা ভালো — তাহলে মডেলটি নোটের পিচ এবং সময়কাল উভয়ই আরও নির্ভুলভাবে পূর্বাভাস দিতে শুরু করে। অতিরিক্ত লাভ দেয় টোনাল প্রসঙ্গের ক্যানোনিকাইজেশন: সব বাক্যাংশকে একক টোনাল কেন্দ্রে আনা। আর পিচের ফ্যাক্টরাইজেশন — ধাপ এবং অক্টেভে বিভাজন —ও সাহায্য করে।
কিন্তু যা কাজ করে না সেটিও গুরুত্বপূর্ণ। কুইন্ট সার্কেল অনুযায়ী স্থির পিচ স্থানাঙ্ক — প্রসঙ্গ বিবেচনা না করে চাপিয়ে দেওয়া সুন্দর সঙ্গীত তত্ত্ব — বৃদ্ধি করে প্রেডিক্টিভ কোড। পূর্ব-নির্ধারিত পিচ সম্পর্ক মডেলটিকে নির্দিষ্ট হারমনির সাথে খাপ খাইয়ে নিতে বাধা দেয়। টোকেনাইজার মডেলের জন্য সিদ্ধান্ত নিয়েছে নোটের মধ্যে সম্পর্ক কীভাবে গঠিত, আর মডেলটি কাজ ছাড়াই রয়ে গেছে।
সংকোচন শুধু সংকোচনের জন্য সাহায্য করে না
আলাদা চমক — বিপরীতমুখী BPE। এটি ক্যারিয়ার (carrier) — অর্থাৎ টোকেনের ক্রমটি নিজেই — উল্লেখযোগ্যভাবে ছোট করতে দেয়, কিন্তু প্রেডিক্টিভ কোডের দৈর্ঘ্য প্রতিটি seed-এ বেড়ে যায়। ডেটা সংরক্ষণের দৃষ্টিকোণ থেকে এটি চমৎকার কম্প্রেসার, কিন্তু শেখার দৃষ্টিকোণ থেকে — খারাপ সহায়ক। কারণ BPE পুনরাবৃত্ত খণ্ডগুলো সংকুচিত করে, কিন্তু প্রাসঙ্গিক সম্পর্ক হারায়: মডেল দৈর্ঘ্যে সাশ্রয় করে, কিন্তু কৃত্রিম সংক্ষিপ্ত রূপ শেখার জন্য প্রচেষ্টা ব্যয় করে।
উপসংহার
GPT‑পদ্ধতি সাংকেতিক সঙ্গীতে হোঁচট খায় শক্তির অভাবের কারণে নয়, বরং স্থানাঙ্ক ব্যবস্থার ভুল নির্বাচনের কারণে। সংকোচন তখনই কাজ করে যখন টোকেন ইন্টারফেস ডেটার প্রকৃত কাঠামোর সাথে সামঞ্জস্যপূর্ণ হয়: সময়কে সময় হতে হবে, টোনালিটিকে টোনালিটি হতে হবে, আর বাকি সবকিছু মডেলের নিজের কাজের বিষয়। প্রেডিক্টিভ কোডের দৈর্ঘ্যের মানদণ্ড উপকারী টোকেনাইজেশনকে অলংকরণ থেকে আলাদা করতে এবং বুঝতে সাহায্য করে যে সত্যিই কোথায় সত্য এবং গণনার মধ্যে সীমানা টানা উচিত।
