মরিচ, যা দিয়ে GPU-গুলো পুড়ে যায়
এখনও কিছুদিন আগে মনে হতো, কৃত্রিম বুদ্ধিমত্তার জন্য চিপ তৈরি করা NVIDIA, Google বা Amazon-এর মতো দৈত্যদের কাজ। সাম্প্রতিক ফাঁস হওয়া তথ্য অনুযায়ী, এখন এই ক্লাবে যোগ দিতে প্রস্তুত OpenAI-ও। «হালাপেনো» কোডনামে কোম্পানির ইঞ্জিনিয়াররা নিজস্ব অ্যাক্সেলারেটর পরীক্ষা করছেন, যা নিউরাল নেটওয়ার্কের ইনফারেন্সের জন্য তৈরি। প্রথম ফলাফল এতটাই সফল হয়েছে বলে জানা গেছে যে, ল্যাবের ভেতরেই নিজেদের ডেটা-সেন্টারের জন্য বড় পরিসরে উৎপাদনের পরিকল্পনা চলছে।
সাধারণত বিশেষায়িত «হার্ডওয়্যারের» ঘোষণা কনফারেন্স ও সেমিনারের মাধ্যমে হয়, কিন্তু «হালাপেনোর» পরীক্ষার তথ্য শিল্প-সংক্রান্ত গণমাধ্যমগুলো বেনামী সূত্রের উদ্ধৃতি দিয়ে ছড়িয়ে দিয়েছে। তবে এর আগেও পেটেন্ট কার্যকলাপ এবং হার্ডওয়্যার ডিজাইনের ক্ষেত্রে OpenAI-এর প্রকাশ্য চাকরির বিজ্ঞাপনগুলো ইঙ্গিত দিচ্ছিল যে, গুজবের পেছনে বাস্তব ইঞ্জিনিয়ারিং কাজ রয়েছে।
OpenAI-এর ভবিষ্যতের জন্য তৈরি চিপ
নিজস্ব চিপ তৈরি করা তখনই অর্থপূর্ণ হয়, যখন আপনি আপনার পণ্যের সবচেয়ে ব্যয়বহুল অংশটিকে অপ্টিমাইজ করতে চান। ভাষা মডেলের ক্ষেত্রে সেটি হলো ইনফারেন্স — যে মুহূর্তে হাজার হাজার ব্যবহারকারী একই সাথে অনুরোধ পাঠায়। এই প্রতিটি অনুরোধের জন্য ম্যাট্রিক্স গুণনের বিশাল সংখ্যক অপারেশন প্রয়োজন। আধুনিক GPU-গুলো এই সমস্যাটি প্রশিক্ষণ এবং আউটপুট — উভয় ক্ষেত্রেই সমানভাবে ভালো সমাধান করে, কিন্তু প্রশিক্ষণ হয় খুব কমই, আর আউটপুট হয় constantly। অর্থাৎ, এখন সময় এসেছে এমন একটি টুলের, যা বিশেষভাবে constant লোডের জন্য তৈরি।
«হালাপেনো» — একটি সার্বজনীন প্রসেসর নয়। এতে সাধারণ অ্যাপ্লিকেশন চালানো যাবে না, কিন্তু নিউরাল নেটওয়ার্কের কাজের জন্য এটি পুরোপুরি উপযুক্ত। এর আর্কিটেকচারকে বিশেষায়িত কোরের একটি সেটে সরল করা হয়েছে, যা মূলত ম্যাট্রিক্স গুণনের অপারেশন সম্পাদন করে এবং অ্যাটেনশন মেকানিজম প্রক্রিয়া করে — যা ট্রান্সফরমার এবং বড় ভাষা মডেলের ভিত্তি।
কেন মরিচ?
কোম্পানির কর্মচারীরা প্রজেক্টগুলোকে অনানুষ্ঠানিক কোডনাম দিতে পছন্দ করেন। «হালাপেনো» — ঝাল মরিচ — ইঙ্গিত দেয় চিপের বাজারকে লাল গরম করার ক্ষমতার। খাদ্য বা মেক্সিকান রান্নার সাথে ডিভাইসটির অবশ্যই কোনো সম্পর্ক নেই।
প্রথম পরীক্ষা: গতি এবং শক্তি খরচ
সবচেয়ে আকর্ষণীয় তথ্য এখন পর্যন্ত শুধু পরোক্ষ বর্ণনায় পাওয়া যাচ্ছে। সূত্রের দাবি অনুযায়ী, পরীক্ষামূলক লোডে প্রোটোটাইপটি অনুরোধ প্রক্রিয়াকরণের গতিতে শীর্ষস্থানীয় সার্ভার অ্যাক্সেলারেটরগুলোর চেয়ে কয়েকগুণ এগিয়ে, তবে প্রধান অর্জন হলো শক্তি দক্ষতা। OpenAI-এর নিজস্ব চিপ প্রতি ওয়াটে অনেক বেশি পারফরম্যান্স অনুপাত দেখায়।
বেশ কয়েকটি প্রযুক্তিগত সমাধানের মাধ্যমে এটি অর্জন করা হয়েছে।
- নিম্ন-নির্ভুলতা গণনা। মডেলের ওজন ৮-বিট ফরম্যাটে সংরক্ষণ ও প্রক্রিয়া করা যেতে পারে, গুণমানে দৃশ্যমান কোনো পতন ছাড়াই। এই ধরনের গণনার জন্য চিপটি 처음 থেকেই ডিজাইন করা হয়েছে।
- সংক্ষিপ্ত পাইপলাইন। সমস্ত নির্দেশ একক কাজের অধীন, তাই কোরগুলো অপ্রয়োজনীয় ব্রাঞ্চিং এবং কনটেক্সট সুইচিংয়ে সাইকেল নষ্ট করে না।
- দ্রুত মেমোরি। মডেলের ওজন সরাসরি ক্রিস্টালের উপর এবং গণনা ব্লকের পাশে থাকে, আর বড় মডেলের জন্য বাহ্যিক মেমোরির সাথে উচ্চ-গতির সংযোগের ব্যবস্থা রয়েছে।
পূর্ণ লোডের অবস্থায় শক্তি খরচ, অনানুষ্ঠানিক তথ্য অনুযায়ী, সাধারণ উদ্দেশ্যের সমাধানগুলোর তুলনায় উল্লেখযোগ্যভাবে কম оказалось। এর অর্থ হলো, সার্ভারগুলো পাওয়ার এবং কুলিং সিস্টেম সম্প্রসারণ ছাড়াই আরও বেশি অনুরোধ প্রক্রিয়া করতে сможет।
AI বাজারে কী পরিবর্তন হবে?
«হালাপেনোর» সাফল্য টেকটোনিক পরিবর্তন আনতে পারে। টেক্সট জেনারেশন এবং ইমেজ প্রসেসিংয়ের খরচ কমে যাবে, যা API-অ্যাক্সেসকে ছোট ব্যবসার জন্য সস্তা এবং সহজলভ্য করে তুলবে। নতুন পণ্য появится, যা আজ অর্থনৈতিকভাবে অলাভজনক: রিয়েল-টাইমে কাজ করা ব্যক্তিগতকৃত সহকারী, ব্যাপক অডিও- এবং ভিডিও-বিশ্লেষণ এবং এমনকি স্বায়ত্তশাসিত এজেন্ট, যা দীর্ঘ কাজের চেইন সম্পাদন করতে সক্ষম।
এছাড়াও, নিজস্ব চিপ ক্লাউড প্রদানকারীদের সাথে OpenAI-এর দর কষাকষির অবস্থান শক্তিশালী করে। কোম্পানি লোডের একটি অংশ নিজস্ব প্ল্যাটফর্মে স্থানান্তর করতে сможет। ব্যবহারকারীদের জন্য এর ফলে কম ত্রুটি এবং আরও অনুমানযোগ্য দাম হবে।
পরিবেশের কথাও ভুলে যাওয়া উচিত নয়: কম শক্তি খরচ মানে পরিবেশের উপর কম প্রভাব। বিশেষ করে যেহেতু ডেটা-সেন্টারগুলো уже বিশ্বের কার্বন নিঃসরণের একটি উল্লেখযোগ্য অংশ নিয়ে আসে।
প্রশ্ন থেকে গেছে
জোরালো খবরের ক্ষেত্রে যেমন প্রায়ই হয়, «হালাপেনো» সন্দেহও জাগায়। প্রথম সিলিকন নমুনাগুলো প্রতিনিধিত্বমূলক নাও হতে পারে: সিরিজে প্রায়ই তাপীয় সীমাবদ্ধতা এবং বৈশিষ্ট্যের বিচ্ছুরণের কারণে ক্লক ফ্রিকোয়েন্সি কমে যায়। উৎপাদন খরচ এবং ক্লায়েন্টদের জন্য লক্ষ্যমাত্রা দাম অজানা — যদি তা বেশি হয়, তাহলে বিদ্যুৎ সাশ্রয় রক্ষা করবে না।
এছাড়াও জনপ্রিয় ফ্রেমওয়ার্কের সাথে চিপের সামঞ্জস্যতা প্রশ্নবিদ্ধ। বেশিরভাগ কোম্পানি CUDA এবং PyTorch-এর মতো উচ্চ-স্তরের লাইব্রেরির মাধ্যমে গ্রাফিক অ্যাক্সেলারেটর ব্যবহার করে, এবং নতুন প্ল্যাটফর্মে কোড স্থানান্তর করতে সময় লাগে। OpenAI সম্ভবত «হালাপেনো» নিজস্ব সফটওয়্যার স্ট্যাকের সাথে ব্যবহার করবে, তবে চিপটি তৃতীয় পক্ষের ডেভেলপারদের জন্য উন্মুক্ত করা হবে কিনা — বড় প্রশ্ন।
সারসংক্ষেপ
প্রথম ঘণ্টা বেজে গেছে: «হালাপেনো» চিপটি খুব সম্ভবত একটি বাস্তব পণ্যে পরিণত হবে, পরীক্ষামূলক প্রোটোটাইপ নয়। আপাতত এটি কেবল একটি ইঞ্জিনিয়ারিং গল্প, অফিসিয়াল স্পেসিফিকেশন এবং রিলিজের তারিখ ছাড়া। কিন্তু যদি পরীক্ষার সূচকগুলো নিশ্চিত হয়, তাহলে AI-এর জন্য হার্ডওয়্যার সমাধানের বাজার একটি নতুন শক্তিশালী খেলোয়াড়ের মুখোমুখি হবে, যা খেলার привычные নিয়মগুলো নতুন করে লিখতে সক্ষম। অফিসিয়াল ঘোষণা এবং প্রথম নমুনার অপেক্ষায় রইলাম।
