ওপেনএআই ২৫ আগস্ট যা দেখাল
কোম্পানি ওপেনএআই নিজস্ব এআই-প্রসেসর Jalapeño-এর পরীক্ষার ফলাফল প্রকাশ করেছে। এটি কোনো বাইরের অর্ডারে তৈরি ডেভেলপমেন্ট নয়, বরং মাপযোগ্য বেঞ্চমার্কের পর্যায়ে পৌঁছানো প্রথম চিপ: প্রকল্পটি Broadcom-এর সঙ্গে পরিচালিত হয়েছিল, আর প্রকাশ্য প্রতিবেদনটি এসেছে ২৫ আগস্ট ২০২৬-এ।
স্যাম আল্টম্যান X-এ এক বাক্যে খবরটি নিয়ে মন্তব্য করেছেন — «we made a chip and it is fast»। সংক্ষেপে, তবে মূল কথা হলো: প্রধান জোর দেওয়া হয়েছে নমনীয়তা বা সার্বজনীনতার ওপর নয়, বরং বিশুদ্ধ প্রতিক্রিয়ার গতির ওপর।
মূল বিষয়টি হলো লক্ষ্য নির্ধারণ। চিপটি বড় ভাষা মডেলের ইনফারেন্সের জন্য ডিজাইন করা হয়েছে, অর্থাৎ ব্যবহারকারী প্রশ্ন করার মুহূর্তে আগে থেকেই তৈরি মডেলগুলো পরিচালনার জন্য। সাধারণ এআই-লোড, প্রশিক্ষণ এবং আর্কিটেকচার নিয়ে পরীক্ষা-নিরীক্ষা অন্য হার্ডওয়্যারে থাকছে। Jalapeño নিজেদের কম্পিউটিং অবকাঠামোতে মোতায়েন করার পরিকল্পনা ওপেনএআই-এর ২০২৬ সালের শেষ নাগাদ।
কেন ঠিক ইনফারেন্সেই আটকে যাচ্ছে
মডেল প্রশিক্ষণ আর প্রোডাকশনে তার কাজের মধ্যে পার্থক্য হলো একটি ভবন নির্মাণ আর তার পরিচালনার মধ্যে পার্থক্যের মতো। মডেল যখন তৈরি হয়ে যায়, তখন খরচ ও বিলম্ব অন্য জায়গায় চলে যায়: মডেলের ডেটা কত দ্রুত কম্পিউটিং ব্লকে পৌঁছায়, কতবার তা স্থানান্তর করতে হয় এবং মেমোরি ও নেটওয়ার্ক উপাদানের মধ্যে বিনিময়ে কত সময় লাগে।
Jalapeño-এর ডেভেলপাররা ঠিক এই সমস্যাটিই সমাধান করছিলেন — কম্পিউটিং, মেমোরি ও নেটওয়ার্কের মধ্যে অসামঞ্জস্য। ধারণাটি হলো মডেলের প্যারামিটার ও KV cache ডেটা যতটা সম্ভব সক্রিয় প্রক্রিয়াকরণের জায়গার কাছাকাছি রাখা। সিস্টেমের স্তরগুলোর মধ্যে তথ্যের স্থানান্তর যত কম হবে, অনুরোধ থেকে প্রথম টোকেন পর্যন্ত পথ তত ছোট হবে এবং দীর্ঘ জেনারেশনে প্রতিক্রিয়া তত মসৃণ হবে। কোম্পানিতে এটিকে তিনটি স্তরের — কম্পিউটিং, মেমোরি ও নেটওয়ার্ক — আরও ঘন সমন্বয় হিসেবে বর্ণনা করা হয়, তাদের স্বতন্ত্র অপ্টিমাইজেশনের বদলে।
দ্বিতীয় ঘোষিত প্রভাব হলো পিক লোডে প্রতি ওয়াট শক্তিতে বেশি কার্যকর এআই-কাজ। ডেটা সেন্টারের জন্য এটি কোনো বিমূর্ত মেট্রিক নয়: বিদ্যুৎ ও কুলিং অনেক আগেই স্কেলিংয়ের সীমাবদ্ধতা হয়ে দাঁড়িয়েছে।
কীভাবে এবং কী দিয়ে পরীক্ষা করা হয়েছে
মডেল ও বেঞ্চমার্ক
পরীক্ষা চালানো হয়েছে ভিন্ন মাপের তিনটি মডেলে: GPT OSS 120B, DeepSeek R1 670B এবং Kimi K2.5 1T। পরিমাপ করা হয়েছে InferenceX-এর মাধ্যমে — একটি প্রকাশ্য বেঞ্চমার্ক, যা প্রস্তুত করে SemiAnalysis। তুলনা করা হয়েছে বাণিজ্যিক এআই-সিস্টেমের সঙ্গে, অর্থাৎ কোনো বিমূর্ত মানদণ্ডের সঙ্গে নয়, বরং বাজারে সক্রিয় সমাধানগুলোর সঙ্গে।
সংখ্যায় যা পাওয়া গেছে
- পিক থ্রুপুটে — প্রতি ওয়াটে ১.৫ থেকে ১.৯ গুণ বেশি এআই-কাজ;
- এন্ড-টু-এন্ড লেটেন্সি কমেছে ১.৭–৩.৬ গুণ;
- ইন্টারঅ্যাকটিভ পরিস্থিতিতে পারফরম্যান্স বৃদ্ধি রেকর্ড করা হয়েছে ২.১–৪.১ গুণ — ঠিক এখান থেকেই এসেছে «প্রায় চার গুণ দ্রুত» এই বাক্যটি।
কোথায় সুবিধাটা সবচেয়ে বেশি চোখে পড়ে
সংখ্যাগুলোর তারতম্য কোনো ত্রুটি নয়, বরং গুরুত্বপূর্ণ সংকেত। নিম্ন ও ঊর্ধ্ব সীমার মধ্যে পার্থক্য নির্ভর করে লোডের ধরনের ওপর। যেখানে সিস্টেম ব্যাচে কাজ করে এবং পুরোপুরি বোঝাই থাকে, সেখানে সুবিধা কম। যেখানে অনুরোধগুলো একটি একটি করে আসে এবং ব্যবহারকারী রিয়েল টাইমে উত্তর প্রত্যাশা করে, সেখানে সুবিধাটা সর্বোচ্চ হয়ে যায়।
এখান থেকেই এজেন্টদের প্রতি আলাদা আগ্রহ। যখন একটি এআই-সিস্টেম কয়েক ধাপে একটি কাজ সম্পন্ন করে — পরিকল্পনা করে, টুল ব্যবহার করে, ডেটা পায়, উত্তর তৈরি করে — তখন বিলম্বগুলো জমা হতে থাকে। প্রতিটি অতিরিক্ত ধাপ অপেক্ষা বাড়ায়, আর দীর্ঘ শৃঙ্খলে «দেড় সেকেন্ড» আর «আধা সেকেন্ড»-এর মধ্যে পার্থক্য সম্পূর্ণ ভিন্ন ব্যবহারকারী-অভিজ্ঞতায় পরিণত হয়। ইন্টারঅ্যাকটিভ পরিস্থিতিতে লেটেন্সি কমানো সরাসরি এই সমস্যাটিতে আঘাত হানে।
ওপেনএআই আশা করছে, এই ধরনের ফলাফল দ্রুততর পণ্যকে সমর্থন করবে এবং অবকাঠামোর অর্থনীতি উন্নত করবে: একই পরিমাণ অনুরোধ পরিচালনা করা আরও সস্তা হবে।
নিজেদের চিপ — তবে Nvidia-র বদলে নয়
এখানে সংকেতটি গুলিয়ে ফেলা গুরুত্বপূর্ণ নয়। Nvidia-র অ্যাক্সিলারেটর কোম্পানি ফেলে দিতে চায় না: প্রশিক্ষণ ও ইনফারেন্স — উভয় ক্ষেত্রেই সেগুলো সার্কিটে থাকছে। Jalapeño-কে একটি নির্দিষ্ট শ্রেণির কাজের জন্য অতিরিক্ত কম্পিউটিং স্তর হিসেবে অবস্থান দেওয়া হচ্ছে, বিদ্যমান হার্ডওয়্যারের তাৎক্ষণিক প্রতিস্থাপন হিসেবে নয়।
কোম্পানির নিজের বিবরণ থেকে একটি কৌতূহলোদ্দীপক বিষয় — ডেভেলপমেন্ট চক্র নয় মাসে কমিয়ে আনা সম্ভব হয়েছে, আর এতে উল্লেখযোগ্য ভূমিকা রেখেছে ওপেনএআই-এর নিজস্ব মডেলগুলো। অর্থাৎ এআই এমন একটি চিপ ডিজাইন করতে সাহায্য করেছে, যার ওপর পরে এআই কাজ করবে।
এরপর কী
Gen 2 ইতিমধ্যেই ডেভেলপমেন্টে আছে। এটি ইঙ্গিত দেয় যে এটি এককালীন পরীক্ষা নয়, বরং ভবিষ্যতের এআই-অবকাঠামোর অংশ হিসেবে নিজস্ব সিলিকনের ওপর দীর্ঘমেয়াদি বাজি।
একটি শর্ত মনে রাখা উচিত: এখানে দেওয়া সব সংখ্যা হলো একটি নির্দিষ্ট প্রকাশ্য বেঞ্চমার্কে ঘোষিত ফলাফল, অন্য কারও হাতে স্বাধীন যাচাই নয়। অনেক কিছু স্পষ্ট হবে যখন চিপটি সত্যিই ২০২৬ সালের শেষ নাগাদ অবকাঠামোতে মোতায়েন হবে এবং পরীক্ষামূলক রানের বদলে বাস্তব প্রোডাকশন লোডের ডেটা আসবে। আপাতত মূল সিদ্ধান্তটি সহজ: মডেলের উত্তরের গতির প্রতিযোগিতা সফটওয়্যার স্তর থেকে হার্ডওয়্যার স্তরে সরে গেছে।
