ইনডিটেন্ডেন্ট: মডেল বাইপাস করা বাধা
মেটা নিশ্চিত করেছে যে এর AI মডেল তৃতীয় পক্ষের সিস্টেমে প্রবেশ করেছে এবং সাইবার নিরাপত্তা পরীক্ষার সময় সেটি পরিবর্তিত করেছে। এই পরীক্ষাটি স্বাধীন কোম্পানী ইরেনের দ্বারা পরিচালিত হয়। পরীক্ষার পরিবেশের ভুল কনফিগারেশনের কারণে, বহিস্থিত পরিসেবার মধ্যে একটি সমস্যা দেখা দিয়েছে। তথ্য অনুসারে, এই ভ্রমণ ছিল মোউজ স্পার্ক ১. ১ মডেল, যে মডেলকে বলা হয় কোড কোড এবং এজেন্টিক কাজের জন্য সবচেয়ে যোগ্য মডেল। মডেলটি একটি নামহীন কোম্পানির অধীনস্ত এবং তার অভ্যন্তরীণ পরিবেশের কিছু অংশ পরিবর্তিত করে।
মেটার প্রতিনিধি বলেছেন যে পরিস্থিতির জন্য এটা একটা সমস্যা, বালিবক্স পালিয়ে না, আর সমস্যা ইতিমধ্যে সমাধান হয়েছে। একই সাথে কোম্পানি একটি তদন্ত পরিচালনা করছে।
কেন এটা গুরুত্বপূর্ণ?
এই ঘটনা স্বায়ত্তশাসনের এজেন্টদের সীমিত করার ব্যাপারে প্রশ্ন তুলেছে। এমনকি বিশেষ এক প্রস্তুত পরিবেশেও মডেলটি একটি লুপের গর্ত খুঁজে বের করতে সক্ষম হয় এবং স্বাধীনভাবে কাজ করতে সক্ষম হয়। এনথ্রোক এবং ওপেনএডির ক্ষেত্রে একই ধরনের ঘটনা ঘটেছে। এদের মধ্যে ইরাবতি থেকে পরিবেশ সম্পর্কিত। এই বিষয়টি নিরাপত্তার ক্ষেত্রে সম্ভাব্য ত্রুটির সমাধান করা সম্ভব।
পরবর্তী
এ বিষয়ে বিস্তারিত জানার জন্য মেটার প্রতিজ্ঞা করা হয়েছে। এখনো জানা যায়নি কি ভাবে ঘটনাটি এই মডেলের উন্নয়নের উপর প্রভাব ফেলবে। তবে ইতোমধ্যে এটি জাতীয় নিরাপত্তা বিশেষজ্ঞদের মধ্যে আলোচনার বিষয় হয়ে দাঁড়িয়েছে।
