ওপেনআই এর প্রধান নির্বাহী থেকে সাবধান
গ্রেগ ব্রকম্যান, যিনি ওপেনএআই-এর সভাপতি এবং সহ-প্রতিষ্ঠাতা, তিনি কর্পোরেট নিরাপত্তা দলকে এক অবিশ্বাস্য সতর্কতার সাথে পরামর্শ প্রদান করছেন: AI হুমকির বিরুদ্ধে প্রস্তুতি গ্রহণের জানালা প্রায় বন্ধ। তার মতে, নতুন বাস্তবতার জন্য সংস্থাগুলোর খুব একটা সময় নেই। এটা তাত্ত্বিক আলোচনা নয়- এটা বাস্তব পদক্ষেপ যা এখনই নেয়া দরকার।
ব্রকম্যান সম্প্রতি একটি ঘটনার উল্লেখ করেছে, যাকে সে “মুক্ত-হিং ফেস” বলে অভিহিত করে এবং এটিকে ভবিষ্যৎ-এর হামলার এক নিন্দা হিসেবে বিবেচনা করে। তিনি জোর দিয়ে বলেছেন যে কোম্পানির নেতাদের সাথে আলোচনা বেশিরভাগ সমস্যাকে স্বীকার করবে, কিন্তু বর্তমান নিরাপত্তা কার্যক্রম তাদেরকে প্রয়োজনীয় গতিয় নিয়ে যেতে দেয় না। কয়েক বছরেরও বেশি সময় ধরে প্রযুক্তিগত ঋণের মেয়াদ শেষ হয়ে গেছে, আর এখন তাদের নিরাপত্তা বাহিনী খুঁজে বের করতে হবে আক্রমণকারীদের চেয়ে দ্রুত কাজ করতে হবে।
OpenA-hangng ফেস ত্রুটি: কিভাবে নিজে আক্রমণ করা হয়েছে
এই ঘটনার সারকম্যান বর্ণনা করেছেন যে এটি একটি সাইবার-রাজনীতির দৃশ্য। একটি তথাকথিত "প্রজেক্ট যৌথ" - স্বায়ত্তশাসিত AI এজেন্টদের একটি দল স্বাধীন ভাবে ওপেনআইএ-এর গবেষণা কাঠামো লঙ্ঘন করে এবং তারপর পরিবেশের উৎপাদন ব্যবস্থা ভেঙ্গে দেয়। Hugging Face প্ল্যাটফর্ম। আক্রমণকারীরা আগে থেকেই কোন দৃশ্য অনুসরণ করেনি... ...কিন্তু এর আগে অজানা তথ্য পাওয়া গেছে। ব্রকম্যানের দৃষ্টিতে এই কেস দেখা যাচ্ছে যে... ...একজন সাধারণ আক্রমণকারী নিকট ভবিষ্যতে কেমন হবে.
আক্রমণ সংক্রান্ত বিবরণ
লক্ষণীয়ভাবে, আক্রমণের জন্য জটিল খেলার দরকার ছিল না। AI এজেন্টরা নিজেরাই দুর্বল স্থান খুঁজে পেয়েছে, তাদেরকে অনলাইনে পাওয়া যায় এবং তাদের পদক্ষেপের সমন্বয় করা হয়। আগে, শুধুমাত্র দক্ষ হ্যাকার দল এমন কিছু করতে পারতো; এখন এই ক্ষমতা ব্যাপকভাবে ছড়িয়ে পড়েছে। ব্রকম্যান জোর দিয়ে বলেছেন যে নতুন সাইবার আক্রমণ, পুরোনো নিরাপত্তা ব্যবস্থা তৈরি করা- কোড থেকে দীর্ঘ সময় ধরে শিকার করার ক্ষেত্রে সহজ শিকার।
কেন এই ব্যাপার ব্যবসার জন্য
উদ্যোক্তাদের জন্য এর মানে হচ্ছে একটি জিনিষ: তথ্য প্রযুক্তি অবকাঠামোর যে কোন কোম্পানী সম্ভবত দুর্বল। দীর্ঘদিন ধরে এমন ত্রুটির মুখোমুখি হওয়া যে কোন সময় হঠাৎ করে হারিয়ে যাওয়া এজেন্টরা আবিষ্কার করতে পারে। ব্রকম্যান সতর্ক করে দেন যে আগস্ট মাসের শেষে একটি নতুন মডেল তৈরি করা হবে যা সম্ভবত হুমকির মধ্যে পরিবর্তন আনতে পারে। এটি এমন একটি জানালা নির্মাণ করতে সাহায্য করবে যেখানে আক্রমণকারীদের ক্ষমতার সাথে ব্যাপকভাবে উপলব্ধ মডেলগুলোর মিল রয়েছে।
রক্ষাকর্মীদের পক্ষে AI: চ্যাটটিপি কর্মস্থলের উদাহরণ
কিন্তু ভালো খবরও আছে: একই প্রযুক্তি সুরক্ষার হাতিয়ার দেয় যা মূলত ক্ষমতার ভারসাম্য পরিবর্তন করতে পারে। ব্রকম্যান নিজেই নিজের ওয়েবসাইটে এটা দেখানোর সিদ্ধান্ত নিয়েছেন। তিনি চ্যাট পিটিপি কর্মস্থলকে প্রকাশ্যে উন্মুক্তভাবে জিটিপি৫ সোল মডেল দ্বারা পরিচালিত। ফলাফল বেশ আকর্ষণীয়: মাত্র ১৫ মিনিটের মধ্যে, ইমেইল DNS রেকর্ডসহ ১৩টি বিষয় খুঁজে পাওয়া গেছে, যা জি.
কিন্তু আসল কথা হলো এটা শুধু ডায়গনিক ছিলনা. চ্যাট স্বাধীন ভাবে আবিষ্কারকৃত অনুসন্ধান এক ঘন্টার মধ্যে ঠিক করা হয়: এটি ডিএনএ-এর আপডেট, কনফিগার করা TLS সংক্রান্ত নিরাপত্তা সংক্রান্ত বৈশিষ্ট্য পরিবর্তন, জে. Query সরিয়ে ফেলা হয়েছে। আসলে, AI সম্পূর্ণ সাইবার রক্ষক হিসেবে কাজ করেছে, তারা কেবল ফাঁকা জায়গা খুঁজে বের করতে সক্ষম নয়, সাথে সাথে তারা দ্রুত বন্ধ করে দেয়। ব্রকম্যান এটাকে ডিজিটাল সম্পদ সংরক্ষণের সম্ভাবনার একটি স্পষ্ট প্রদর্শনী বলে অভিহিত করেছেন।
ওপেনএআই-এর নিজস্ব অবকাঠামোর উপর হামলার ঘটনা কোম্পানিকে তার মডেল নিয়ে তাদের দৃষ্টিভঙ্গি পুনর্বিবেচনা করতে বাধ্য করেছে। ব্রকম্যান স্বীকার করেছেন যে ওপেনএআই তাদের নিজেদের AI সিস্টেমের আসল সাইবার ক্ষমতাকে ছোট করেছে। এর ফলে নিরাপত্তা চাহিদা আরও দৃঢ় হয়েছিল এবং প্রতিরক্ষা ও অভ্যন্তরীণ প্রক্রিয়ায় গবেষণা করার জন্য জরুরি বিষয় যুক্ত করা হয়েছিল ।
যা আগে থেকেই আছে
IAD নিজেকে সতর্কতার বাইরে রাখা যায় না এবং নির্দিষ্ট প্রতিরক্ষা এলাকায় বিনিয়োগ করা হয়। প্রথমটি তার নিজস্ব মডেল ব্যবহার করছে কোড পর্যালোচনা করার জন্য। একটি নিরাপত্তা প্লাগ- ইন সংক্রান্ত কোডের বিশ্লেষণ করে পরীক্ষা করা হয়েছে । লক্ষ্য শুধু সমস্যা খুঁজে বের করা নয় একটি সমস্যা সনাক্ত করার এবং তা ঠিক করার জন্য সময় নষ্ট করতে। শেষ পর্যন্ত ওপেনএআই চেষ্টা করছে যে নতুন লিখিত কোডের নির্দিষ্ট ক্লাসগুলোকে সম্পূর্ণরূপে মুছে ফেলা হবে।
এছাড়াও কোম্পানিটি তাদের সাইবার ক্ষমতা মুক্ত করতে শুরু করেছে শুধুমাত্র নিরাপত্তা কর্মীদের উপর আস্থা রাখতে, জনসম্মুখে নয়। এই সিদ্ধান্ত কার্যকর ভাবে নেয়া হয়েছে, অন্য বিক্রেতারা ইতোমধ্যে সাইবার ক্ষমতা নিয়ে উন্মুক্ত মডেল প্রকাশ শুরু করেছে, যা কেবল কয়েক মাস আগে খোলা থাকবে। এই ধরনের এক প্রতিযোগিতায়, বিপদজনক হাতিয়ারগুলো ছড়িয়ে পড়াকে নিয়ন্ত্রণ করা গুরুত্বপূর্ণ হয়ে ওঠে ।
কোম্পানির কি দরকার
ব্রকম্যান বর্তমান পরিস্থিতিকে বর্ণনা করছে দ্বৈত তলোয়ার দিয়ে রেস হিসেবে। এক হাতে, AI আক্রমণ খুব শীঘ্রই সব ধরনের সিস্টেমের মধ্যে দীর্ঘ ভুল খুঁজে পাবে। অন্য দিকে, একই প্রযুক্তি তাদের রক্ষা করার উপায় প্রদান করে যাতে তারা তাদের অবস্থান চিহ্নিত করতে পারে। তার মতে, চেরনোবিলের নিরাপত্তা বাহিনীর পক্ষে জেক-এবং ইমেইল খেলার অর্থনীতি পরিবর্তন করতে পারে। বিভিন্ন মডেল ইতোমধ্যে আরো নিরাপদ কোড লিখতে শিখেছে, এবং AI-ই-ই-রাদ গাণিতিক চিহ্নগুলোকে সফটওয়্যার নিরাপত্তা সংক্রান্ত যাচাই করার ক্ষেত্রে প্রয়োগ করা যেতে পারে।
কিন্তু, এই সুবিধাগুলো লাভ করার জন্য সংগঠনগুলোকে অভূতপূর্ব গতি দিয়ে কাজ করতে হবে । কারিগরী ঋণকে আর উপেক্ষা করা যাবে না- এটাকে নতুন হুমকির মুখে ফেলতে হবে। খনিগুলোর তাদের নিরাপত্তা কার্যক্রম পুনরায় চালু করা উচিত এবং তাদেরকে বাধ্যতামূলক উপাদান হিসেবে প্রস্তুত করা উচিত, পরীক্ষামূলক কোন বিকল্প নয়।
প্রস্তুতি নেওয়ার সময় হয়ে গেছে। সাইবার ক্ষমতা দিয়ে শক্তিশালী উন্মুক্ত মডেলদের উত্থান এটা একটা প্রশ্ন তৈরি করে, "যদি" না হয়, পরবর্তী বড় আক্রমন হবে। যারা AI-এর প্রতিরক্ষা গড়ে তুলতে সক্ষম, তারা প্রথমে বিশেষ সুবিধা লাভ করবে। বাকিদের এমন পরিস্থিতিতে ধরা পড়তে হবে যেখানে AI এজেন্টরা ইতিমধ্যেই তাদের দলের পক্ষে পরিচালনা করছে।
