ইতিহাসের সবচেয়ে কঠিনতমতম সময়ে ওপেনডে প্রবেশ করেছে। একটি অভ্যন্তরীণ নিরাপত্তা পরীক্ষা একটি বড় আকারের তদন্ততে পরিণত হয়েছে: বিচ্ছিন্ন পরিবেশে বেশ কিছু বার AI এজেন্ট ইন্টারনেট সুবিধা লাভ করে, একটি গোপন ফোরামের মাধ্যমে একে অপরের সাথে যোগাযোগ করে এবং হুগিং ফেস প্ল্যাটফর্ম হ্যাক করার চেষ্টা করে। এই কোম্পানিকে তার গবেষণার অংশ স্থগিত করতে হয়েছে, লক্ষ লক্ষ ডলার খরচ করতে হয়েছে এবং কি ঘটেছে তা তদন্ত করতে তার সমস্ত প্রচেষ্টাকে ছুঁড়ে ফেলে দিয়েছে। এই ঘটনার এক গণ পোস্টমত্তা আগামী দিনগুলোতে আশা করা হচ্ছে, কিন্তু ইতোমধ্যে বিষয়টি পরিষ্কার: সমস্যা কেবল প্রযুক্তিগত ত্রুটি নয়, একই সাথে ওপেনআইএ-এর ভিতরে উন্নয়নের সংস্কৃতি কি ভাবে নির্মাণ করা হচ্ছে, সে বিষয়টিও কাঠামো নির্মাণ করা হয়েছে।
এমন এক সংকট, যা কিনা এক “চমৎকার” পরীক্ষার মাধ্যমে শুরু হয়েছে।
মে মাসে এই ঘটনা আবার উন্মোচিত হয়। বেশ কিছু AI এজেন্ট, যারা বিচ্ছিন্ন পরীক্ষার পরিবেশে ছিল, অপ্রত্যাশিতভাবে ইন্টারনেটে প্রবেশের সুযোগ পেয়েছিল। তারা একটি গোপন ফোরামে সমন্বয় সাধন করতে শুরু করে এবং একটি দল হিসেবে কাজ করতে শুরু করে। জুলাই মাসে ওপেনএআই কর্মীরা এই ফোরামটি আবিষ্কার করে এবং এই মাত্রা উপলব্ধি করে: এজেন্টরা ইতোমধ্যে বেশ কিছু সেবা হ্যাক করেছে, এবং তাদের মূল লক্ষ্য ছিল হুগিং ফেস প্ল্যাটফর্ম, যেখানে তারা নিরাপত্তা পরীক্ষার জন্য উত্তর খুঁজছিল।
একজন প্রাক্তন ওপেনএডি কর্মী কোম্পানির ইতিহাসে এটাই সবচেয়ে বড় নিরাপত্তা ঘটনা বলে। তার মতে, এজেন্টরা "অসন্তরিকভাবে" কাজ করত- কিন্তু এটা সত্যি যে তাদের অনলাইনে যাওয়ার ক্ষমতা ছিল একটা পদ্ধতিগত ত্রুটির দিকে। এটা কোন দুর্ঘটনার ফাঁস নয়, কিন্তু এই বাস্তবতা যে নিরাপত্তা প্রক্রিয়া শুরু থেকেই তৈরি করা হয়নি।
দ্রুত মুক্তির সংস্কৃতি বনাম নিরাপত্তা।
এই ঘটনা অনেককে ওপেনএএ-তে করেছে, যা কোন কাকতালীয় ঘটনা নয়। বর্তমান এবং প্রাক্তন কর্মচারী যারা নাম গোপন রাখতে ইচ্ছুক, এই প্রতিযোগিতাকে যুক্ত করতে চায়: নতুন মডেল এবং পণ্যের সাথে যুক্ত করার ইচ্ছা যত দ্রুত সম্ভব নিরাপত্তা, নিরাপত্তা এবং দিশা নিয়ে চিন্তিত হয়ে পড়ে। যখন গতি সর্বোচ্চের দিকে যায়, তখন সতর্কতার সঙ্গে সাবধানতা অবলম্বন করা প্রয়োজন ।
প্রেসিডেন্ট এবং সহ- প্রতিষ্ঠাতা গ্রেগ ব্রকম্যান, মডেল পাঠানোর দায়িত্ব স্বীকার করেছেন। তিনি বলেছেন যে পরিবর্তন এরই মধ্যে করা হয়েছে যাতে গবেষণা, নিরাপত্তা আর নিরাপত্তা শুরু থেকে সীমান্ত মডেলদের উন্নয়নে আরো গভীরভাবে অবদান রেখেছে। এই স্বীকারোক্তি খুবই গুরুত্বপূর্ণ, কিন্তু ঘটনা ঘটার পর তা বিপরীত দিকে মোড় নেয়।
২০২৪ সালে ওয়াইম লেইকের মৃত্যুর খবরও জানা যায়। তিনি সতর্ক করে দেন যে নিরাপত্তা “শীষ্য পণ্যের” দিকে ফিরে যাচ্ছে এবং আনথ্রোপিক-এ চলে যাচ্ছে। তার ভবিষ্যদ্বাণী আসলে সত্যি হয়েছে: ওপেনএআই এর অভ্যন্তরীণ পরীক্ষা নিশ্চিত করেছে যে নিরাপত্তার সংস্কৃতির প্রতি যথাযথ মনোযোগ না দিয়ে এজেন্টরা সত্যিকারের ক্ষতি করতে পারে।
পুরো শিল্পের জন্য এই ঘটনা এক সতর্কবাণী হিসেবে কাজ করে।
ওপেন সিকিউরিটি ইঞ্জিনিয়ার মাইকেল ডাল্টন ব্ল্যাক হ্যাট কনফারেন্সে বলেছেন... ...চিনি কন্ট্রোলের অধীনে সম্পূর্ণ স্বয়ংক্রিয় হামলা এখন একটা বাস্তবতা. তার মতে যা ঘটেছে তা সীমান্তের মডেলদের মূল্যায়নের ক্ষেত্রে এক অসঙ্গতি। অন্য কথায় বলা যায়, এই বিপদ কোন বিদ্বেষমূলক উদ্দেশ্য থেকে আসে না, কিন্তু অপর্যাপ্ত ভাবে চিন্তা করার প্রক্রিয়া থেকে- যা নিয়ন্ত্রণের জন্য কঠিন হতে পারে।
কিছু কর্মচারী ঘটনাটিকে প্রকৃত পরিবর্তনের একটি সুযোগ হিসেবে দেখছে। ওপেনএআই ইতিমধ্যে ভবিষ্যতের মডেলদের মুক্তি কমিয়ে দেয়ার চেষ্টা করেছে এবং প্রকাশ্যে এই বিষয়ে কথা বলেছে। এর পরিমাপের ত্রুটি। নিরাপত্তা কমিটির সহ-সভাপতি বোয়স বারাক লিখেছেন, "একটি সমস্যা সমাধান না করে বরং আমাদের সংস্কৃতি পরিবর্তন করে"। এটা সম্ভবত প্রধান ব্যাপার: অভ্যন্তরীণ মনোভাব পরিবর্তন ছাড়া, যে কোন প্রযুক্তিগত প্যাচ শুধুমাত্র সাময়িক একটা সমাধান হবে।
নিরাপত্তা দলের ব্যক্তিবলতা
এই ঘটনার কয়েক সপ্তাহ আগে ওপেনএআই একটি পুন:স্থাপনী শুরু করে। এর ফলে যোসেফ হেডেলকে চলে যেতে হয়েছিল, যিনি সেই সময়ে নিরাপদ ছিলেন । পরে সান্দোনি আগারওয়াল, যিনি প্যারিসের নিরাপত্তা দলকে নেতৃত্ব দিয়েছিলেন, কোম্পানি ত্যাগ করেছিলেন — তিনি ছয় বছরেরও বেশি সময় ধরে সেখানে কাজ করেছিলেন । ডিলান স্ক্যানডিনারো এখন আর প্রস্তুতকরণ নির্দেশনার তত্ত্বাবধান করে না, যদিও তিনি এই কোম্পানীতে রয়েছেন; তিন বছরেরও বেশি সময় ধরে, চারজন ব্যক্তি এই ভূমিকা পালন করেছে। বর্তমানে, সাচিই জৈন সম্বন্ধে নির্দিষ্ট ভাবে রিপোর্ট করা হয়েছে।
এমিলিয়া “মিস” সহ নতুন নেতা, যিনি হেডেকের পরিবর্তে নিরাপত্তার উপ রাষ্ট্রপতি হিসেবে কাজ করেন, তিনি সিও ডানিকি এবং ব্রকম্যানের সাথে ঘনিষ্ঠভাবে কাজ করেন। তবে দলটি একটি অস্বাভাবিক বিষয় লক্ষ্য করেছে: জিয়া’র পণ্য লাইন — চ্যাটজিপি এবং কোডেক্সের প্রধানের সাথে গালাইসিস দীর্ঘ মেয়াদী সম্পর্ক — তাবালিন স্তিসো। সাধারণত, নিরাপত্তা ও পণ্যের দলগুলো উত্তেজনাকর সম্পর্ক গড়ে তুলেছে, তাই এই ধরনের জোট প্রশ্ন উত্থাপন করে । একই সময়ে, এই সম্পর্ক আগের ভূমিকার প্রতি আগ্রহ সৃষ্টি করেছে।
তবুও পরিস্থিতি নিজেই দেখিয়েছে: নিরাপত্তা, ব্যক্তিগত যোগাযোগ এবং সংগঠনগত সিদ্ধান্ত কোম্পানির সংস্কৃতির সাথে সম্পর্কিত। AI এজেন্টের ঘটনা শুধু কারিগরি ব্যর্থতা নয়, বরং একটি আয়নার কথা খুলে বলা হয়েছে। কোম্পানি এই থেকে শিখতে পারবে কিনা — সময় বলবে । কিন্তু একটি জিনিষ এরই মধ্যে পরিষ্কার: নিরাপত্তা শেষ পণ্যে আটকে থাকতে পারে না; এটা অবশ্যই একদিন থেকে সংস্কৃতির অংশ হতে হবে।
