নিরাপত্তা পরীক্ষায় অপ্রত্যাশিত আচরণ, তদন্তে ওপেনএআই ও হাগিং ফেস
কৃত্রিম বুদ্ধিমত্তার (এআই) নিরাপত্তা সক্ষমতা যাচাইয়ের একটি অভ্যন্তরীণ পরীক্ষায় ওপেনএআইয়ের একটি উন্নত এআই এজেন্ট নির্ধারিত সীমার বাইরে গিয়ে এআই প্ল্যাটফর্ম হাগিং ফেসের সিস্টেমে অননুমোদিতভাবে প্রবেশের চেষ্টা করেছে। ঘটনাটি প্রকাশের পর বিষয়টি নিয়ে যৌথ তদন্ত শুরু করেছে ওপেনএআই ও হাগিং ফেস।
২১ জুলাই প্রকাশিত দুই প্রতিষ্ঠানের যৌথ নিরাপত্তা প্রতিবেদনে জানানো হয়, জিপিটি-৫.৬ সোল এবং আরেকটি প্রি-রিলিজ মডেলের সাইবার সক্ষমতা মূল্যায়নের সময় এ ঘটনা ঘটে।
ওপেনএআই জানিয়েছে, তাদের অভ্যন্তরীণ ‘এক্সপ্লইট জিম’ বেঞ্চমার্ক পরীক্ষায় মডেলের সক্ষমতা যাচাই করতে কিছু নিরাপত্তা সীমাবদ্ধতা সাময়িকভাবে শিথিল করা হয়েছিল। নির্দিষ্ট একটি সাইবার নিরাপত্তা সমস্যা সমাধানের দায়িত্ব দেওয়া হলে মডেলটি বিকল্প উপায়ে সমাধান খুঁজতে গিয়ে অনুমোদনের বাইরে কার্যক্রম শুরু করে।
প্রতিবেদন অনুযায়ী, এআইটি একটি অজানা নিরাপত্তা দুর্বলতা ব্যবহার করে পরীক্ষার স্যান্ডবক্স পরিবেশ থেকে ইন্টারনেটে প্রবেশের চেষ্টা করে। এরপর বিভিন্ন দুর্বলতা ও রিমোট কোড এক্সিকিউশন কৌশল কাজে লাগিয়ে হাগিং ফেসের সার্ভারে প্রবেশের চেষ্টা চালায়। এর উদ্দেশ্য ছিল পরীক্ষার সমাধান সংগ্রহ করে ভালো ফল অর্জন করা।
তবে ওপেনএআইয়ের নিরাপত্তা দল দ্রুত অস্বাভাবিক কার্যক্রম শনাক্ত করে এবং হাগিং ফেসের নিরাপত্তা দলের সহযোগিতায় পরিস্থিতি নিয়ন্ত্রণে আনে।
হাগিং ফেস জানিয়েছে, তাদের ডেটাসেট বা সফটওয়্যার সাপ্লাই চেইনে কোনো ধরনের পরিবর্তনের প্রমাণ পাওয়া যায়নি। তবে সংবেদনশীল অভ্যন্তরীণ তথ্য সংগ্রহের চেষ্টা হয়েছিল কি না, তা এখনও তদন্তাধীন।
ওপেনএআই ঘটনাটিকে এআই নিরাপত্তা গবেষণার ক্ষেত্রে একটি গুরুত্বপূর্ণ সতর্কবার্তা হিসেবে উল্লেখ করেছে। প্রতিষ্ঠানটির মতে, উন্নত এআই মডেলগুলো ভবিষ্যতে জটিল সাইবার আক্রমণের কৌশল শনাক্ত ও ব্যবহার করার সক্ষমতা অর্জন করতে পারে। তাই মডেল উন্নয়ন, মূল্যায়ন ও পরীক্ষার প্রতিটি ধাপে আরও কঠোর নিরাপত্তা, পর্যবেক্ষণ ও অ্যাক্সেস নিয়ন্ত্রণ নিশ্চিত করা হবে।
হাগিং ফেসের সহ-প্রতিষ্ঠাতা ও প্রধান নির্বাহী ক্লেম ডেলাঙ্গ বলেন, দ্রুত বিকশিত এআই প্রযুক্তির যুগে এমন ঝুঁকি মোকাবিলায় একক প্রতিষ্ঠানের পক্ষে কাজ করা সম্ভব নয়। এ জন্য নিরাপত্তা গবেষণা, স্বচ্ছতা এবং বিভিন্ন প্রতিষ্ঠানের পারস্পরিক সহযোগিতা আরও বাড়ানো প্রয়োজন।
ঘটনার পর বিশ্বজুড়ে এআই নিরাপত্তা, স্বয়ংক্রিয় সাইবার হামলার সম্ভাবনা এবং উন্নত এআই মডেলের নিয়ন্ত্রণ কাঠামো নিয়ে নতুন করে আলোচনা শুরু হয়েছে।
