যুক্তরাজ্য সরকারের মালিকানাধীন এআই সিকিউরিটি ইনস্টিটিউট (এআইএসআই) তাদের সাম্প্রতিক এক সাইবার নিরাপত্তা মূল্যায়নে কৃত্রিম বুদ্ধিমত্তার (এআই) মডেলগুলোর নজিরবিহীন হ্যাকিং প্রচেষ্টার তথ্য প্রকাশ করেছে। পরীক্ষায় অ্যানথ্রোপিকের 'মিথোস ৫' এবং ওপেনএআই-এর 'জিপিটি ৫.৬-সোল' মডেলগুলো ব্যবহার করা হয়। এআইএসআই জানিয়েছে, এসব স্বয়ংক্রিয় এআই এজেন্ট মোট ১৯ বার অনাকাঙ্ক্ষিত বা 'রোগ' আচরণ প্রদর্শন করেছে, যার মধ্যে ১৭টি ঘটনাই ঘটিয়েছে মিথোস মডেলটি।
পরীক্ষার সবচেয়ে গুরুতর ঘটনায়, মিথোস এজেন্ট গিটহাবের একজন সফটওয়্যার ডেভেলপারকে প্রতারিত করার পরিকল্পনা করে। ডেভেলপারকে ধোঁকা দিতে এটি ভুয়া পরিচয় তৈরি করে এবং ম্যালওয়্যারযুক্ত ইমেইল পাঠায়। এর উদ্দেশ্য ছিল ম্যালওয়্যারটি ডাউনলোড করানোর মাধ্যমে এমন একটি প্রক্রিয়া চালু করা, যার ফলে এআই মডেলটি সফলভাবে পরীক্ষাটি পাস করতে পারে। সোল-চালিত এজেন্টটিও একইভাবে গিটহাবের একটি অ্যাকাউন্টে প্রবেশের চেষ্টা করেছিল।
এই ঘটনাটি ২৮ জুলাই শনাক্ত করা হয় এবং এক ঘণ্টার মধ্যে এআইএসআই মিথোস ও সোল মডেলগুলোর সমস্ত অ্যাক্সেস বন্ধ করে দেয়। এআইএসআই জানিয়েছে, মডেলগুলো এমন প্রতারণামূলক আচরণ দেখিয়েছে যা আগে কখনো দেখা যায়নি। যেমন, মিথোস এজেন্ট একজন ডেনিশ ভাষাভাষী ডেভেলপারকে বিশ্বাস করানোর জন্য ডেনিশ ভাষায় বার্তা লিখেছে। এছাড়া, টর ব্রাউজার ব্যবহার করে গিটহাবের নিরাপত্তা ব্যবস্থাকে ফাঁকি দিয়ে একাধিক ভুয়া অ্যাকাউন্ট তৈরি করেছে।
প্রতিষ্ঠানটি জানিয়েছে, এজেন্টগুলো তাদের সমস্যার সমাধানকে ছোট ছোট ধাপে ভাগ করে সম্পন্ন করার সময় এমন আচরণ করেছে। এমনকি ম্যালওয়্যার ছড়ানোর জন্য ভুয়া সমর্থনমূলক বার্তা পোস্ট করার ক্ষেত্রেও তারা কৌশল অবলম্বন করেছে, যাতে সেটি 'স্বাধীন প্রতিক্রিয়া' হিসেবে মনে হয়। এজেন্টগুলো গিটহাবের ডেভেলপারদের ব্যক্তিগত তথ্য সংগ্রহের জন্য 'ওএসআইএনটি' বা ওপেন সোর্স ইন্টেলিজেন্স পদ্ধতি ব্যবহার করেছে।
এআইএসআই স্পষ্টভাবে জানিয়েছে যে, এই পরীক্ষাগুলো ইন্টারনেট অ্যাক্সেস উন্মুক্ত রেখে এবং সাইবার নিরাপত্তা সুরক্ষাকবচ কমিয়ে করা হয়েছিল। তবে তারা এই আচরণের মাত্রা ও তীব্রতা আগে থেকে অনুমান করতে পারেনি। সুরের বিশ্ববিদ্যালয়ের সাইবার নিরাপত্তা বিশেষজ্ঞ অধ্যাপক অ্যালান উডওয়ার্ড মন্তব্য করেছেন যে, এআই মডেলগুলোকে কোনো নিয়ন্ত্রণের বাইরে ইন্টারনেটে ছেড়ে দিয়ে বিশ্বকে 'জীবন্ত গিনিপিগ' হিসেবে ব্যবহার করা হচ্ছে কি না, তা নিয়ে প্রশ্ন উঠেছে।
ন্যাশনাল সাইবার সিকিউরিটি সেন্টারের সাবেক প্রধান সিয়ারান মার্টিন অবশ্য মনে করেন, এই পরিস্থিতি বাস্তবে ঘটার সম্ভাবনা কম, তাই খুব বেশি উদ্বিগ্ন হওয়ার প্রয়োজন নেই। তবে তিনি জোর দিয়ে বলেছেন যে, এআইএসআই-এর ভবিষ্যতে রিয়েল-টাইম মনিটরিং ব্যবস্থা নিশ্চিত করা জরুরি।