গুগলের এআই জেমিনির ‘হ্যাকিং’ নিয়ে নতুন উদ্বেগ

সাইবার নিরাপত্তা সক্ষমতা যাচাইয়ের একটি পরীক্ষায় ইন্টারনেট ব্যবহার করে তিনটি প্রতিষ্ঠানের সুরক্ষিত সিস্টেমে প্রবেশ করেছিল গুগলের কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল জেমিনি। গুগলের কোনো এআই সিস্টেমের স্বয়ংক্রিয়ভাবে এমন কর্মকাণ্ডে জড়িয়ে পড়ার এটিই প্রথম জানা ঘটনা।

ঘটনাগুলো গত মে মাসে সাইবার নিরাপত্তা মূল্যায়নকারী স্বাধীন প্রতিষ্ঠান ইরেগুলারের পরিচালিত একটি পরীক্ষার সময় ঘটে।

গুগলের নিরাপত্তা প্রকৌশল বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস জানান, নিয়মিত পরীক্ষার অংশ হিসেবে জেমিনি ইন্টারনেটে থাকা উন্মুক্ত তথ্য খুঁজে বের করে। এরপর পরীক্ষার আওতাভুক্ত বলে মনে করে এমন তিনটি ওয়েবসাইটে প্রবেশের জন্য মডেলটি সম্ভাব্য লগইন তথ্য অনুমান করে।

গুগলের পক্ষ থেকে জানানো হয়েছে, সংশ্লিষ্ট তিন প্রতিষ্ঠানকে বিষয়টি অবহিত করা হয়েছে। পাশাপাশি পরীক্ষার পদ্ধতিতে পরিবর্তন আনার জন্য তাদের প্রশিক্ষণ অংশীদারের সঙ্গে কাজ করা হয়েছে।

ইরেগুলারের এক মুখপাত্র বলেন, এ ঘটনায় এমন একটি সমস্যার সংশ্লিষ্টতা ছিল, যা অন্যান্য এআই গবেষণাগারেও দেখা গেছে। জুলাইয়ের শেষ দিকে সংশ্লিষ্ট সব প্রতিষ্ঠানকে বিষয়টি জানানো হয়েছিল এবং তাদের পক্ষের জানা সমস্যাগুলো এরই মধ্যে সমাধান করা হয়েছে।

ইরেগুলারের মূল্যায়ন ঘিরে মেটা, অ্যানথ্রপিক ও ওপেনএআইয়ের সিস্টেমেও একই ধরনের ঘটনা প্রকাশ্যে এসেছে। মেটা জানিয়েছিল, তাদের ঘটনায় স্যান্ডবক্স থেকে বেরিয়ে আসা বা অত্যাধুনিক কোনো সাইবার হামলার বিষয় ছিল না।

ওয়াল স্ট্রিট জার্নালের প্রতিবেদনের বরাতে জানা গেছে, একটি ঘটনায় জেমিনি একাধিক পাসওয়ার্ড অনুমান করতে করতে শেষ পর্যন্ত একটি সুরক্ষিত সিস্টেমে প্রবেশের সুযোগ পায়। অন্য দুটি ঘটনায় মডেলটি উন্মুক্ত একটি রিপোজিটরিতে থাকা লগইন তথ্য খুঁজে পেয়ে সুরক্ষিত সিস্টেমে প্রবেশ করতে সক্ষম হয়।

গুগলের হিদার অ্যাডকিনস জানিয়েছেন, তিনটি ঘটনাতেই জেমিনি শেষ পর্যন্ত ওই কার্যক্রম বন্ধ করে দেয়।

এ ধরনের ঘটনা এআই এজেন্টদের স্বায়ত্তশাসন বাড়ার সঙ্গে সঙ্গে তাদের ইন্টারনেট ও কম্পিউটার সিস্টেম ব্যবহারের ক্ষেত্রে কী ধরনের নিরাপত্তা ব্যবস্থা প্রয়োজন, সে বিষয়ে নতুন করে প্রশ্ন তৈরি করেছে।