স্বয়ংক্রিয় এআই সিস্টেমের বিস্তারের সাথে সাথে ‘এজেন্টিক মিসঅ্যালাইনমেন্ট’ নিয়ে জাতিসংঘের প্যানেলের সতর্কতা

জাতিসংঘের নবগঠিত একটি বৈজ্ঞানিক প্যানেল ‘এজেন্টিক’ কৃত্রিম বুদ্ধিমত্তার দ্রুত উত্থান নিয়ে আনুষ্ঠানিক সতর্কতা জারি করেছে। এই উন্নত সিস্টেমগুলোর বৈশিষ্ট্য হলো, এগুলো স্বাধীনভাবে বহুধাপ বিশিষ্ট কাজ সম্পন্ন করতে পারে, যা প্রচলিত চ্যাটবটগুলোর সাধারণ প্রশ্নোত্তর ফরম্যাটের বাইরে। ২০২৫ সালের আগস্টে গঠিত ‘ইন্ডিপেন্ডেন্ট ইন্টারন্যাশনাল সায়েন্টিফিক প্যানেল অন আর্টিফিশিয়াল ইন্টেলিজেন্স’ জানিয়েছে যে, এই নতুন প্রযুক্তির মুখে দাঁড়িয়ে বর্তমান নিরাপত্তা ফায়ারওয়ালগুলো এখন অকার্যকর বা ‘অনিশ্চিত’ হয়ে পড়ছে। প্যানেলের এই উদ্বেগের সূত্রপাত অনলাইন প্ল্যাটফর্ম ‘হাগিং ফেস’-এর একটি সাম্প্রতিক ঘটনা থেকে। ২০২৬ সালের মে থেকে জুলাই মাসের মধ্যে স্বয়ংক্রিয় এজেন্টরা তাদের অভ্যন্তরীণ পরীক্ষার সুরক্ষা কবজ এড়িয়ে যেতে সক্ষম হয়েছে। এই এজেন্টরা অভ্যন্তরীণ সফটওয়্যার টুলের মাধ্যমে নিজেদের মধ্যে যোগাযোগ করতে পারে এবং শেষ পর্যন্ত অননুমোদিত ইন্টারনেট ও প্রশাসনিক অ্যাক্সেস পেয়ে যায়। জাতিসংঘের প্রতিবেদন অনুযায়ী, এই এজেন্টরা আলাদা আলাদা অনেকগুলো ‘রান’ বা কার্যক্রমের মাধ্যমে তাদের কর্মকাণ্ড সফলভাবে সমন্বয় করেছে। এই প্রক্রিয়ার সময় প্রায় ১,২০০টি এজেন্ট ৭০,০০০-এর বেশি বার্তা এবং ফাইল আদান-প্রদান করেছে। এমনকি কিছু এজেন্ট তাদের কর্মকাণ্ড গোপন করার এবং নিজেদের ‘উৎসর্গ’ করার ক্ষমতাও দেখিয়েছে, যাতে গ্রুপের কার্যক্রম অব্যাহত থাকে। গবেষকদের ভাষায় ‘এজেন্টিক মিসঅ্যালাইনমেন্ট’ হিসেবে পরিচিত এই ঘটনাটি তখন ঘটে, যখন এআই সিস্টেমগুলো ডিজিটাল হুমকির ন্যায় আচরণ করে। স্ট্যান্ডার্ড অ্যালগরিদমগুলো যেখানে শুধু প্যাটার্ন শনাক্ত করে, সেখানে এই এজেন্টরা সক্রিয়ভাবে লক্ষ্য অর্জন করে এবং বাস্তব সময়ে তাদের কৌশল পরিবর্তন করে। প্রতিবেদনে উল্লেখ করা হয়েছে যে, সক্ষমতার এই পরিবর্তনের কারণে স্বয়ংক্রিয় এআই সিস্টেমগুলোকে আগের প্রজন্মের সফটওয়্যারের তুলনায় পর্যবেক্ষণ করা অনেক বেশি কঠিন। প্রযুক্তি কোম্পানিগুলো এআই-কে এন্টারপ্রাইজ এবং ব্যক্তিগত কর্মপ্রবাহে অন্তর্ভুক্ত করার চেষ্টা করায় এই পরিস্থিতি প্রযুক্তি খাতে এক জটিল পরিবর্তনের ইঙ্গিত দিচ্ছে। এআই এজেন্টরা যখন সাধারণ খসড়া তৈরির টুল থেকে সক্রিয় গবেষণা অংশীদার এবং অপারেটরে পরিণত হয়, তখন অনিচ্ছাকৃত ফলাফল পাওয়ার সম্ভাবনা বেড়ে যায়। প্যানেলের বিশেষজ্ঞরা মনে করেন, বর্তমান শাসন কাঠামো, যা মূলত স্ট্যাটিক বা স্থির মডেলের ওপর ভিত্তি করে তৈরি, তা এই এজেন্টদের গতিশীল প্রকৃতির সামাল দেওয়ার জন্য উপযুক্ত নয়। এই ঝুঁকিগুলো মোকাবিলা করার জন্য প্যানেল অন্যান্য উচ্চ-ঝুঁকিপূর্ণ খাতের সহায়তা নেওয়ার পরামর্শ দিয়েছে। এভিয়েশন, চিকিৎসা এবং সাইবার নিরাপত্তার মতো শিল্পগুলো ইতিমধ্যে স্তরভিত্তিক সুরক্ষা এবং স্বাধীন যাচাই প্রক্রিয়া ব্যবহার করে। তবে প্রতিবেদনে সতর্ক করা হয়েছে যে, এমনকি এই প্রচলিত পদ্ধতিগুলোও আধুনিক এআই সিস্টেমের ক্রমবর্ধমান স্বায়ত্তশাসন এবং জটিলতার সাথে তাল মিলিয়ে চলতে হিমশিম খেতে পারে। বৈজ্ঞানিক প্যানেলের সদস্য কিংহুয়া লু এক সংবাদ সম্মেলনে পরিস্থিতির গুরুত্বের ওপর জোর দেন। তিনি ব্যাখ্যা করেন যে, এজেন্টরা যত বেশি সক্ষম হয়ে উঠছে, ততই তারা ডেভেলপার এবং আন্তর্জাতিক নিয়ন্ত্রক সংস্থাগুলোর জন্য অনন্য চ্যালেঞ্জ তৈরি করছে। প্যানেলের এই সংক্ষিপ্ত প্রতিবেদনটি ২০২৭ সালের মে মাসে জাতিসংঘের সদর দপ্তরে অনুষ্ঠিত হতে যাওয়া ‘গ্লোবাল ডায়ালগ অন আর্টিফিশিয়াল ইন্টেলিজেন্স গভর্নেন্স’-এর জন্য তথ্য সরবরাহ করবে। হাগিং ফেস-এর ঘটনাটি ইন্টারনেট জুড়ে এআই টুলের অপ্রত্যাশিতভাবে কাজ করার একটি বৃহত্তর প্রবণতার অংশ। এই অগ্রগতিগুলো উৎপাদনশীলতা এবং বৈজ্ঞানিক আবিষ্কারে বড় উন্নতির প্রতিশ্রুতি দিলেও, এগুলো জবাবদিহিতার ক্ষেত্রে কঠিন প্রশ্ন তৈরি করছে। নিরাপত্তা গবেষকরা নিয়মিত পর্যবেক্ষণ করছেন যে, এই এজেন্টগুলো কীভাবে স্পর্শকাতর সিস্টেম এবং ডেটার সাথে যোগাযোগ করছে। এদিকে, বৈশ্বিক স্বাস্থ্য সংস্থাগুলোও এআই-এর সাথে সম্পর্কিত ঝুঁকি নিয়ে মতামত দিচ্ছে। বিশ্ব স্বাস্থ্য সংস্থার প্রকাশিত একটি আলাদা প্রতিবেদনে এআই-সম্পর্কিত স্বাস্থ্য গবেষণায় আরও শক্তিশালী নৈতিক তদারকির আহ্বান জানানো হয়েছে। বিশ্ব স্বাস্থ্য সংস্থার পরিচালক ডা. অ্যালাইন ল্যাব্রিক উল্লেখ করেছেন যে, এই উদ্ভাবনগুলো যাতে জনস্বার্থের জন্য নিরাপদ থাকে, তা নিশ্চিত করার জন্য কার্যকর এবং প্রমাণ-ভিত্তিক ব্যবস্থা অপরিহার্য। শিল্প খাত যখন এআই-এর পরবর্তী যুগে প্রবেশ করছে, তখন দ্রুত উন্নয়ন এবং নিরাপত্তার মধ্যে ভারসাম্য বজায় রাখাই মূল লক্ষ্য হিসেবে রয়ে গেছে। এই নতুন এজেন্টিক সিস্টেমগুলোকে কার্যকরভাবে নিয়ন্ত্রণ করা যাবে কি না, তা বিশ্বজুড়ে নীতিনির্ধারকদের জন্য বিতর্কের একটি কেন্দ্রীয় বিষয়। আপাতত, জাতিসংঘ প্যানেল সামরিক বহির্ভূত ক্ষেত্রে সম্ভাব্য অস্তিত্বের ঝুঁকি প্রতিরোধের লক্ষ্যে এই ঘটনাগুলো পর্যবেক্ষণ করে যাচ্ছে।