এআই ব্যবহারে সতর্ক করলেন মাইক্রোসফট সিইও সত্য নাদেলা

কৃত্রিম বুদ্ধিমত্তাকে (এআই) অন্ধভাবে বিশ্বাস না করে এর ব্যবহারে শক্তিশালী নিরাপত্তাব্যবস্থা ও মানুষের নিয়ন্ত্রণ নিশ্চিত করার আহ্বান জানিয়েছেন মাইক্রোসফটের প্রধান নির্বাহী কর্মকর্তা (সিইও) সত্য নাদেলা। তাঁর মতে, গুরুত্বপূর্ণ ব্যবস্থায় প্রবেশাধিকার পেলে উন্নত এআই মডেল ভুল করতে পারে কিংবা নিরাপত্তাঝুঁকি তৈরি করতে পারে।
 

শনিবার সামাজিক যোগাযোগমাধ্যম এক্সে দেওয়া এক দীর্ঘ পোস্টে নাদেলা বলেন, এআই মডেল কেন নির্দিষ্টভাবে আচরণ করে, তা সব সময় ব্যাখ্যা করা সম্ভব হয় না। এ কারণে এআইয়ের কার্যক্রমের ওপর নজরদারির পাশাপাশি স্বাধীন সুরক্ষাব্যবস্থা ও নির্ভরযোগ্য কার্যপ্রণালি থাকা জরুরি।
 

নাদেলার মতে, এআই মডেলের অনিশ্চিত আচরণ সামাল দিতে এমন প্রযুক্তিগত ব্যবস্থা গড়ে তুলতে হবে, যার কার্যক্রম পূর্বনির্ধারিত ও নিয়ন্ত্রণযোগ্য। প্রয়োজন অনুযায়ী শিল্পখাতে নতুন নিরাপত্তামানও প্রতিষ্ঠা করতে হবে।
 

তিনি আরও বলেন, উন্নত ক্লোজড ও ওপেন-ওয়েট এআই মডেলকে সম্ভাব্য অভ্যন্তরীণ ঝুঁকির মতো বিবেচনা করে নিরাপত্তাব্যবস্থা তৈরি করা যেতে পারে। এর অর্থ এআইকে ক্ষতিকর হিসেবে বিবেচনা করা নয়; বরং গুরুত্বপূর্ণ ব্যবস্থায় প্রবেশাধিকার দেওয়ার ক্ষেত্রে এর সক্ষমতার সঙ্গে সামঞ্জস্য রেখে ঝুঁকি মোকাবিলার প্রস্তুতি রাখা।
 

নাদেলা এআই মডেলকে তার কার্যক্রম সমন্বয়কারী ব্যবস্থা এবং কোন কাজ করার অনুমতি রয়েছে, তা নির্ধারণকারী কাঠামো থেকে পৃথক রাখার ওপরও গুরুত্ব দেন। তাঁর মতে, নিয়ন্ত্রণ ও নিরাপত্তাব্যবস্থা এমনভাবে তৈরি করতে হবে, যাতে এআইয়ের কার্যক্রম প্রয়োজনে সীমিত বা বন্ধ করা যায়।
 

নিরাপদ এআই ব্যবহারে সাতটি নীতির প্রস্তাব দিয়েছেন নাদেলা। এর মধ্যে রয়েছে মডেলের আচরণ পর্যবেক্ষণ, স্বাধীন নিরীক্ষা, নিয়মিত পরীক্ষা এবং মানুষের হস্তক্ষেপের সুযোগ রাখা। তিনি জরুরি ব্রেকের উদাহরণ দিয়ে বলেন, অনুমোদিত ব্যক্তির যেন কাজ চলাকালেই এআই মডেল থামানো বা বন্ধ করার ক্ষমতা থাকে।
 

এ ছাড়া এআই-সংক্রান্ত ব্যর্থতা ও নিরাপত্তা লঙ্ঘনের ঘটনা ঘটলে ক্ষতিগ্রস্তদের দ্রুত জানানোর আহ্বান জানিয়েছেন তিনি। এতে কী ভুল হয়েছে, তা বোঝা এবং ভবিষ্যতে একই ধরনের ঘটনা প্রতিরোধে পদক্ষেপ নেওয়া সহজ হবে।
 

এদিকে বক্সের প্রধান নির্বাহী কর্মকর্তা অ্যারন লেভি নাদেলার বক্তব্যের সঙ্গে একমত পোষণ করে এআই ব্যবস্থায় ‘জিরো ট্রাস্ট’ পদ্ধতির প্রয়োজনীয়তার কথা বলেছেন। তাঁর মতে, এআই এজেন্ট কী করছে, কোন তথ্য ব্যবহারের অনুমতি পাচ্ছে এবং ভুল হলে কীভাবে নিয়ন্ত্রণ ফিরিয়ে আনা যাবে—এসব বিষয়ে একাধিক স্তরের সুরক্ষা ও নিরীক্ষাযোগ্যতা নিশ্চিত করা প্রয়োজন।
 

ক্রমবর্ধমান স্বয়ংক্রিয় এআই ব্যবস্থার নিরাপত্তা নিয়ে উদ্বেগের মধ্যেই নাদেলার এই বক্তব্য এসেছে। বিজনেস ইনসাইডারের এক প্রতিবেদনে বলা হয়েছে, ওপেনএআই ও অ্যানথ্রপিকের তৈরি এআই মডেলকে ঘিরে সাম্প্রতিক কিছু ঘটনা এসব ব্যবস্থার আচরণ কতটা কার্যকরভাবে নিয়ন্ত্রণ করা যাচ্ছে, সে বিষয়ে প্রশ্ন তৈরি করেছে।
 

এদিকে যুক্তরাষ্ট্রের সিনেটর জশ হলি ও ক্রিস মার্ফি গত ১ অক্টোবর হ্যাকিংয়ের ঘটনায় এআইয়ের উন্নয়নকারী ও পরিচালনাকারীদের জবাবদিহির আওতায় আনার লক্ষ্যে একটি দ্বিদলীয় আইনের ঘোষণা দিয়েছেন বলে প্রতিবেদনে উল্লেখ করা হয়েছে।