কিশোর-কিশোরীদের এআই চ্যাটবট ব্যবহারের নিরাপত্তা আরও জোরদার করতে নতুন উদ্যোগ নিয়েছে মেটা। নতুন এ উদ্যোগের আওতায় মেটা এআই চ্যাটবটের সঙ্গে কথোপকথনের সময় কিশোর বা কিশোরীরা আত্মহত্যা বা নিজের ক্ষতি করার ইঙ্গিত দিলে তা শনাক্ত করে অভিভাবকের কাছে সতর্কবার্তা পাঠাবে প্রতিষ্ঠানটি। একই সঙ্গে কোনো ব্যবহারকারী তাৎক্ষণিক আত্মহত্যার ঝুঁকিতে রয়েছেন বলে মনে হলে জরুরি সেবাদানকারী সংস্থাকেও জানাতে পারে মেটা।

সাম্প্রতিক সময়ে মানসিক সংকটে থাকা ব্যবহারকারীদের সঙ্গে এআই চ্যাটবটের আচরণ নিয়ে প্রযুক্তিপ্রতিষ্ঠানগুলো ব্যাপক সমালোচনার মুখে পড়েছে। বিশেষ করে কম বয়সী ব্যবহারকারীদের ক্ষেত্রে নিরাপত্তাব্যবস্থা আরও কার্যকর করার দাবি জোরালো হয়েছে। এমন প্রেক্ষাপটেই নতুন এ সুবিধা চালুর ঘোষণা দিয়েছে মেটা। প্রথম ধাপে যুক্তরাষ্ট্র, যুক্তরাজ্য, কানাডা ও অস্ট্রেলিয়ায় ইনস্টাগ্রামের ‘প্যারেন্টাল সুপারভিশন’ ব্যবহারকারী অভিভাবকদের জন্য সুবিধাটি চালু করা হয়েছে। বছরের শেষ নাগাদ বিশ্বের অন্যান্য দেশেও সুবিধাটি চালু করা হবে।

মেটা জানিয়েছে, কিশোর-কিশোরীদের কথোপকথনে আত্মহত্যা বা আত্মক্ষতির সুস্পষ্ট ইঙ্গিত শনাক্ত করতে বিশেষ একটি কৃত্রিম বুদ্ধিমত্তাভিত্তিক ব্যবস্থা তৈরি করা হয়েছে। তবে শুধু এআইয়ের বিশ্লেষণের ওপর নির্ভর করে কোনো সতর্কবার্তা পাঠানো হবে না। এআই কোনো কথোপকথনকে ঝুঁকিপূর্ণ হিসেবে শনাক্ত করলে সেটি প্রথমে একজন পর্যালোচক যাচাই করবেন। এরপর প্রয়োজন মনে হলে সংশ্লিষ্ট অভিভাবকের কাছে সতর্কবার্তা পাঠানো হবে।

এক ব্লগ বার্তায় মেটা জানিয়েছে, কিশোর-কিশোরীদের কথোপকথনে আত্মহত্যা বা আত্মক্ষতির সুস্পষ্ট ইঙ্গিত যেকোনো অভিভাবকের জন্যই উদ্বেগের কারণ হতে পারে। আর তাই কোনো কিশোর-কিশোরীর উদ্দেশ্য পুরোপুরি স্পষ্ট না হলেও সতর্কতার স্বার্থে বিষয়টি অভিভাবককে জানানো হবে। সম্ভাব্য ঝুঁকি উপেক্ষা করার চেয়ে অতিরিক্ত সতর্কতা অবলম্বন করাই বেশি গুরুত্বপূর্ণ। ফলে কিছু ক্ষেত্রে প্রকৃত ঝুঁকি না থাকলেও সতর্কবার্তা পাঠানো হতে পারে।

অভিভাবকদের সতর্কবার্তা পাঠানোর পাশাপাশি এআই চ্যাটবটের নিরাপত্তাব্যবস্থা আরও শক্তিশালী করছে মেটা। ইনস্টাগ্রামে কিশোর-কিশোরীদের জন্য চালু থাকা ‘লিমিটেড কনটেন্ট’ সুবিধা এখন মেটা এআইয়েও যুক্ত করা হচ্ছে। এর ফলে চ্যাটবটটি বর্তমানের তুলনায় আরও বেশি সংবেদনশীল তথ্য জানানোর অনুরোধ প্রত্যাখ্যান করবে।