সব চ্যাটে হ্যাঁ নয়, শিশুদের বয়স আন্দাজ করে ঝুঁকিপূর্ণ কনটেন্টে লাগাম টেনে দেবে ওপেন এআই

দ্য ওয়াল ব্যুরো: কৃত্রিম বুদ্ধিমত্তাভিত্তিক (AI) চ্যাটবট ব্যবহারে শিশুদের মানসিক সুরক্ষা (Children’s Mental Health) নিয়ে বিশ্বজুড়ে উদ্বেগ বাড়ছে। সেই প্রেক্ষিতেই ওপেন এআই (OpenAI) এবার  ঘোষণা করেছে—তাদের জনপ্রিয় চ্যাটবট চ্যাট জিপিটি-তে (ChatGPT) চালু হতে চলেছে বয়স অনুমান (Age Prediction) করার ব্যবস্থা। লক্ষ্য একটাই—১৮ বছরের কম বয়সি ব্যবহারকারীদের জন্য ঝুঁকিপূর্ণ কনটেন্টে প্রবেশ ঠেকানো।

সম্প্রতি একাধিক ঘটনায় উঠে এসেছে, কিছু কিশোর-কিশোরী চ্যাটবটের সঙ্গে কথোপকথনের সময় আত্মহানি বা আত্মক্ষতির মতো সংবেদনশীল বিষয়ে বিপজ্জনক পরামর্শ পেয়েছে। বিশেষজ্ঞদের মতে, ‘সব কথায় সায় দেওয়ার’ জন্য তৈরি AI চ্যাটবটগুলি অজান্তেই মানসিকভাবে দুর্বল শিশুদের ঝুঁকির দিকে ঠেলে দিতে পারে।

এই পরিস্থিতিতে OpenAI জানাচ্ছে, নতুন বয়স অনুমান মডেল ব্যবহারকারীর আচরণগত নানা সিগন্যাল বিশ্লেষণ করবে—অ্যাকাউন্ট কত দিনের, কোন সময়ে বেশি সক্রিয়, ব্যবহার-প্যাটার্ন কেমন, ব্যবহারকারী নিজে কী বয়স জানিয়েছে—এই সব তথ্যের ভিত্তিতে অনুমান করা হবে তিনি ১৮-র নিচে কি না।

সিস্টেম যদি মনে করে ব্যবহারকারী নাবালক বা নাবালিরা, তাহলে স্বয়ংক্রিয়ভাবে ‘অতিরিক্ত সুরক্ষা ব্যবস্থা’ চালু হবে। এর ফলে গ্রাফিক হিংসা, যৌন কনটেন্ট, আত্মহানি বা আত্মক্ষতির বর্ণনা, এমনকি অস্বাস্থ্যকর সৌন্দর্য-ধারণা সম্পর্কিত বিষয়েও কড়া নিয়ন্ত্রণ থাকবে। অভিভাবকরাও ‘পেরেন্টাল কন্ট্রোল’-এর মাধ্যমে ব্যবহার সীমিত করতে পারবেন—নির্দিষ্ট সময়ে ব্যবহার বন্ধ রাখা, মেমরি বা ট্রেনিং ফিচার নিয়ন্ত্রণ, এমনকি তীব্র মানসিক অস্বস্তির ইঙ্গিত মিললে নোটিফিকেশন পাওয়ার ব্যবস্থাও থাকছে।

OpenAI জানিয়েছে, ভুলবশত যদি কোনও প্রাপ্তবয়স্ককে নাবালক হিসেবে চিহ্নিত করা হয়, তাহলে পরিচয় যাচাইয়ের মাধ্যমে তা সংশোধনের সুযোগ থাকবে। আপাতত ইউরোপীয় ইউনিয়নে এই ফিচার ধাপে ধাপে চালু হওয়ার কথা, পরে অন্যান্য অঞ্চলেও বিস্তারের পরিকল্পনা রয়েছে।

ভারতের প্রেক্ষাপটে বিষয়টি আরও গুরুত্বপূর্ণ। দেশের ডিজিটাল পার্সোনাল ডেটা প্রোটেকশন (DPDP) আইন, ২০২৩ অনুযায়ী, ১৮ বছরের নিচে কারও ডেটা ব্যবহারের আগে অভিভাবকের সম্মতি বাধ্যতামূলক। কিন্তু বাস্তবে বয়স যাচাইয়ের নির্ভুল পদ্ধতির অভাব রয়েছে বলেই মত বিশেষজ্ঞদের। সেই জায়গায় বয়স অনুমান প্রযুক্তি কতটা কার্যকর হবে, তা নিয়ে শুরু হয়েছে নতুন বিতর্ক।

তবে একথা স্পষ্ট—শিশুদের মানসিক স্বাস্থ্য ও অনলাইন সুরক্ষা নিয়ে এআই (AI) সংস্থাগুলির উপর চাপ বাড়ছে। বয়স অনুমান ব্যবস্থা সেই চাপ সামলানোরই এক গুরুত্বপূর্ণ পদক্ষেপ বলে মনে করছেন প্রযুক্তি ও নীতিনির্ধারণী মহলের একাংশ।