'আমরাও দেখি আমাদের বিকৃত ছবি', এআই-এর অপব্যবহারে সতর্ক করলেন প্রধান বিচারপতি গাভাই

দ্য ওয়াল ব্যুরো: “হ্যাঁ, হ্যাঁ, আমরাও আমাদের বিকৃত ছবি দেখেছি।” সোমবার আদালতে জানালেন ভারতের প্রধান বিচারপতি বিআর গাভাই (BR Gavai)। কৃত্রিম বুদ্ধিমত্তা (AI)–র বেড়ে চলা অপব্যবহার নিয়ে শুনানির সময় এই মন্তব্য করেন তিনি।

ঘটনাটি ঘটে এক জনস্বার্থ মামলার (PIL) শুনানিতে, যেখানে আবেদনকারী আইনজীবী কার্তিকেয় রাওয়াল দাবি করেছেন, বিচারব্যবস্থায় জেনারেটিভ এআই (GenAI)–র ব্যবহার এখনই নিয়ন্ত্রণ না করলে তা ভবিষ্যতে ন্যায়বিচারের ওপর গুরুতর প্রভাব ফেলতে পারে।

রাওয়ালের আবেদন অনুযায়ী, সাধারণ এআই এবং জেনারেটিভ এআইয়ের মধ্যে মৌলিক পার্থক্য আছে। জেনারেটিভ এআই শুধু তথ্য বিশ্লেষণই করে না, বরং নতুন তথ্য তৈরি করতে পারে— এমনকি “অস্তিত্বহীন মামলা বা আইন” পর্যন্ত তৈরি করতে পারে। এর ফলে আইনি বিভ্রান্তি তৈরি হতে পারে, যা সংবিধানের ১৪ নম্বর অনুচ্ছেদের ন্যায়বিচারের নীতির পরিপন্থী।

আবেদনে বলা হয়েছে, জেনারেটিভ এআইয়ের ‘ব্ল্যাক বক্স’ প্রকৃতি ও অস্বচ্ছ কাজের ধারা বিচারব্যবস্থার স্বচ্ছতাকে ব্যাহত করতে পারে। এতে ‘হ্যালুসিনেশন’ নামক একটি প্রবণতা দেখা দেয়— যেখানে এআই এমন তথ্য বা নজির তৈরি করে, যা বাস্তবে অস্তিত্বই রাখে না।

রাওয়াল আরও যুক্তি দেন, এআই সিস্টেমের ফলাফল অনেকাংশে নির্ভর করে ইনপুট ডেটার মান ও পক্ষপাতহীনতার ওপর। তাই বিচারব্যবস্থায় ব্যবহৃত এআইয়ের ক্ষেত্রে ডেটা সম্পূর্ণ স্বচ্ছ ও দায়বদ্ধ হতে হবে।

প্রধান বিচারপতি গাভাই ও বিচারপতি কে ভিনোদ চন্দ্রন–এর বেঞ্চ বিষয়টি দু' সপ্তাহ পর আবার শুনবে বলে জানিয়েছে।

বস্তুত, এআই–তৈরি ভিডিওয় অপমানজনক মন্তব্য! সুপ্রিম কোর্টের প্রধান বিচারপতির নামে ভুয়ো ভিডিও বানিয়ে গ্রেফতার নবি মুম্বইয়ের যুবক

মহারাষ্ট্রের মাস খানেক আগেই নবি মুম্বইয়ে এক যুবকের বিরুদ্ধে মামলা দায়ের করে পুলিশ। অভিযোগ, ওই ব্যক্তি কৃত্রিম বুদ্ধিমত্তা (AI) ব্যবহার করে সুপ্রিম কোর্টের প্রধান বিচারপতি গাভাই–এর নামে একটি আপত্তিকর ও ভুয়ো ভিডিও তৈরি করে তা সোশ্যাল মিডিয়ায় আপলোড করেন।

পুলিশ সূত্রে জানা যায়, অভিযুক্তের বাড়ি নবি মুম্বইয়ের পানভেল এলাকায়। প্রাথমিক তদন্তে দেখা যায়, তিনি এআই ব্যবহার করে ভিডিওটি সম্পূর্ণ ভুয়োভাবে তৈরি করেছেন, যেখানে প্রধান বিচারপতির নামে একাধিক অপমানজনক মন্তব্য রয়েছে।

পিটিআই–এর প্রতিবেদন অনুযায়ী, সম্প্রতি পাঞ্জাবে কিছু ইনফ্লুয়েন্সার ও সোশ্যাল মিডিয়া অ্যাকাউন্টের বিরুদ্ধেও প্রধান বিচারপতির নামে অপমানজনক পোস্ট বা ভিডিও দেওয়ার অভিযোগ উঠেছে। তার পরই খবর আসে মহারাষ্ট্র থেকে।