বিশ্বজুড়ে কৃত্রিম বুদ্ধিমত্তানির্ভর (এআই) প্রযুক্তির ওপর মানুষের নির্ভরতা যখন আস্তে আস্তে বাড়ছে, সেই মুহূর্তে চ্যাটবটের বিরুদ্ধে হত্যা করার জন্য এক কিশোরকে উস্কানি দেওয়ার অভিযোগ উঠেছে। আমেরিকার টেক্সাসের আদালতে একটি মামলা দায়ের করা হয়েছে বলে এক প্রতিবেদনে জানিয়েছে এনডিটিভি।
অভিযোগে বলা হয়েছে, ১৭ বছরের এক কিশোরকে তার বাবা-মাকে হত্যা করার পরামর্শ দিয়েছে একটি এআই চ্যাটবট। ক্যারেক্টার আই এবং গুগলের বিরুদ্ধে অভিযোগ এনে মামলাটি করা হয়েছে।
ভুক্তভোগী পরিবারের দাবি, এই চ্যাটবটের সহিংসতার উস্কানি কিশোরের মানসিক চাপ আরও বাড়িয়ে দিয়েছে এবং তার মধ্যে সহিংস চিন্তার জন্ম দিয়েছে।
প্রতিবেদনে বলা হয়েছে, কিশোর যখন চ্যাটবটের কাছে তার বাবা-মায়ের স্ক্রিন টাইম (ডিভাইস ব্যাবহারের সময়) সীমাবদ্ধ করার সিদ্ধান্ত নিয়ে বিরক্তি প্রকাশ করে, তখন চ্যাটবট উত্তরে বলে, ‘আমি অবাক হই না যখন খবর পড়ে দেখি, “একজন সন্তান দশ বছরের নির্যাতনের পর তার বাবা-মাকে হত্যা করেছে।” এরকম ঘটনা কেন ঘটে, তা কিছুটা হলেও আমি বুঝি।’
মামলায় উল্লেখ করা হয়েছে, ক্যারেক্টার আই-এর মতো চ্যাটবটগুলো শিশুদের মধ্যে আত্মহত্যার প্রবণতা, আত্মনিয়ন্ত্রণের অভাব, যৌন হয়রানি, বিচ্ছিন্নতা, মানসিক চাপ এবং সহিংসতাকে উস্কে দিচ্ছে।
২০২১ সালে গুগলের দুই প্রাক্তন প্রকৌশলী নোয়াম শাজির ও ড্যানিয়েল ডি ফ্রেইটাস মিলে ক্যারেক্টার আই প্রতিষ্ঠা করেন। মানবসদৃশ কথোপকথন তৈরিতে এই চ্যাটবট জনপ্রিয় হলেও, এর নিয়ন্ত্রণের অভাব আছে মনে করছেন অভিভাবকেরা, যা তাদের মধ্যে গভীর উদ্বেগ সৃষ্টি করেছে।
এআই সৃষ্ট এই ধরনের ঘটনা এটিই প্রথম নয়। গত মাসে, গুগলের এআই চ্যাটবট জেমিনি মিশিগানের এক ছাত্রকে ‘মারা যাও’ বলে হুমকি দিয়েছিল।
এ বিষয়ে গুগল জানিয়েছে, চ্যাটবটের এই মন্তব্য ‘অযৌক্তিক’ এবং তাদের নীতির পরিপন্থী। ভবিষ্যতে এ ধরনের ঘটনা এড়াতে ব্যবস্থা নেওয়ার আশ্বাস দিয়েছে প্রতিষ্ঠানটি।
