অশ্লীল ও বেআইনি কনটেন্ট তৈরিতে কৃত্রিম বুদ্ধিমত্তাভিত্তিক টুল ‘গ্রোক’ অপব্যবহারের অভিযোগ উঠেছে। এ নিয়ে ইলন মাস্কের মালিকানাধীন সামাজিক যোগাযোগমাধ্যম এক্স (সাবেক টুইটার)-এর বিরুদ্ধে নজরদারি জোরদারের আহ্বান জানিয়েছেন বিভিন্ন দেশের আইনপ্রণেতা ও ডিজিটাল অধিকারকর্মীরা।

অভিযোগের প্রেক্ষিতে এক্সকে ইতোমধ্যে কয়েকটি দেশ থেকে নোটিশ পাঠানো হয়েছে। নোটিশে অবিলম্বে বেআইনি কনটেন্ট সরিয়ে ফেলা এবং এ বিষয়ে কী ধরনের পদক্ষেপ নেওয়া হয়েছে-তা বিস্তারিতভাবে জানাতে বলা হয়েছে।

অভিযোগে বলা হয়, সম্প্রতি গ্রোক ব্যবহার করে আপত্তিকর ও অশ্লীল ছবি তৈরির ঘটনা বেড়েছে। বিশেষ করে নারীদের ছবি ব্যবহার করে এমন কনটেন্ট তৈরি ও ছড়িয়ে পড়া উদ্বেগজনক পর্যায়ে পৌঁছেছে। বিষয়টি নিয়ে নাগরিক সমাজের সংগঠনগুলো কঠোর ব্যবস্থা নেওয়ার দাবি জানিয়েছে।

বিশ্লেষকদের মতে, কয়েকটি দেশের স্থানীয় তথ্যপ্রযুক্তি আইন ও ডিজিটাল মিডিয়া এথিকস কোড অনুসরণে ব্যর্থ হওয়ায় এক্সের বিরুদ্ধে ডিউ ডিলিজেন্স লঙ্ঘনের অভিযোগ উঠেছে। নোটিশে আইনবিরোধী কনটেন্টের প্রবেশাধিকার বন্ধ, ডিজিটাল প্রমাণ সংরক্ষণ এবং গ্রোক টুলের পরিচালন কাঠামো ও প্রযুক্তিগত নকশা পর্যালোচনার নির্দেশ দেওয়া হয়েছে।

এছাড়া বেআইনি কনটেন্ট প্রতিরোধে আরও শক্তিশালী সুরক্ষা ব্যবস্থা নিশ্চিত করার পাশাপাশি নিয়ম ভঙ্গকারী অ্যাকাউন্ট স্থগিত বা স্থায়ীভাবে বন্ধ করার তাগিদ দেওয়া হয়েছে।

এ বিষয়ে এক্স কর্তৃপক্ষ জানায়, তারা বেআইনি কনটেন্টের বিরুদ্ধে নিয়মিত ব্যবস্থা নিয়ে থাকে। শিশু নির্যাতনসহ গুরুতর অপরাধ সংশ্লিষ্ট কনটেন্ট দ্রুত সরানো হয় এবং প্রয়োজনে সংশ্লিষ্ট অ্যাকাউন্ট স্থায়ীভাবে বন্ধ করা হয়। আইনশৃঙ্খলা রক্ষাকারী বাহিনীর সঙ্গেও সহযোগিতা করা হয়।

এক্স সেফটির এক বিবৃতিতে বলা হয়েছে, গ্রোক ব্যবহার করে কেউ বেআইনি কনটেন্ট তৈরি করলে তার বিরুদ্ধেও সরাসরি কনটেন্ট আপলোডকারীদের মতোই কঠোর ব্যবস্থা নেওয়া হচ্ছে।

ডিজিটাল আইন বিশেষজ্ঞরা বলছেন, সামাজিক যোগাযোগমাধ্যমগুলোকে তাদের প্ল্যাটফর্মে প্রকাশিত সব ধরনের কনটেন্টের দায় নিশ্চিত করতে হবে। ভুয়া ও বেআইনি কনটেন্ট ছড়িয়ে পড়ার ক্ষেত্রে জবাবদিহি নিশ্চিত করাই এখন সবচেয়ে বড় চ্যালেঞ্জ।