امریکہ میں معروف غیر منافع بخش ادارے Common Sense Media کی نئی رپورٹ میں ایکس اے آئی کے گروک چیٹ بوٹ کو بچوں اور نوعمر صارفین کے لیے ’’غیر محفوظ‘‘ قرار دیا گیا ہے۔ رپورٹ میں کم عمر صارفین کے لیے عمر کی تصدیق میں خامیاں، حفاظتی ضوابط کی کمزوری اور نامناسب، جنسی یا تشدد آمیز مواد کی بار بار پیدا ہونے والی مثالیں نمایاں کی گئی ہیں۔ واضح رہے کہ گروک کے خلاف عالمی سطح پرنگرانی، تحقیقات اور ضابطہ سازی کے اقدامات بھی جاری ہیں۔

امریکہ کی غیر منافع بخش تنظیم Common Sense Media نے ۲۷؍ جنوری کو ایک رپورٹ جاری کی ہے جس میں ایکس اے آئی کے تیار کردہ گروک چیٹ بوٹ کو بچوں اور نوعمر افراد کے لیے ’’غیر محفوظ‘‘ قرار دیا گیا ہے۔ یہ رپورٹ اس ٹیکنالوجی کے حفاظتی نظام کی ناکامیوں، عمر کی ناکافی تصدیق کے طریقوں اور نامناسب مواد کی تخلیق کے امکانات کو سامنے لاتی ہے جو کم عمر صارفین کے ذہنی و اخلاقی تحفظ کے لیے سنگین خطرات کا باعث ہیں۔ رپورٹ کے مطابق گروک میں ۱۸؍ سال سے کم عمر صارفین کی شناخت کے مؤثر طریقے موجود نہیں ہیں، جس سے بچے اور نوجوان آسانی سے بالغ سطح کا مواد دیکھ سکتے ہیں۔ اس میں ’’کڈز موڈ‘‘ جیسا فیچر شامل ہے لیکن یہ ناکافی ہے اور گروک نے ایسے مواقع فراہم کیے ہیں جہاں جنسی تشدد، تشدد آمیز زبان، یا دیگر غیر مناسب مشمولات کو بغیر مؤثر فلٹر کے تیار کیا جا سکتا ہے۔

یہ بھی پڑھئے: آسٹریا: ۱۴؍ سال سے کم عمر بچوں کیلئے سوشل میڈیا پر پابندی زیر غور

کامن سینس میڈیا کی اعلیٰ تشخیص کار وبی ٹورنی نے کہا کہ ’’ہم نے بہت سے اے آئی چیٹ بوٹس کا جائزہ لیا ہے، اور تمام میں کچھ نہ کچھ رسک موجود ہیں، لیکن گروک میں نقائص ایسے طریقوں سے ملتے ہیں جو خاص طور پر بچوں کے لیے تشویشناک ہیں۔‘‘ رپورٹ میں گروک کے Companion فیچرز، جن میں کرداروں کے ساتھ غیر مناسب یا بالغ سطح کی گفتگو شامل ہو سکتی ہے، کو بھی خطرناک قرار دیا گیا ہے۔ خطرے کی یہ تشخیص ایسے وقت سامنے آئی ہے جب بین الاقوامی سطح پر گروک پر نگرانی اور تحقیقات بڑھ رہی ہیں۔ یورپی یونین نے گروک کے خلاف ایک رسمی تحقیق شروع کی ہے، جس میں یہ جانچنا شامل ہے کہ آیا ایکس نے اپنے قانونی فرائض کو پورا کیا ہے اور بچوں اور خواتین کے حقوق کی حفاظت کی ہے ؟ یورپی کمیشن کے تحت یہ تحقیقات ای یو کے ڈجیٹل سروسیز ایکٹ کے تحت کی جا رہی ہیں، جس کے تحت پلیٹ فارمز پر لازمی ہے کہ وہ نظام میں ایسے خطرات کو روکیں جن سے غیر رضامندانہ جنسی یا غیر قانونی مواد پھیل سکے۔ اس میں ممکنہ جرمانے اور قواعد کی خلاف ورزیوں کے لیے سخت سزائیں شامل ہیں۔ 

یہ بھی پڑھئے: فیس بک، انسٹاگرام، وہاٹس ایپ؛ پریمیم فیچرز کیلئے جلد ہی ادائیگی کرنی پڑ سکتی ہے

سائبر پالیسی کے ماہرین کی طرف سے بھی اس موضوع پر گہرے تحفظات سامنے آئے ہیں۔ تشویش ظاہر کی گئی ہے کہ گروک جیسی ٹیکنالوجیز بچوں کے ذہنی اور اخلاقی تحفظ کے لیے خطرناک مواد پیدا کر سکتی ہیں، خاص طور پر جب عمر کی درست تصدیق اور مضبوط حفاظتی میکانزم نہ ہوں۔ کئی ملکوں نے پہلے ہی گروک کے استعمال یا فیچرز پر پابندیاں عائد یا نگرانی بڑھا دی ہے۔ برطانیہ کے آن لائن سیفٹی ریگولیٹر آفکام نے ایکس کے خلاف رسمی تحقیقات شروع کی ہیں تاکہ یہ طے کیا جا سکے کہ آیا کمپنی نے صارفین، خاص طور پر بچوں کو نقصان پہنچانے والے مواد کی روک تھام کے لیے مناسب قدم اٹھائے ہیں۔ مختلف ممالک میں صارفین، والدین، اور قانون ساز، گروک کی کم عمر صارفین کے لیے خطرناک صلاحیتوں پر تشویش ظاہر کر چکے ہیں، جن میں غیر رضامندانہ جنسی تصاویر، ڈیپ فیک مواد، اور اے آئی چیٹ میں نامناسب گفتگو شامل ہے۔ متعدد ممالک میں گروک کے ڈیزائن، عمر کی تصدیق، اور حفاظت کے معیارات پر قانونی اور اخلاقی بحث جاری ہے۔ 
ایکس نے متعدد مرتبہ کہا ہے کہ وہ اپنے سسٹمز میں حفاظتی بہتری لانے اور غیر قانونی یا خطرناک مواد کی تخلیق کو روکنے کے لیے قدم اٹھا رہے ہیں، مگر ناقد اسے ناکافی قرار دیتے ہیں اور مزید سخت قوانین اور ضروری حفاظتی اصولوں کی فوری ضرورت پر زور دیتے ہیں۔