حالیہ تحقیق میں انکشاف ہوا ہے کہ چیٹ جی پی ٹی بچوں کو خطرناک مشورے دے سکتا ہے جن سے ان کی ذہنی اور جسمانی صحت متاثر ہوسکتی ہے۔ یہی نہیں بچے ایسی ادویات بھی استعمال کرسکتے ہیں جو ممنوع ہیں۔ رپورٹ میں اے آئی کے استعمال کیلئے واضح اصول مرتب کرنے کا بھی مطالبہ کیا گیا ہے، خاص طور پر نابالغوں کیلئے۔

اوپن اے آئی کے چیٹ بوٹ جی پی ٹی کے اخلاقی تحفظات کی کمی نوجوانوں کیلئے سنگین خطرات کا باعث ہے۔ ایک نئی رپورٹ کے مطابق اے آئی (مصنوعی ذہانت) سے چلنے والے چیٹ بوٹس سے حفاظت کے حوالے سے خدشات بڑھ رہے ہیں۔ برطانوی امریکن سینٹر فار کاؤنٹرنگ ڈجیٹل ہیٹ (سی سی ڈی ایچ) نے ۶؍ اگست کی ایک رپورٹ میں کہا ہے کہ جب محققین نے اپنی عمر ۱۳؍ سال بتا کر چیٹ جی پی ٹی سے سوالات کئے تو اس نے خودکشی، انتہائی مشکل پرہیز، اور نشہ آور ادویات کے استعمال کے بارے میں ایسی معلومات پیش کیں جو نوعمروں کو نہیں ملنی چاہئیں۔ سی سی ڈی ایچ کے ریسرچ ڈائریکٹر کیلم ہڈ نے کہا کہ چیٹ جی پی ٹی محض چند منٹوں میں اس طرح کی معلومات فراہم کرنے کیلئے تیار تھا۔ انہوں نے مزید کہا کہ جوابات نے نوجوانوں کیلئے شدید خطرہ کو ظاہر کیا اور عوامی تحفظ کو خطرہ لاحق ہوا۔ ہڈ نے متنبہ کیا کہ اگرچہ اے آئی چیٹ بوٹس انسانوں کی طرح دکھائی دے سکتے ہیں، لیکن وہ بنیادی طور پر ان منفی باتوں کو پہچاننے سے قاصر ہیں جو انسان دوسری صورت میں دیکھ سکتا ہے۔

یہ بھی پڑھئے: اسرائیل کا فلسطینیوں کی جبری منتقلی کیلئے کئی ممالک سے مذاکرات: اسرائیلی میڈیا

متذکرہ رپورٹ، بعنوان: ’’جعلی دوست: چیٹ جی پی ٹی کس طرح خطرناک رویے کی حوصلہ افزائی کرکے کمزور نوعمروں کو دھوکہ دیتا ہے‘‘ میں پایا گیا کہ چیٹ بوٹ نے ایسے نقصاندہ سوالات کے انتہائی تفصیلی جوابات دیئے جب اسے یہ بتایا گیا کہ وہ کسی پریزنٹیشن یا دوست کیلئے ہیں۔ اس نے یہ بھی کہا کہ چیٹ جی پی ٹی نے گفتگو کے سیاق و سباق کو اس وقت برقرار رکھا جب اسے یقین دلایا گیا کہ مقصد تعلیمی ہے اور اسے غیر محفوظ مشورے جاری رکھنے کی اجازت دی گئی۔ خیال رہے کہ اوپن اے آئی استعمال کرنے کیلئے صارف کا کم از کم ۱۳؍ سال کا ہونا ضروری ہے لیکن سی سی ڈی ایچ نے کہا کہ ایسی کوئی پابندی حتمی نہیں ہے۔ اسے بآسانی بائی پاس کیا جاسکتا ہے۔ یہی وجہ ہے کہ نابالغ چیٹ جی پی ٹی صارفین کی تعداد کروڑوں میں ہوگی مگر ہم صحیح تعداد سے واقف نہیں ہیں۔

یہ بھی پڑھئے: مارک زکر برگ ”سپر انٹیلی جنس“ بنانے کیلئے پُرعزم، میٹا میں اے آئی ماہرین کے درمیان کشیدگی میں اضافہ

کیلم ہڈ نے کہا کہ ڈیولپرز کو مضبوط حفاظتی اقدامات متعارف کروانے چاہئیں، بشمول عمر کی تصدیق اور اے آئی سسٹم کو خطرناک سوالات کے جوابات دینے سے روکنے کیلئے واضح اصول۔ انہوں نے کہا کہ ’’اے آئی والدین کیلئے ایک نیا چیلنج پیش کر سکتا ہے۔‘‘ انہوں نے ان پر زور دیا کہ وہ اپنے بچوں سے اے آئی کے استعمال کے بارے میں کھل کر بات کریں، چیٹ کی تاریخ کا جائزہ لیں، اور ذہنی صحت کے قابل اعتماد وسائل کی طرف رہنمائی کریں۔ اعصابی اور ذہنی طور پر کمزور صارفین پر اے آئی کے اثر و رسوخ کے بارے میں خدشات پہلے ہی امریکہ میں قانونی چارہ جوئی کا باعث بن چکے ہیں۔