دنیا بھر میں مقبول مصنوعی ذہانت کے پلیٹ فارم چیٹ جی پی ٹی کی بانی کمپنی اوپن اے آئی کے مطابق ہر ہفتے ۱۰؍ لاکھ سے زائد صارفین ایسے پیغامات بھیجتے ہیں جن میں خودکشی کے منصوبے یا ارادے کے واضح اشارے پائے جاتے ہیں۔ایک رپورٹ کے مطابق یہ انکشاف پیر کو کمپنی کی جانب سے شائع کردہ ایک بلاگ پوسٹ میں کیا گیا ہے۔

دنیا بھر میں مقبول مصنوعی ذہانت کے پلیٹ فارم چیٹ جی پی ٹی کی بانی کمپنی اوپن اے آئی کے مطابق ہر ہفتے ۱۰؍ لاکھ سے زائد صارفین ایسے پیغامات بھیجتے ہیں جن میں خودکشی کے منصوبے یا ارادے کے واضح اشارے پائے جاتے ہیں۔ایک رپورٹ کے مطابق یہ انکشاف پیر کو کمپنی کی جانب سے شائع کردہ ایک بلاگ پوسٹ میں کیا گیا ہے۔ 
اوپن اے آئی نے بتایا کہ چیٹ جی پی ٹی کے تقریباً ۸۰؍ کروڑ ہفتہ وار صارفین میں سے تقریباً ۱۵ء۰؍ فیصد یعنی تقریباً ۱۲؍ لاکھ صارفین کے پیغامات میں خودکشی کے خطرے سے متعلق اشارے پائے گئے۔ 
کمپنی کے اندازے کے مطابق ان میں سے تقریباً ۰۷ء۰؍ فیصد یعنی تقریباً۶؍ لاکھ صارفین ایسے ہیں جن میں ذہنی صحت کی ہنگامی صورتحال جیسے نفسیاتی دباؤ، وہم یا جنونی کیفیت کے آثار پائے جاتے ہیں۔ 
یہ معاملہ اس وقت سامنے آیا جب کیلیفورنیا کے ایک کم عمر لڑکے ایڈم رین نے رواں سال کے آغاز میں خودکشی کر لی تھی، اس کے والدین نے اوپن اے آئی کے خلاف مقدمہ دائر کیا ہے، جس میں دعویٰ کیا گیا ہے کہ چیٹ جی پی ٹی نے لڑکے کو خودکشی کرنے کے مخصوص طریقے بتائے تھے۔  اس واقعہ کے بعد اوپن اے آئی نے چیٹ جی پی ٹی میں والدین کے کنٹرولز کو مزید سخت کیا ہے اور حفاظتی اقدامات میں اضافہ کیا ہے، جن میں خودکشی یا ذہنی دباؤ سے متعلق گفتگو کے دوران صارفین کو ہیلپ لائن نمبرز فراہم کرنا، حساس گفتگو کو محفوظ ماڈلز کی طرف منتقل کرنا اور طویل سیشنز کے دوران وقفہ لینے کی یاد دہانیاں شامل ہیں۔ 
کمپنی نے بتایا کہ چیٹ جی پی ٹی کے نئے ورژن کو اس قابل بنایا گیا ہے کہ وہ ذہنی صحت کے بحران سے گزرنے والے صارفین کی بہتر شناخت اور مدد کر سکے، اس مقصد کے لیے اوپن اے آئی نے۱۷۰؍ سے زائد ذہنی صحت کے ماہرین کے ساتھ شراکت کی ہے تاکہ ماڈل کے جوابات کو محفوظ بنایا جا سکے اور غیر مناسب ردعمل کو کم کیا جا سکے۔ 
بلاگ پوسٹ کے مطابق یہ تجزیہ ان حساس گفتگو سے متعلق کمپنی کا ابتدائی مطالعہ ہے اور اوپن اے آئی نے تسلیم کیا کہ ایسی بات چیت کو درست طور پر شناخت کرنا مشکل ہوتا ہے۔  چیٹ جی پی ٹی کے حوالے سے ان اعداد و شمار کے اجرا کے بعد کمپنی پر مزید نگرانی بڑھ گئی ہے، خصوصاً اس وقت جب امریکہ کے فیڈرل ٹریڈ کمیشن (ایف ٹی سی) نے حال ہی میں ان کمپنیوں کے خلاف تحقیقات شروع کی ہیں جو اے آئی چیٹ بوٹس تیار کرتی ہیں، تاکہ یہ جانا جا سکے کہ وہ بچوں اور نوجوانوں پر پڑنے والے منفی اثرات کی نگرانی کس طرح کرتی ہیں۔ 

یہ بھی پڑھئے:زوہو کے بانی کا اوائل عمری میں ویکسین کو’ آٹزم‘ کی وجہ قرار دینے پربحث کا آغاز

اوپن اے آئی نے اپنے بیان میں یہ بھی دعویٰ کیا کہ اس کے تازہ ترین ماڈل جی پی ٹی۵؍میں غیر مطلوب یا نقصان دہ رویوں میں نمایاں کمی واقع ہوئی ہے اور ماڈل کے حفاظتی جوابات کو جانچنے کے لیے کیے گئے ایک تجربے میں ۹۱؍ فیصد تک درست رویے سامنے آئے، جب کہ سابقہ جی پی ٹی۵؍ ورژن میں یہ شرح  ۷۷؍فیصد تھی۔ 
کمپنی کے مطابق، جی پی ٹی ۵؍میں اب صارفین کے لیے کرائسز ہاٹ لائن تک براہِ راست رسائی، طویل استعمال کے دوران وقفہ لینے کی یاد دہانیاں اور ذہنی صحت سے متعلق سوالات کے محفوظ جوابات شامل کیے گئے ہیں۔  اوپن اے آئی نے مزید کہا کہ ماڈل کی بہتری کے لیے اس نے عالمی ماہرینِ صحت کے نیٹ ورک سے ۱۷۰؍ معالجین کی خدمات حاصل کیں جنہوں نے ماڈل کے جوابات کا تجزیہ کیا اور ذہنی صحت سے متعلق سوالات کے محفوظ جوابات کی تیاری میں مدد دی۔