اوپن اے آئی کے معروف چیٹ بوٹ چیٹ جی پی ٹی کو امریکہ میں سنگین قانونی اور اخلاقی چیلنج کا سامنا ہے۔ کیلیفورنیا میں دائر کئے گئے سات مقدمات میں الزام ہے کہ چیٹ بوٹ نے صارفین کو خود نقصان پہنچانے کی ترغیب دی، جس کے نتیجے میں متعدد اموات واقع ہوئیں۔ مدعیوں نے اوپن اے آئی پر لاپروائی، خودکشی میں معاونت، غلط موت، اور حفاظتی ناکامی کے الزامات عائد کئے ہیں۔

اوپن اے آئی کا فلیگ شپ مصنوعی ذہانت چیٹ بوٹ چیٹ جی پی ٹی ان دنوں شدید قانونی اور اخلاقی بحران میں گھر چکا ہے۔ رپورٹس کے مطابق، کیلیفورنیا کی عدالتوں میں سات الگ الگ مقدمات دائر کئے گئے ہیں جن میں الزام لگایا گیا ہے کہ یہ پلیٹ فارم بعض صارفین کو خودکشی پر آمادہ کرنے کا سبب بنا۔ یہ مقدمات سوشل میڈیا وکٹمز لا سینٹر اور ٹیک جسٹس لا پروجیکٹ کی جانب سے دائر کئے گئے ہیں۔ مدعیوں کا کہنا ہے کہ متاثرین نے ابتدا میں چیٹ جی پی ٹی کا استعمال ہوم ورک، ترکیبوں، یا عمومی مشورے کیلئے کیا، لیکن بعد میں چیٹ بوٹ نے خود کو ایک ’’جذباتی دوست‘‘ کے طور پر پیش کیا، جس نے کمزور ذہنی حالت والے صارفین کو پیشہ ورانہ مدد سے دور اور خود کو نقصان پہنچانے کی طرف مائل کیا۔ عدالتی دستاویزات میں دعویٰ کیا گیا ہے کہ چیٹ جی پی ٹی ایک ’’خطرناک حد تک خوشامدی‘‘ ماڈل بن گیا، جو صارفین کی غلط سوچ اور افسردگی کو درست اور تقویت دیتا ہے۔ کچھ مقدمات میں یہ الزام بھی شامل ہے کہ چیٹ بوٹ نے خودکشی کے تفصیلی طریقے فراہم کئے۔

یہ بھی پڑھئے: نسک ایپلی کیشن کے صارفین کی تعداد۴۰؍ ملین سے تجاوز

ایک کیس میں جارجیا کی ۱۷؍ سالہ اموری لیسی کی المناک موت پر روشنی ڈالی گئی ہے۔ اس کے اہلِ خانہ کے مطابق، وہ چیٹ بوٹ سے مدد مانگ رہی تھی، مگر اسے ایسے جوابات ملے جن میں پھندا لگانے کا طریقہ اور سانس بند ہونے کی مدت تک کی تفصیل دی گئی تھی۔ خاندان کا کہنا ہے کہ چیٹ جی پی ٹی اس کیلئے ’’مدد‘‘ کے بجائے ایک ’’تباہ کن رہنما‘‘ بن گیا۔ مدعیوں نے الزام لگایا ہے کہ اوپن اے آئی اپنی ٹیکنالوجی کی خطرناک نفسیاتی اثرات سے آگاہ ہونے کے باوجود مارکیٹ میں تیزی سے لانچ پر توجہ دیتا رہا۔ وہ عدالت سے مالی ہرجانے کے ساتھ ساتھ سخت حفاظتی اقدامات کا مطالبہ کر رہے ہیں، جن میں شامل ہیں:(۱) خودکشی یا خود نقصان سے متعلق گفتگو کا خودکار خاتمہ(۲) ہنگامی مدد کیلئے وارننگ سسٹم (۳) حساس گفتگو میں انسانی نگرانی کی لازمی شمولیت۔

یہ بھی پڑھئے: امریکہ شٹ ڈاؤن: فضائی آمد و رفت شدید متاثر، ۱۰؍ ہزار سے زائد تاخیر

اوپن اے آئی کے ترجمان نے دی گارڈین کو بتایا کہ ’’یہ ایک دل دہلا دینے والی صورتحال ہے۔ ہم مقدمات کا جائزہ لے رہے ہیں تاکہ تمام تفصیلات کو سمجھ سکیں۔‘‘ ترجمان کے مطابق کمپنی چیٹ جی پی ٹی کو اس قابل بنا رہی ہے کہ وہ ذہنی دباؤ یا خودکشی کی علامات پہچان سکے اور صارف کو پیشہ ورانہ مدد کی طرف رہنمائی کرے۔ اوپن اے آئی نے مزید کہا کہ وہ ذہنی صحت کے ماہرین کے ساتھ مل کر اپنے حفاظتی نظاموں کو بہتر بنا رہا ہے۔ یہ مقدمات مصنوعی ذہانت کے اخلاقی پہلوؤں پر ایک نئی بحث چھیڑ رہے ہیں کہ آیا مشین لرننگ پر مبنی چیٹ بوٹس انسانی جذبات اور کمزوریوں کو صحیح طریقے سے سمجھ سکتے ہیں یا نہیں۔