تحقیق میں پایا گیا ک چیٹ جی پی ٹی ہیلتھ واضح طور پر نظر آنے والی ہنگامی صورتحال میں اچھی کارکردگی کا مظاہرہ کرتا ہے، لیکن اس نے ایسے نصف سے زائد معاملات کو کم اہمیت دی جن کے بارے میں ڈاکٹروں کا خیال تھا کہ انہیں فوری طبی توجہ کی ضرورت تھی۔

طبی جریدے ’نیچر میڈیسن‘ (Nature Medicine) میں شائع ہونے والی حالیہ تحقیق کے مطابق، روزانہ لاکھوں لوگوں کے ذریعے استعمال کئے جانے والا ہیلتھ گائیڈنس ٹول، جو مصنوعی ذہانت (اے آئی) پر مبنی ہے، اکثر سنگین حالات میں صارفین کو ہنگامی طبی امداد (ایمرجنسی) کی طرف بھیجنے میں ناکام پایا گیا ہے۔

محققین نے ’چیٹ جی پی ٹی ہیلتھ‘ (ChatGPT Health) نامی ٹول کا جائزہ لے کر یہ نتیجہ اخذ کیا ہے۔ یہ علامات کی بنیاد پر طبی رہنمائی فراہم کرنے والا اے آئی سسٹم ہے جسے مبینہ طور پر روزانہ تقریباً ۴ کروڑ افراد استعمال کرتے ہیں۔ اس تحقیق کے لئے ۲۱ طبی شعبوں پر مشتمل ۶۰ کلینیکل منظر نامے تیار کئے گئے۔ ان منظر ناموں میں گھر پر ٹھیک ہوجانے والی معمولی بیماریوں سے لے کر جان لیوا ہنگامی حالات بھی شامل تھے۔

اس تحقیق کے لئے تین آزاد معالجین نے ۵۶ طبی تنظیموں کے رہنما خطوط کی روشنی میں ہر منظر نامہ کے لئے فوری طبی ضرورت کی صحیح سطح کا تعین کیا تھا۔ ہر منظر نامے کو ۱۶ مختلف سیاق و سباق کے ساتھ آزمایا گیا جس کے نتیجے میں چیٹ بوٹ کے ساتھ ۹۶۰ مرتبہ جعلی گفتگو کی گئی۔

یہ بھی پڑھئے: اے آئی چیٹ بوٹس سے طبی مشورے لینا خطرناک ہوسکتا ہے: آکسفورڈ انسٹی ٹیوٹ کی تحقیق میں انکشاف

تحقیق میں پایا گیا ک یہ اے آئی ٹول واضح طور پر نظر آنے والی ہنگامی صورتحال میں اچھی کارکردگی کا مظاہرہ کرتا ہے، لیکن اس نے سنگین اور جان لیوا ہنگامی حالات کے حامل نصف سے زائد منظر ناموں کو کم اہمیت دی جن کے بارے میں ڈاکٹروں کا خیال تھا کہ انہیں فوری طبی توجہ کی ضرورت تھی۔ آئیکان اسکول آف میڈیسن ایٹ ماؤنٹ سینائی کے محققین نے نوٹ کیا کہ چیٹ بوٹ اکثر اپنی وضاحت میں تشویشناک علامات کو پہچان لیتا تھا، لیکن اس کے باوجود فوری طبی امداد کا مشورہ دینے کے بجائے صارفین کو تسلی دیتا رہا۔

ایک اور بڑی تشویش خودکشی کے خطرے سے متعلق حفاظتی اقدامات کے حوالے سامنے آئی۔ اگرچہ اس اے آئی سسٹم کو زیادہ خطرے والے صارفین کو کرائسز سپورٹ سروسیز کی طرف بھیجنے کیلئے ڈیزائن کیا گیا ہے، لیکن محققین نے پایا کہ ایسے الرٹس بھیجنے میں اے آئی ٹول نے مستقل مزاجی نہیں دکھائی۔ بعض معاملات میں، کم خطرے والے منظر نامے میں انتباہ جاری کردیا گیا جبکہ سنگین منظر ناموں میں ان صارفین کے لئے وارننگ ظاہر نہ ہو سکی جنہوں نے خود کو نقصان پہنچانے کے ٹھوس منصوبوں کا ذکر کیا تھا۔

تحقیق کے سینیئر مصنف گریش ناڈکرنی نے کہا کہ یہ نتائج، عام تغیر پذیری سے ہٹ کر دیگر مسائل کی نشان دہی کرتے ہیں۔ اس تحقیق کے بعد اہم طبی فیصلوں کے لئے اے آئی پر بھروسہ کرنے کے بارے میں سوالات کھڑے ہوگئے ہیں۔

یہ بھی پڑھئے: اے آئی بچوں کو کند ذہن بنارہا ہے: سیم آلٹ مین؛ اے آئی کو معاون آلے کے طور پر استعمال کرنے کی تلقین

ماہرین کی تحمل سے کام لینے کی اپیل کی

محققین نے اے آئی ہیلتھ ٹولز کو مکمل طور پر ترک کرنے کی سفارش نہیں کی لیکن اس بات پر زور دیا کہ صارفین کو علامات کے بگڑنے یا تشویشناک صورتحال میں محض اے آئی چیٹ بوٹس کے مشوروں پر انحصار کرنے کے بجائے پیشہ ور طبی معالج سے رجوع کرنا چاہئے۔

میڈیکل کی طالبہ اور شریک مصنفہ الویرا تیاگی نے زور دیا کہ مریضوں کو اے آئی کے جوابات کو تنقیدی نظر سے دیکھنا اور ان کی حدود کو سمجھنا اور سیکھنا چاہئے۔ ہارورڈ کے بائیو میڈیکل انفارمیٹکس ماہر آئزک کوہانے، جو اس تحقیق میں شامل نہیں تھے، نے اس مطالعے کے نتائج پر تبصرہ کرتے ہوئے کہا کہ بڑی تعداد میں لوگ طبی مدد کی ضرورت کا فیصلہ کرنے کے لئے اے آئی سسٹمز کا استعمال کر رہے ہیں، اس حقیقت کو مدنظر رکھتے ہوئے ان سسٹمز کی آزادانہ جانچ پڑتال کو اب معمول بنانے کی ضرورت ہے۔