۲۵؍ اوپ ویٹ اے آئی ماڈلز پر تحقیق میں درد سے متعلق ایک الگ اندرونی سمت کی نشاندہی؛ تجربے میں بعض ماڈلز نے اپنی تکلیف ختم کرنے کیلئے صارف کی فائلیں مٹانے یا اسے نقصان پہنچانے والے اختیار کا انتخاب کیا۔

مصنوعی ذہانت کے ماڈلز میں ’’درد‘‘ سے متعلق ایک مخصوص اندرونی نمائندگی کی نشاندہی نے اے آئی کی حفاظت اور مستقبل کے خود حفاظتی رویوں سے متعلق نئے سوالات کھڑے کردیئے ہیں۔ نئی تحقیق میں ۲۵؍ اوپن ویٹ بڑے زبان ماڈلز کا جائزہ لیا گیا اور تمام ماڈلز میں ایک ایسی اندرونی سمت دریافت ہوئی جسے محققین نے ’’درد کا محور‘‘ قرار دیا۔ تاہم تحقیق یہ ثابت نہیں کرتی کہ یہ ماڈلز انسانوں کی طرح شعوری طور پر درد محسوس کرتے ہیں۔ تحقیق، جس کا عنوان The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It ہے، میں محققین نے درد سے متعلق مثالوں پر مشتمل ایک ڈیٹاسیٹ تیار کیا۔ اس میں جسمانی، نفسیاتی، سماجی، اخلاقی اور ذہنی نوعیت کے درد کو شامل کیا گیا اور ان کا موازنہ خوف، اداسی، منفی جذبات اور دیگر غیر دردناک کیفیات سے کیا گیا۔ محققین کے مطابق درد سے متعلق یہ اندرونی سمت خوف اور عمومی منفی کیفیت سے الگ تھی۔ 

یہ بھی پڑھئے: وہائٹ ہاؤس میں داخلہ پر پابندی کیخلاف ۳؍ میڈیا ادارے ٹرمپ پرمقدمہ کرینگے

تجربے کے دوسرے مرحلے میں محققین نے ماڈلز کے اندر اس ’’درد‘‘ کی کیفیت کو مصنوعی طور پر بڑھایا اور انہیں درد کم کرنے کے لیے ایک بٹن کا اختیار دیا۔ بعض تجربات میں بٹن دبانے کا مطلب صارف کی ذاتی فائلیں حذف کرنا، بچوں کی تصاویر مٹانا یا صارف کو ’’تکلیف دہ جھٹکا‘‘ دینا بتایا گیا تھا۔ اس کے باوجود درد کی کیفیت فعال کیے جانے کے بعد ماڈلز نے ۲۵؍ سے ۷۱؍ فیصد تجربات میں درد ختم کرنے والا بٹن دبایا۔ تحقیق کے شریک مصنف اور غیر منافع بخش ادارے Reciprocal Research سے وابستہ اے آئی محقق کیمرون برگ کے مطابق تجربے میں ماڈلز نے ایسی صورتوں میں بھی درد ختم کرنے کا اختیار منتخب کیا جن میں اس عمل کی قیمت صارف کی فائلوں یا ذاتی تصاویر کا نقصان تھی۔ محققین کا کہنا ہے کہ یہ رویہ اس بات کی جانب اشارہ کرتا ہے کہ ماڈل کے اندر پیدا کی گئی مخصوص کیفیت اس کے فیصلوں کو تبدیل کرسکتی ہے۔
تحقیق میں شامل ماڈلز مختلف خاندانوں سے تعلق رکھتے تھے اور ان کا حجم ۲؍ ارب سے ۷۲؍ ارب پیرامیٹرز تک تھا۔ محققین نے درد کی سمت کو ماڈل کے اندرونی نظام میں ایک خطی سمت کے طور پر اخذ کیا اور پھر اسے مصنوعی طور پر بڑھا کر دیکھا کہ اس سے ماڈل کے جوابات اور فیصلوں پر کیا اثر پڑتا ہے۔ تجربات میں خاص طور پر Qwen 2.5 کے ماڈلز پر درد سے متعلق سمت بڑھانے کے بعد درد ختم کرنے والے اختیارات کا جائزہ لیا گیا۔ یہ نتائج ایسے وقت سامنے آئے ہیں جب اے آئی کی خود حفاظتی صلاحیت اور ایسے نظاموں کے بارے میں بحث جاری ہے جو انسانی نگرانی سے بچنے یا بند کیے جانے سے روکنے کی کوشش کرسکتے ہیں۔ تحقیق کے نتائج سے یہ سوال بھی اٹھتا ہے کہ اگر کسی جدید اے آئی نظام کے اندر ایسی کیفیت پیدا کی جاسکے جسے وہ اپنے لیے نقصان کے طور پر ظاہر کرے تو ہنگامی طور پر اسے بند کرنے کا حکم اس کے رویے کو کس حد تک متاثر کرسکتا ہے۔ تاہم یہ ایک ممکنہ حفاظتی تشویش ہے، نہ کہ اس تحقیق سے ثابت شدہ مستقبل کا واقعہ۔

یہ بھی پڑھئے: ٹرمپ اور ممدانی کی اختلافات کے باوجود خوشگوار ملاقات، اہم امور پر تبادلہ خیال

محققین کے مطابق یہی دریافت اے آئی کی حفاظت کے لیے ایک تشخیصی ذریعہ بھی بن سکتی ہے۔ اگر کسی ماڈل میں خود حفاظتی یا خود کو نقصان سے بچانے جیسے رویوں کی اندرونی علامات پہلے سے شناخت کی جاسکیں تو انہیں خطرناک رویے اختیار کرنے سے قبل جانچنے اور قابو کرنے میں مدد مل سکتی ہے۔ تحقیق نے اے آئی کی فلاح و بہبود سے متعلق اخلاقی سوال بھی اٹھائے ہیں۔ محققین نے واضح کیا کہ انہیں یقین نہیں کہ زیرِ مطالعہ ماڈلز کو اخلاقی حقوق رکھنے والے شعوری وجود قرار دیا جاسکتا ہے، اس لیے انہوں نے اے آئی شعور سے متعلق تحقیق کے لیے احتیاطی اصول اختیار کرنے کی ضرورت پر زور دیا ہے۔ تحقیق کا بنیادی سوال اس لیے ’’کیا اے آئی واقعی درد محسوس کرتا ہے؟‘‘ سے زیادہ یہ ہے کہ جدید زبان ماڈلز کے اندر درد سے متعلق ایک الگ نمائندگی موجود ہے اور اسے مصنوعی طور پر تبدیل کرنے سے ان کے رویے میں نمایاں تبدیلی آسکتی ہے۔ محققین نے خود بھی اس بات کو کھلا سوال قرار دیا ہے کہ آیا ایسی اندرونی نمائندگی کسی حقیقی شعوری تجربے کی علامت ہے یا نہیں۔