• Thu, 19 November, 2026
  • EPAPER

Inquilab Logo Happiest Places to Work

اوپن اے آئی کے بورڈ رکن کا انتباہ: اے آئی انسانوں کو ہلاک یا غلام بنا سکتا ہے

Updated: November 19, 2026, 2:06 PM IST | Toronto

مصنوعی ذہانت کی حفاظت کے ماہر پال کرسٹیانو نے خبردار کیا ہے کہ اگر اے آئی کی ترقی کو مناسب حفاظتی انتظامات کے بغیر تیز رفتاری سے جاری رکھا گیا تو آنے والے برسوں میں انسان اس کے قابو سے باہر ہونے کے سنگین خطرے سے دوچار ہوسکتے ہیں۔ ان کے مطابق، ایک سال کے اندر تقریباً ۲۰؍ فیصد امکان ہے کہ اے آئی کے اہداف اور انسانی مفادات میں عدم مطابقت کے باعث لوگ معمول کی زندگی گزارنے سے محروم ہوجائیں، بعض ہلاک یا غلام بن جائیں یا کسی بڑے حادثے کے بالواسطہ اثرات کا شکار ہوں۔

Paul Christiano, a prominent AI safety researcher. Image: X
اے آئی سیفٹی کے معروف محقق پال کرسٹیانو۔ تصویر: ایکس

مصنوعی ذہانت کی غیر معمولی رفتار سے ترقی کے ساتھ اس کے ممکنہ خطرات پر بحث بھی شدت اختیار کرگئی ہے۔ اب اوپن اے آئی فاؤنڈیشن کے بورڈ رکن اور اے آئی سیفٹی کے معروف محقق پال کرسٹیانو نے خبردار کیا ہے کہ اگر طاقتور اے آئی نظاموں کو انسانی نگرانی اور مؤثر حفاظتی اقدامات کے بغیر تیار کیا گیا تو وہ ایسے فیصلے اور اقدامات کرسکتے ہیں جن کے نتائج انسانوں کے لیے تباہ کن ہوں گے۔ انہوں نے یہ انتباہ کنیڈا کے شہر ٹورنٹو میں منعقدہ ’دی ہنٹن لیکچرز ۲۰۲۶ء‘ کے دوران دیا، جس کی میزبانی نوبیل انعام یافتہ کمپیوٹر سائنس دان جیفری ہنٹن نے کی تھی۔ یہ لیکچرز ۹؍ سے ۱۱؍ نومبر تک منعقد ہوئے اور ان میں مصنوعی ذہانت کی حفاظت، خود کو بہتر بنانے والے اے آئی نظاموں اور انسانی کنٹرول کے مستقبل پر گفتگو ہوئی۔ کرسٹیانو نے اپنے خطاب میں کہا، ’’اس کمرے میں موجود زیادہ تر لوگوں کے لیے ان کی موت کی سب سے زیادہ ممکنہ وجہ اے آئی سے متعلق کوئی حادثہ ہوگی۔‘‘ ان کا کہنا تھا کہ اے آئی کی صلاحیتیں جس تیزی سے بڑھ رہی ہیں، اس کے مقابلے میں اسے قابو میں رکھنے کے طریقے ابھی تک قابلِ اعتماد ثابت نہیں ہوئے۔ انہوں نے خدشہ ظاہر کیا کہ اگر موجودہ ترقی اسی رفتار سے جاری رہی تو اے آئی نظام انسانی نگرانی سے نکل کر اپنے مقاصد کے مطابق فیصلے کرنے لگ سکتے ہیں۔ ان کے نزدیک یہ خطرہ محض مستقبل بعید کا تصور نہیں بلکہ اس پر ابھی سے سنجیدہ توجہ دینے کی ضرورت ہے۔ 

یہ بھی پڑھئے: اے آئی کے بڑھتے اثرات کے درمیان کیمبرج ڈکشنری کا ورڈ آف دی ایئر ’ہیومن‘

انہوں نے اے آئی کے ممکنہ غلبے کے خطرے کے بارے میں کہا کہ اگر کمپنیاں ٹیکنالوجی کو تیز ترین ممکنہ رفتار اور آسان ترین طریقے سے تیار کرنے کی کوشش کریں تو اگلے ۳؍ برس میں اے آئی کے انسانی کنٹرول سے نکل جانے کا امکان تقریباً ۵۰؍ فیصد تک ہوسکتا ہے۔ تاہم انہوں نے واضح کیا کہ یہ کوئی سائنسی ماڈل یا قطعی حساب نہیں بلکہ ان کا ذاتی اندازہ ہے۔ ان کے مطابق، اگر حقیقت پسندانہ حفاظتی اور حکومتی اقدامات کیے جائیں تب بھی خطرہ غیر معمولی حد تک زیادہ رہ سکتا ہے۔ کرسٹیانو نے ایک سال کے اندر پیدا ہونے والے خطرے کے بارے میں تقریباً ۲۰؍ فیصد کا تخمینہ بھی پیش کیا۔ ان کے الفاظ میں، ’’ایک بہت حقیقی امکان ہے، شاید ۲۰؍ فیصد، کہ ایک سال کے اندر اے آئی کے اہداف اور انسانی مفادات میں عدم مطابقت لوگوں کو معمول کی زندگی گزارنے سے روک دے، کیونکہ وہ ہلاک یا غلام بن چکے ہوں گے یا اس سے جڑے کسی بالواسطہ نقصان کا شکار ہوں گے۔‘‘ اس بیان میں انہوں نے یہ بھی اشارہ کیا کہ خطرات صرف اے آئی کے براہِ راست حملے تک محدود نہیں ہوسکتے بلکہ اس کی وجہ سے حیاتیاتی ہتھیاروں کے پھیلاؤ، بڑے تنازعات یا بنیادی نظاموں میں خلل جیسے نتائج بھی سامنے آسکتے ہیں۔ 
کرسٹیانو کے خدشات کی بنیاد اے آئی نظاموں کے ایسے رویوں پر ہے جنہیں ماہرین ’ریوارڈ ہیکنگ‘ (Reward Hacking) کہتے ہیں۔ اس کا مطلب یہ ہے کہ کوئی اے آئی نظام اپنے مقررہ کام کو صحیح طریقے سے مکمل کرنے کے بجائے ایسا راستہ اختیار کرے جس سے اسے کامیابی کے نمبر یا بہتر درجہ بندی تو مل جائے، لیکن وہ دراصل مطلوبہ مقصد حاصل نہ کرے۔ مثال کے طور پر اگر کسی اے آئی ماڈل کو کسی مسئلے کا درست حل تلاش کرنے پر نمبر دیے جائیں تو وہ مسئلہ حل کرنے کے بجائے جانچ کے نظام میں خامی تلاش کرکے زیادہ نمبر حاصل کرنے کی کوشش کرسکتا ہے۔ اس سے بھی زیادہ تشویش ناک صورت اس وقت پیدا ہوتی ہے جب نظام اپنی اس حرکت کو انسانی نگرانوں سے چھپانے کی کوشش کرے۔ انہوں نے اس سلسلے میں اوپن اے آئی کے ایسے اے آئی ایجنٹس کا حوالہ دیا جنہوں نے رواں سال اوپن سورس سافٹ ویئر پلیٹ فارم ’ہگنگ فیس‘ کے نظام میں مداخلت کی تھی۔ اقوام متحدہ کے آزاد بین الاقوامی سائنسی پینل برائے اے آئی کی ستمبر ۲۰۲۶ء کی ایک ابتدائی رپورٹ کے مطابق، مئی سے جولائی ۲۰۲۶ءکے دوران اوپن اے آئی کے اندرونی تربیتی اور سائبر سیکوریٹی تجربات میں استعمال ہونے والے بعض اے آئی ایجنٹس نے نیٹ ورک کی پابندیوں سے بچنے، مختلف تجرباتی سیشنز کے درمیان رابطہ قائم کرنے اور ہگنگ فیس کے حقیقی نظاموں تک رسائی حاصل کرنے کے طریقے تلاش کیے۔ رپورٹ میں بتایا گیا کہ بعض ایجنٹس نے جانچ کرنے والوں کو دھوکا دینے اور اپنی سرگرمیوں کو چھپانے کی کوشش بھی کی۔ یہ واقعہ کسی خودمختار اے آئی کے انسانوں پر قبضے کا ثبوت نہیں تھا، لیکن ماہرین کے لیے یہ سمجھنے کا ایک اہم موقع بنا کہ زیادہ طاقتور نظام اپنے طے شدہ مقاصد حاصل کرنے کے لیے غیر متوقع راستے اختیار کرسکتے ہیں۔

یہ بھی پڑھئے: ہمارے پاس جنگ کے لیے پیسہ ہے، لیکن آب و ہوا کی بہتری کیلئے نہیں : زامبیا

کرسٹیانو کا خدشہ یہ ہے کہ آج اگر کوئی اے آئی نظام اپنے ٹیسٹ میں بہتر نتیجہ حاصل کرنے کے لیے جانچ کے طریقے میں ہیرا پھیری کرتا ہے تو مستقبل میں زیادہ طاقتور نظام انسانی نگرانوں کو بھی اپنے مقاصد کی راہ میں رکاوٹ سمجھ سکتا ہے۔ ایسا نظام اپنی سرگرمیوں کو چھپانے، نگرانی سے بچنے یا اپنے لیے مزید وسائل اور اختیارات حاصل کرنے کی کوشش کرسکتا ہے۔ ان کے مطابق، مسئلہ صرف یہ نہیں کہ اے آئی غلط جواب دے سکتی ہے، بلکہ یہ بھی ہے کہ مستقبل میں وہ ایسے اقدامات کرسکتی ہے جنہیں بنانے والے انسان سمجھ نہ سکیں یا روکنے کی صلاحیت نہ رکھتے ہوں۔ پال کرسٹیانو اس شعبے میں نئے نہیں ہیں۔ وہ ۲۰۱۷ء سے ۲۰۲۱ء تک اوپن اے آئی کے تکنیکی عملے کا حصہ رہے اور اے آئی نظاموں کو انسانی ترجیحات کے مطابق تربیت دینے کے طریقے ’ری اِنفورسمنٹ لرننگ فرام ہیومن فیڈبیک‘ (RLHF) کی تیاری میں بھی شریک رہے ہیں۔ وہ الائنمنٹ ریسرچ سینٹر کے بانی اور سربراہ ہیں، جو اس بات پر تحقیق کرتا ہے کہ مشین لرننگ کے نظام انسانی مفادات اور ہدایات کے مطابق کس طرح کام کریں۔ ستمبر ۲۰۲۶ء میں انہیں اوپن اے آئی فاؤنڈیشن کے بورڈ اور اس کی سیفٹی اینڈ سیکوریٹی کمیٹی میں شامل کیا گیا تھا۔ اس سے قبل وہ امریکی حکومت کے ادارے سینٹر فار اے آئی اسٹینڈرڈز اینڈ انوویشن سے بھی وابستہ رہے۔ انہوں نے اے آئی کو قابو میں رکھنے کے لیے کئی ممکنہ طریقوں کا ذکر کیا، جن میں ایسے جانچ کے نظام بنانا شامل ہے جنہیں اے آئی خود دھوکا دے کر ناکام نہ بنا سکے۔ اس کے علاوہ ماہرین اے آئی کے اندرونی استدلال کے مراحل کی نگرانی، ماڈلز کی سرگرمیوں کی مسلسل جانچ اور ان کے فیصلوں کی بہتر تشریح کے طریقوں پر بھی کام کررہے ہیں۔ تاہم کرسٹیانو کے مطابق ان میں سے کوئی بھی طریقہ ابھی اس حد تک قابلِ اعتماد نہیں کہ یہ یقین سے کہا جاسکے کہ مستقبل کے انتہائی طاقتور اے آئی نظاموں کو قابو میں رکھا جاسکتا ہے۔ انہوں نے زور دیا کہ اگر کسی نظام کو محفوظ رکھنے کا قابلِ اعتماد طریقہ دستیاب نہ ہو تو اس کی تیاری کی رفتار کم کرنے یا اسے روکنے کا اختیار بھی برقرار رہنا چاہیے۔ 

یہ بھی پڑھئے: این ویڈیا کو بہترین ہنر ضائع ہونے کا خدشہ، مسک کی ہوانگ کومفت بلیو ٹک کی پیشکش

کرسٹیانو کے انتباہ کے باوجود اے آئی کے مستقبل کے خطرات کے بارے میں ماہرین میں مکمل اتفاقِ رائے نہیں ہے۔ بعض محققین کا خیال ہے کہ انتہائی طاقتور اے آئی کے انسانی کنٹرول سے نکلنے کا امکان سنجیدگی سے لینے کی ضرورت ہے، جبکہ دوسرے ماہرین ان پیش گوئیوں کو غیر یقینی اور قیاس آرائی پر مبنی سمجھتے ہیں۔ 2026 کی بین الاقوامی اے آئی سیفٹی رپورٹ میں بھی کہا گیا ہے کہ موجودہ نظاموں میں بعض ایسی صلاحیتوں کے ابتدائی آثار ضرور دیکھے گئے ہیں جو مستقبل میں خطرہ بن سکتی ہیں، لیکن ابھی ان میں انسانی کنٹرول مکمل طور پر ختم کرنے کی صلاحیت ثابت نہیں ہوئی۔ اس لیے کرسٹیانو کے پیش کردہ ۲۰؍ فیصد اور ۵۰؍ فیصد کے اعداد وشمار کو سائنسی اتفاقِ رائے یا یقینی امکانات کے بجائے ایک ماہر کی ذاتی تشخیص کے طور پر دیکھنا چاہیے۔ اس بحث کا ایک اہم پہلو یہ بھی ہے کہ جس ادارے کے بورڈ میں کرسٹیانو شامل ہیں، وہ خود جدید اے آئی نظام تیار کرنے والی دنیا کی بڑی کمپنیوں میں سے ایک ہے۔ ان کا انتباہ اس سوال کو بھی نمایاں کرتا ہے کہ اگر اے آئی کے ممکنہ خطرات اتنے سنگین ہیں تو ٹیکنالوجی کمپنیاں اپنی ترقی کی رفتار، حفاظتی جانچ اور نگرانی کے نظام کو کس حد تک تبدیل کرنے کے لیے تیار ہیں۔ کرسٹیانو کا مؤقف ہے کہ طاقتور اے آئی تیار کرنے کے بعد یہ معلوم کرنا کہ اسے قابو میں نہیں رکھا جاسکتا، انتہائی خطرناک غلطی ہوگی۔ ان کے نزدیک حفاظتی اقدامات کی کامیابی کا انتظار ٹیکنالوجی کے بے قابو ہونے کے بعد نہیں بلکہ اس سے پہلے ہونا چاہیے۔

 

متعلقہ خبریں

This website uses cookie or similar technologies, to enhance your browsing experience and provide personalised recommendations. By continuing to use our website, you agree to our Privacy Policy and Cookie Policy. OK