مائیکروسافٹ کے چیئرمین اور چیف ایگزیکٹیو آفیسر ستیہ نڈیلا نے جدید مصنوعی ذہانت (اے آئی) کے نظام استعمال کرنے والی کمپنیوں کو خبردار کیا ہے کہ وہ طاقتور اے آئی ماڈلز پر آنکھ بند کرکے بھروسہ نہ کریں، بلکہ انہیں ممکنہ اندرونی سیکوریٹی خطرے کے طور پر دیکھتے ہوئے ابتدا ہی سے مؤثر حفاظتی انتظامات کریں۔

 مائیکروسافٹ کے چیئرمین اور چیف ایگزیکٹیو آفیسر ستیہ نڈیلا نے جدید مصنوعی ذہانت (اے آئی) کے نظام استعمال کرنے والی کمپنیوں کو خبردار کیا ہے کہ وہ طاقتور اے آئی ماڈلز پر آنکھ بند کرکے بھروسہ نہ کریں، بلکہ انہیں ممکنہ اندرونی سیکوریٹی خطرے کے طور پر دیکھتے ہوئے ابتدا ہی سے مؤثر حفاظتی انتظامات کریں۔ ان کا کہنا ہے کہ کمپنیوں کو یہ فرض کرکے چلنا چاہیے کہ کوئی بھی اے آئی ماڈل کسی وقت سیکوریٹی کے لحاظ سے متاثر یا غیر محفوظ ہوسکتا ہے، اس لیے ایسا نظام ہونا چاہیے جس کے ذریعے مجاز افراد ضرورت پڑنے پر اے آئی کے کام کو فوری طور پر روک یا بند کرسکیں۔ 
ستیہ نڈیلا نے سماجی رابطے کے پلیٹ فارم ایکس پر اپنی ایک پوسٹ میں اس انتظام کو گاڑی کے ’ایمرجنسی بریک‘ سے تشبیہ دی، جو کسی ہنگامی صورت حال میں گاڑی کو روکنے کے لیے استعمال ہوتا ہے۔ ان کے مطابق، کمپنیوں کو صرف اے آئی تیار کرنے والوں کی مہارت یا یقین دہانیوں پر انحصار نہیں کرنا چاہیے، بلکہ ٹیکنالوجی پر مؤثر انسانی نگرانی اور کنٹرول بھی برقرار رکھنا چاہیے۔

یہ بھی پڑھئے:غزہ جنگ بندی: ایک سال بعد بورڈ آف پیس نے کیا حاصل کیا؟

 ستیہ نڈیلا کا یہ بیان ایسے وقت سامنے آیا ہے جب دنیا بھر میں زیادہ طاقتور اور خودمختار اے آئی نظاموں کے حفاظتی خطرات پر بحث تیز ہوگئی ہے۔ جدید اے آئی ایجنٹس محدود انسانی مداخلت کے ساتھ فیصلے کرنے، بیرونی سافٹ ویئر اور ویب سائٹس سے رابطہ قائم کرنے اور مختلف کام خود انجام دینے کی صلاحیت حاصل کررہے ہیں۔ اگر ایسے نظام غلط معلومات کی بنیاد پر فیصلہ کریں، غیر متوقع طریقے سے کام کریں یا ان کی سکیورٹی متاثر ہوجائے تو اس کے کاروباری اور تکنیکی نتائج سنگین ہوسکتے ہیں۔ حالیہ مہینوں میں اے آئی کمپنیوں اینتھروپک اور اوپن اے آئی کے ماڈلز سے متعلق بعض غیر متوقع واقعات اور سیکوریٹی خدشات نے بھی اے آئی نظاموں کے لیے مؤثر نگرانی اور فوری بندش کے انتظامات کی ضرورت کو نمایاں کیا ہے۔
مائیکروسافٹ کے سربراہ نے کمپنیوں کو مشورہ دیا کہ وہ اہم فیصلوں کے لیے صرف ایک اے آئی ماڈل پر انحصار نہ کریں، بلکہ متبادل نظام بھی تیار رکھیں۔ ان کے مطابق، اے آئی ایجنٹس کی سرگرمیوں کا ایسا ریکارڈ محفوظ کیا جانا چاہیے جس میں بعد میں ردوبدل نہ کیا جاسکے۔ اس کے علاوہ اے آئی نظاموں کا آزادانہ آڈٹ، حفاظتی انتظامات کی جانچ اور بڑے تکنیکی مسائل یا سکیورٹی خلاف ورزیوں کی شفاف اطلاع دینا بھی ضروری ہے۔ ان کا خیال ہے کہ اگر کمپنیاں اپنے تجربات، ناکامیوں اور ان سے حاصل ہونے والے اسباق کو ایک دوسرے کے ساتھ بانٹیں تو پورا ٹیکنالوجی شعبہ اپنے حفاظتی نظاموں کو بہتر بنا سکتا ہے۔

یہ بھی پڑھئے:’ایوینجرز: اینڈ گیم‘ اب تک کی سب سے زیادہ کمائی کرنے والی فلم بنی، ’اوتار‘ دوسرے نمبر پر

ستیہ نڈیلا نے مستقبل میں ممکنہ طور پر انتہائی ذہین اے آئی نظاموں کے بارے میں خبردار کرتے ہوئے کہا کہ انہیں ایک پراسرار ’بلیک باکس‘ کی طرح قبول نہیں کیا جاسکتا۔ ان کے مطابق، کمپنیوں کو اے آئی کے جوابات، سفارشات اور اقدامات کو سمجھے بغیر قبول نہیں کرنا چاہیے۔ ایسے نظام تیار کرنا ضروری ہیں جن کے رویے کی نگرانی کی جاسکے، ان کی حدود کو جانچا جاسکے اور ضرورت پڑنے پر ان کی سرگرمیوں کو محدود یا بند کیا جاسکے۔ انہوں نے اس بات پر زور دیا کہ ذہانت فراہم کرنے کی صلاحیت اور اس ذہانت پر اختیار رکھنے کی صلاحیت دو الگ چیزیں ہیں۔ ان کے مطابق، مصنوعی ذہانت کی ترقی کے ساتھ ساتھ انسانی نگرانی، جواب دہی، شفافیت اور حفاظتی انتظامات کو بھی مضبوط بنانا ہوگا، تاکہ اے آئی کے فوائد سے فائدہ اٹھاتے ہوئے ممکنہ خطرات کو کم کیا جاسکے۔
یہ پیغام خاص طور پر ان کمپنیوں کے لیے اہم ہے جو کاروباری فیصلوں، ڈیٹا کے تجزیے، صارفین کی خدمات اور خودکار کاموں میں اے آئی ایجنٹس کا استعمال بڑھا رہی ہیں۔ ستیہ نڈیلا کی تجویز کا بنیادی مقصد یہ ہے کہ اے آئی نظام کتنے ہی جدید کیوں نہ ہوجائیں، ان پر انسانی نگرانی اور ہنگامی صورت حال میں فوری کنٹرول کا انتظام ہمیشہ موجود رہنا چاہیے۔