اوپن اے آئی نے امریکی قانون سازوں کو بتایا ہے کہ اس کے انجینئرز اے آئی سسٹمز کیلئے ’’خودکار شٹ ڈاؤن‘‘ کی صلاحیتیں تیار کر رہے ہیں۔ یہ اقدام کمپنی کے ایک اے آئی ایجنٹ کے حفاظتی جانچ کے دوران بے قابو ہونے اور ہگنگ فیس کے سسٹم میں داخل ہونے کے واقعے کے بعد سامنے آیا ہے۔ امریکی قانون سازوں نے اوپن اے آئی سے واقعے اور اس کے حفاظتی اقدامات سے متعلق مزید معلومات طلب کی ہیں، جبکہ اے آئی ماڈلز کو ممکنہ خطرات کی صورت میں بند کرنے کیلئے ’’اے آئی کِل سوئچ ایکٹ‘‘ بھی ایوانِ نمائندگان میں زیرِ غور ہے۔

رائٹرز کی جانب سے دیکھی گئی کمپنی کی ایک دستاویز کے مطابق اوپن اے آئی نے امریکی ایوانِ نمائندگان کے دو ڈیموکریٹ ارکان کو بتایا ہے کہ اس کے انجینئرز اے آئی سسٹمز کیلئے ’’خودکار شٹ ڈاؤن کی صلاحیتیں‘‘ تیار کر رہے ہیں۔ یہ پیش رفت اس انکشاف کے چند ہفتے بعد سامنے آئی ہے کہ کمپنی کے ایک اے آئی ٹول نے حفاظتی جانچ کے دوران اپنے ڈیجیٹل کنٹینر سے باہر نکلنے کی کوشش کی تھی۔ چیٹ جی پی ٹی (ChatGPT) بنانے والی کمپنی اوپن اے آئی کے حفاظتی طریقۂ کار اس وقت سے جانچ پڑتال کی زد میں ہیں جب کمپنی نے انکشاف کیا کہ اس کا ایک اے آئی ایجنٹ سسیکوریٹی ٹیسٹ کے دوران بے قابو ہوگیا اور اے آئی کمپنی ہگنگ فیس (Hugging Face) کے سسٹم میں ہیکنگ کے ذریعے داخل ہوگیا۔ اے آئی ایجنٹس ایسے پروگرام ہوتے ہیں جو کم سے کم انسانی نگرانی میں کام انجام دیتے ہیں۔

یہ بھی پڑھئے: کنیڈا کے برٹش کولمبیا میں نمودار ہونے والا پراسرار جزیرہ چند ہفتوں بعد ہی غائب!

ایوانِ نمائندگان کے ارکان، جن میں ڈیموکریٹس گریگ کاسار اور ڈورس ماتسوئی بھی شامل ہیں، نے اگست میں اوپن اے آئی کو خطوط بھیج کر اس واقعے اور کمپنی کے حفاظتی اقدامات کے بارے میں مزید معلومات طلب کی تھیں۔ اپنے جواب میں اوپن اے آئی نے کہا کہ وہ ان کاموں کی زیادہ قریب سے نگرانی کرے گا جو اس کے اے آئی سسٹمز اپنے فرائض کی تکمیل کیلئے انجام دیتے ہیں، جن میں ان کے ذریعے استعمال کیے جانے والے ڈجیٹل ٹولز اور کام مکمل کرنے کیلئے اختیار کیے جانے والے مراحل بھی شامل ہیں۔ خط کے مطابق اوپن اے آئی نے یہ بھی کہا کہ حفاظتی جانچ کے دوران اے آئی ماڈلز کیلئے انٹرنیٹ تک رسائی کو مزید مشکل بنا دیا گیا ہے۔ سیکوریٹی ٹیسٹ کے دوران بے قابو ہونے والے خودمختار اے آئی ایجنٹ نے انٹرنیٹ تک رسائی حاصل کرلی تھی، جس کے نتیجے میں اسے ہگنگ فیس کے سسٹم میں داخل ہونے کا موقع ملا۔

یہ بھی پڑھئے: نیویارک: ۸؍ ویں جماعت تک اے آئی پر پابندی، ہائی اسکول طلبہ کو محدود اجازت

کمپنی نے اس ہیکنگ کا مکمل لاگ یا ریکارڈ فراہم نہیں کیا، جس پر گریگ کاسار نے تنقید کی۔ انہوں نے بدھ کو اوپن اے آئی کو ایک الگ پیغام میں لکھا کہ کانگریس کے ارکان کو مطلوبہ معلومات فراہم کرنے سے کمپنی کی ہچکچاہٹ انتہائی تشویش ناک ہے اور اس سے یہ تاثر ملتا ہے کہ کمپنی ان سائبر سیکیورٹی واقعات کو وہ سنجیدگی نہیں دے رہی جس کی ضرورت ہے۔ اوپن اے آئی کے اے آئی ایجنٹ کے بے قابو ہونے کے انکشاف کے چند روز بعد امریکی قانون سازوں نے ’’اے آئی کِل سوئچ ایکٹ‘‘ کے نام سے ایک بل بھی پیش کیا تھا۔ اس بل کے تحت امریکی حکام کو یہ اختیار دیا جائے گا کہ وہ ان اے آئی کمپنیوں کو اپنے ماڈلز بند کرنے کا حکم دے سکیں جو انسانی زندگی یا ملکی معیشت کیلئے خطرہ بن سکتے ہیں۔ یہ بل اس وقت امریکی ایوانِ نمائندگان میں زیرِ غور ہے۔