کاکسن نے متنبہ کیا کہ ابھرتے ہوئے اے آئی سسٹمز جلد ہی ”انسان سے برتر“ (superhuman) بن سکتے ہیں، جو کسی بھی سسٹم کو ہیک کرنے، راتوں رات پورے شعبوں کو بدل کر رکھ دینے اور بے پناہ طاقت اور وسائل جمع کرنے کی صلاحیت رکھتے ہیں۔ انہوں نے دعویٰ کیا کہ ان سسٹمز کو بنانے والے بہت سے لوگ نجی طور پر یہ مانتے ہیں کہ اس دہائی کے اختتام تک اس بات کا حقیقی امکان موجود ہے کہ اے آئی انسانیت کو تباہ کن نقصان پہنچا سکتی ہے، اگرچہ وہ عوامی سطح پر زیادہ محتاط خیالات پیش کرتے ہیں۔

مصنوعی ذہانت (اے آئی) کے میدان کی معروف کمپنی اینتھروپک (Anthropic) کے ایک محقق نے اس تشویش کا حوالہ دیتے ہوئے استعفیٰ دے دیا ہے کہ کمپنی اور اے آئی کی وسیع تر صنعت ایسے سسٹمز بنانے کی دوڑ میں لگی ہوئی ہے جنہیں شاید وہ خود قابو میں نہ رکھ سکیں۔ سوشل میڈیا پر اپنے سلسلہ وار پوسٹس میں جیکب کاکسن، جنہوں نے گزشتہ تین برسوں کے دوران اینتھروپک اور اوپن اے آئی (OpenAI) دونوں میں پری ٹریننگ ریسرچ پر کام کیا ہے، نے کہا کہ دونوں میں سے کوئی بھی کمپنی ”ذمہ داری سے کام نہیں لے رہی ہے۔“ انہوں نے کمپنیوں پر الزام لگایا کہ وہ ”سیدھا خود کو بہتر بنانے والی سپر انٹیلی جنس (superintelligence) کی دوڑ میں لگی ہیں اور ہماری زندگیوں کا جوا کھیل رہی ہیں۔“

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

کاکسن نے متنبہ کیا کہ ابھرتے ہوئے اے آئی سسٹمز جلد ہی ”انسان سے برتر“ (superhuman) بن سکتے ہیں، جو کسی بھی سسٹم کو ہیک کرنے، راتوں رات پورے شعبوں کو بدل کر رکھ دینے اور بے پناہ طاقت اور وسائل جمع کرنے کی صلاحیت رکھتے ہیں۔ انہوں نے دعویٰ کیا کہ ان سسٹمز کو بنانے والے بہت سے لوگ نجی طور پر یہ مانتے ہیں کہ اس دہائی کے اختتام تک اس بات کا حقیقی امکان موجود ہے کہ اے آئی انسانیت کو تباہ کن نقصان پہنچا سکتی ہے، اگرچہ وہ عوامی سطح پر زیادہ محتاط خیالات پیش کرتے ہیں۔

یہ بھی پڑھئے: اوپن اے آئی نے’GPT-6 Astra ‘ لانچ کیا، یہ اے آئی ماڈل پیچیدہ کام خود کرے گا

خاص طور پر، اینتھروپک کے الائنمنٹ سائنس لیڈ ایوان ہوبنجر نے کاکسن کے موقف کی بھرپور تائید کرتے ہوئے کہا کہ کمپنی ”سنجیدگی سے مانتی ہے کہ اے آئی تمام انسانوں کو ہلاک کر سکتا ہے۔“ انہوں نے اگلی دہائی کے اندر اس طرح کے نتیجے کے نکلنے کے امکان کا تخمینہ ۱۰ فیصد سے زیادہ لگایا۔ ہوبنجر نے اعتراف کیا کہ اگرچہ اینتھروپک اس مسئلے پر کام کر رہی ہے، لیکن اس کے پاس تاحال سپر انٹیلی جنٹ سسٹمز کو قابو میں رکھنے (aligning) کا کوئی حل شدہ منصوبہ موجود نہیں ہے۔

کاکسن نے دونوں کمپنیوں کے درمیان فرق واضح کرتے ہوئے کہا کہ اوپن اے آئی کے ملازمین نے ”تہذیبی سطح پر داؤ پر لگے خطرات کو گہرائی سے محسوس نہیں کیا“ جبکہ اینتھروپک میں خطرات کو سمجھا جاتا ہے لیکن کمپنی خود کو مقابلے میں جکڑا ہوا محسوس کرتی ہے کیونکہ اس کا ماننا ہے کہ بصورتِ دیگر اس کے حریف ذمہ داری کا مظاہرہ نہیں کریں گے۔ انہوں نے دلیل دی کہ ان حالات میں کسی ”آخری منظر نامے“ (endgame) کے پیچھے بھاگنا ایک لاپرواہ جوئے کے مترادف ہے جس کا فیصلہ کسی کمپنی کے اندرونی حلقوں میں غیر رسمی طور پر نہیں ہونا چاہئے۔

یہ بھی پڑھئے: اے آئی کے استعمال میں جین زی سب سے آگے مگر مستقبل کے اثرات سے فکرمند بھی:رپورٹ

انہوں نے اس بات پر بھی شک کا اظہار کیا کہ یہ صنعت ایک بے قابو دوڑ کو روکنے کی سمت بڑھ رہی ہے۔ انہوں نے اشارہ دیا کہ اس کیلئے انتہائی سخت اقدامات کی ضرورت پڑ سکتی ہے، مثلاً اے آئی کی صلاحیتوں میں مزید پیش رفت پر عارضی پابندی۔ ان کے ان پوسٹس کو چھ گھنٹوں کے اندر ۲ کروڑ ۳۰ لاکھ سے زائد لوگوں نے پڑھا۔ ہیج فنڈ مینیجر بل ایکمین نے ان الزامات کو تشویشناک قرار دیا۔ نہ تو اینتھروپک اور نہ ہی اوپن اے آئی نے کاکسن کے استعفے پر کوئی باضابطہ جواب جاری کیا ہے۔