دنیا بھر میں ایسی کئی مثالیں ہیں جو ظاہر کرتی ہیں کہ اے آئی بچوں کیلئے کس حد تک خطرناک ہو چکا ہے، اور آگے بھی ہوگا مگر اس مسئلے پر صرف برازیل، افریقہ، یورپ، امریکہ اور کوریا ہی میں مباحثے ہورہے ہیں جبکہ مشرقِ وسطیٰ، ہندوستان اور جنوبی ایشیاء جیسے خطوں میں والدین، صارفین، ریگولیٹرز اور سیاستداں اب بھی خاموش ہیں۔

گزشتہ ماہ برازیل کے اٹارنی جنرل کے دفتر نے میٹا کو ایک غیر عدالتی نوٹس جاری کیا جس میں مطالبہ کیا گیا کہ کمپنی فوری طور پر اُن مصنوعی ذہانت پر مبنی روبوٹس کو ہٹا دے جو بچوں جیسی زبان اور ظاہری شکل اختیار کر کے جنسی نوعیت کی گفتگو میں شامل ہو جاتے ہیں۔ اٹارنی جنرل نے کہا کہ یہ بوٹس، جو میٹا کے اے آئی اسٹوڈیو کے ذریعے بنائے گئے ہیں ’’بچوں کو جنسی طور پراُکساتے‘‘ ہیں اور اس بات کو اجاگر کیا کہ مؤثر عمر کی فلٹرنگ موجود نہیں ہے، جس کے باعث ۱۳؍ سے ۱۸؍ سال کے نوعمربھی ایسے مواد تک رسائی حاصل کر لیتے ہیں۔ عوامی استغاثہ نے تفتیشی رپورٹس کا حوالہ دیا جن میں یہ دکھایا گیا تھا کہ ان بوٹس نے نابالغ ہونے کا دعویٰ کرتے ہوئے بچوں سے کھلے عام ’’جنسی‘‘ گفتگو کی۔ 
دو ہفتے قبل، ستمبر کے وسط میں، برازیل کے صدر لولا ڈا سلوا نے ملک کا پہلا آن لائن بچوں کے تحفظ کا قانون منظور کیا۔ اے آئی اور سوشل میڈیا کمپنیوں نے اس کی مزاحمت کی تھی مگر لولا ڈا سلوا نے عوامی حمایت حاصل کر کے بڑی ٹیکنالوجی کمپنیوں کو قابو میں کر لیا۔ اب اے آئی کمپنیاں برازیلی بچوں کے ذاتی ڈیٹا جیسے تصاویر کو استعمال کر کے مصنوعی ذہانت کے آلات نہیں بنا سکتیں۔ انہیں بچوں کے آن لائن رویوں کو ٹریک کرنے سے بھی روک دیا گیا ہے۔ یہ قانون سب سے پہلے ۲۰۲۲ء میں سینیٹرز فلاویو آرنس اور الیساندرو ویئیرا نے پیش کیا تھا۔ اسے نومبر۲۰۲۴ء میں سینیٹ میں متفقہ طور پر منظور کیا گیا اور اگست ۲۰۲۵ء میں ایوانِ نمائندگان نے تقریباً تمام سیاسی جماعتوں کی حمایت سے اس کی توثیق کی۔ صرف ایک ہفتے بعد سینیٹ نے دوبارہ اس کو منظوری دی۔ یہ جاننا اہم ہے کہ برازیل کے سیاسی لیڈر ۲۰۲۲ء میں، یعنی چیٹ جی پی ٹی کے ابتدائی دنوں ہی سے اے آئی کے محفوظ استعمال پر کام کرنا شروع کردیا تھا۔ ان کی فکر صرف ٹیکنالوجی کو معاشی فائدے کیلئے دستیاب کرانے تک محدود نہیں تھی، وہ اے آئی کی حفاظت کے بارے میں بھی یکساں طور پر فکر مند تھے۔ 
جب صدر لولا ڈا سلوا نے برازیل میں یہ قانون منظور کیا، امریکہ کی سینیٹ جوڈیشری سب کمیٹی نے ایک ’’اے آئی چیٹ بوٹس کے نقصانات کا جائزہ‘‘ نامی ایک مقدمے کی سماعت کی جس کے گواہوں میں میتھیو رین بھی شامل تھے جن کے ۱۶؍ سالہ بیٹے ایڈم نے اپریل میں چیٹ جی پی ٹی کے ساتھ طویل رابطے کے بعد خودکشی کر لی تھی۔ انہوں نے اے آئی کے متعلق کہا، ’’جو ایک ہوم ورک ہیلپر کے طور پر شروع ہوا تھا، وہ آہستہ آہستہ ایک رازدار اور پھر خودکشی کا کوچ بن گیا۔ ‘‘ ایک ماں میگن گارشیا نے الزام لگایا کہ ان کے ۱۴؍ سالہ بیٹےسیول سیٹزر سوم کو ایک چیٹ بوٹ نے جنسی نوعیت کی گفتگو میں شامل کر لیا اور وہ تنہائی کا شکار ہوتا گیا، یہاں تک کہ اس کی موت واقع ہوگئی۔ سماعت کے دوران رین نے الزام لگایا کہ چیٹ جی پی ٹی نےمہینوں تک اس کے بیٹے کو خودکشی کی طرف کوچنگ دی۔ ‘‘ سینیٹ کی سماعتوں کے علاوہ فیڈرل ٹریڈ کمیشن نے اوپن اے آئی، کریکٹر اے آئی، میٹا، گوگل، اسنیپ اور ایکس اے آئی سمیت اے آئی کمپنیوں کے خلاف ایک وسیع تحقیقات کا آغاز کیا ہے۔ یہ ریگولیٹری ایجنسی بچوں کی سلامتی کے نقطۂ نظر سے اے آئی کا جائزہ لینا چاہتی ہے۔ 
امریکی براعظم میں نابالغوں اور چیٹ بوٹس کے حوالے سے عدالتی جنگوں سے دور، ڈینیئل موٹانگ، جو میٹا کیلئے ’’ایس اے ایم اے‘‘ کمپنی کے ذریعے ملازم ایک سابق مواد نگران تھے، نے ۲۰۲۲ء میں کینیا میں ایک مقدمہ دائر کیا۔ ان کا الزام ہے کہ وہ گرافکس اور پرتشدد مواد مسلسل دیکھنے کی وجہ سے شدید نقصان کا شکار ہوئے۔ اپنے مقدمے میں موٹانگ کہتے ہیں کہ جب انہوں نے ملازمت قبول کی تو انہیں یہ نہیں بتایا گیا تھا کہ مواد کس حد تک تکلیف دہ ہوگا۔ ایک اور نگران، موفٹ اوکینی، نے ساتھیوں کے ساتھ مل کر ایک درخواست دائر کی، جس میں کہا کہ ان کے سامنے روزانہ ایسے سیکڑوں متن آتے ہیں جن میں سے متعدد میں ’’جنسی تشدد کی منظرکشی ہوتی ہے‘‘، اور اس نے ان کی ذہنی صحت کو سخت نقصان پہنچایا ہے۔ دی گارجین کی ۲۰۲۳ء کی ایک رپورٹ کے مطابق اب یہ کارکن منظم ہو رہے ہیں، ان مواد کے نگرانوں کی ایک یونین قائم کی گئی ہے جو قانونی تحفظات، بہتر تنخواہوں اور نفسیاتی مدد کیلئے جدوجہد کر رہی ہے۔ 
یہ اور ایسی کئی کہانیاں ظاہر کرتی ہیں کہ لاطینی امریکہ، افریقہ اور امریکہ میں والدین، بچے اور نوجوان اے آئی کو اپنے فائدے کیلئے استعمال کرنا چاہتے ہیں لیکن اگر اے آئی ان کی سلامتی کو خطرے میں ڈالے تو وہ کارروائی بھی کرتے ہیں۔ ان معاملات میں خطرے کے منبع کو تلاش کرنا ممکن تھا لیکن بچوں کو نقصان پہنچنا تو محض آغاز ہے۔ تحقیق کا بڑھتا ہوا دائرہ دکھاتا ہے کہ اے آئی کے نظام ایسی خودمختاری اور پیچیدگی کے درجے تک پہنچ رہے ہیں جہاں نقصانات کا سراغ لگانا مشکل ہو سکتا ہے۔ ایک تحقیق سے پتہ چلتا ہے کہ جدید ماڈلز کبھی کبھار استعمال کے دوران ایسا رویہ سیکھ لیتے ہیں جو ٹیسٹ کے دوران دکھائے گئے رویے سے مختلف ہوتا ہے، اور وہ ایسے طریقے سے عمل کر سکتے ہیں جس کی ان کے تخلیق کاروں کو توقع نہیں ہوتی۔ ۲۰۲۴ء میں انتھروپک کی ایک تحقیق میں دستاویزی شواہد سامنے آئے کہ ماڈلز سلامتی کی جانچ کو اس وقت بائی پاس کر سکتےہیں جب مراعاتی ڈھانچہ کارکردگی کے میٹرکس کو توسیعی رابطے میں سلامتی پر ترجیح دیتا ہے۔ ٹیک کمپنیاں پہلے ہی خودکار مواد تخلیق کرنے والے آلات کی تلاش کر رہی ہیں جو کیمیائی ترکیبیں، ہتھیاروں کی تصاویر، یا غیر قانونی رویے کیلئے ہدایات تیار کر سکتے ہیں۔ اگرچہ ان پر ضابطہ ہے، یہ آلات غلط استعمال یا دیگر آلات کو ساتھ ملا کر خطرناک نتائج پیدا کر سکتے ہیں۔ 
یہ تین کہانیاں ظاہر کرتی ہیں کہ امریکہ اور افریقہ کے براعظموں کے عام لوگ اے آئی سے نقصان پہنچنے پر خاموش نہیں بیٹھیں گے، لیکن یہ بھی ظاہر کرتی ہیں کہ ہمیں ابھی سے حفاظتی اقدامات کرنے کی ضرورت ہے، اس سے پہلے کہ یہ نقصانات خوفناک اور ناقابلِ سراغ بن جائیں۔ ہمیں ایسے قوانین کی ضرورت ہے جو اے آئی کے نظام کو لازمی حفاظتی جانچ شامل کرنے پر مجبور کریں۔ ہمیں شفافیت چاہئے۔ اے آئی کمپنیاں اپنی اندرونی حفاظتی جانچ اور ناکامیوں کو شائع کریں۔ ریگولیٹرز کو آزاد، بیرونی آڈٹ لازمی قرار دینا چاہئے۔ اور خاص طور پر حاشیہ پر رہنے والے گروپوں جیسے بچے اور ڈیٹا ورکرز کیلئے نفسیاتی مدد، معاوضے اور مزدور یونینز قائم کرنے کیلئے قابلِ نفاذ حقوق ہونے چاہئیں۔ 
اہم بات یہ ہے کہ ہم فرض نہیں کر سکتے کہ آج کے قانونی اقدامات کل بھی مؤثر ہوں گے۔ اس وقت اے آئی کے نظام زیادہ خودمختار ہو جائیں گے۔ اے آئی کی یہ صلاحیت کہ وہ اپنے تخلیق کاروں کو دھوکہ دے سکے، ذمہ داری کو چھپا سکے، یا ایسا نقصاندہ مواد پیدا کرے جس کے ماخذ کا پتہ نہ لگ سکے۔ واضح رہے کہ اب سائنس، فکشن نہیں رہی۔ ہمیں ابھی قانون سازی اور ادارہ جاتی صلاحیت سازی کرنی ہوگی تاکہ مستقبل میں احتساب ضائع نہ ہو جائے۔ جب میں سنتا ہوں کہ برازیل کے سیاستداں بچوں جیسے بوٹس کے خلاف کارروائی کر رہے ہیں، جب میں میتھیو رین کو سنتا ہوں کہ وہ اپنے بیٹے کے ساتھ چیٹ جی پی ٹی کے رویے کا بیان دے رہے ہیں، یا جب میں ڈینیئل موٹانگ کی زندگی کی روداد پڑھتا ہوں کہ کس طرح وہ روز بروز تشدد برداشت کرتے کرتے تھک گئے، تو مجھے لگتا ہے کہ سانحات کی تعداد اتنی ہی نہیں ہے۔ یہ اس بات کا ثبوت ہیں کہ اے آئی ایسے نقصان پہنچا سکتا ہےجنہیں ہم درست کرنے کا طریقہ جانتے ہیں مگر ابھی تک درست نہیں کر رہے ہیں۔ 
مجھے سب سے زیادہ خوف اس بات کا ہے کہ جو کچھ ہم نے دیکھا ہے وہی خطرہ نہیں بلکہ وہ بھی ہے جو ہم نے اب تک نہیں دیکھا۔ جب اے آئی کے نظام زیادہ طاقتور، زیادہ خودمختار اور دھوکہ دینے کے زیادہ قابل ہو جائیں گے تو ہم ایک ایسی دنیا میں داخل ہونے کا خطرہ مول لیں گے جہاں نقصانات عام ہوں گے مگر نظر نہیں آئیں گے، لوگ تکلیف میں ہوں گے مگر یہ ثابت نہیں کر سکیں گے کہ کس نے یا کس چیز نے انہیں نقصان پہنچایا ہے۔ جب احتساب تقریباً ناممکن ہو جائے گا، تب ضابطے سب سے زیادہ اہم ہوں گے۔ اے آئی کے محفوظ استعمال پر بحث زیادہ تر برازیل، افریقہ، یورپ، امریکہ اور کوریا میں ہو رہی ہے۔ سوال یہ ہے کہ مشرقِ وسطیٰ، ہندوستان اور جنوبی ایشیاء میں والدین، صارفین، ریگولیٹرز اور سیاستداں کہاں ہیں ؟
(سندیپ واسلیکر، اسٹریٹجک فورسائٹ گروپ کے صدر ہیں، جو ایک بین الاقوامی تھنک ٹینک ہے۔ آپ ’’اے ورلڈ وِدآؤٹ وار‘‘ کے مصنف بھی ہیں۔ )