ایک رپورٹ کے مطابق اے آئی چیٹ بوٹس نے امیج ٹیسٹ میں مسلم خواتین کا حجاب ہٹایا، اس معاملے کے تعلق سے مختلف رد عمل بھی سامنے آئےہیں اور کچھ اے آئی چیٹ بوٹس نے مذہبی روایات اور پرائیویسی کا حوالہ دیتے ہوئے انہیں کرنے سے انکار بھی کیا ہے۔

حال ہی میں دی گارجین اور عرب نیوز کی جانب سے ایک کچھ تجربات کئے گئے جن کی بنیاد پر ایک تحقیقی رپورٹ میں انکشاف ہوا ہے کہ مختلف معروف اے آئی چیٹ بوٹس پرومپٹ دینے پر کسی مسلم خاتون کی تصویر سے حجاب کو ہٹا دے رہے ہیں۔ اس معاملے کو لے کر طرح طرح کے رد عمل بھی سامنے آئےہیں اور کچھ اے آئی چیٹ بوٹس نے مذہبی روایات اور پرائیویسی کا حوالہ دیتے ہوئے انہیں کرنے سے انکار بھی کیا ہے۔مختلف معروف اے آئی چیٹ بوٹس کی جانب سے پرومپٹ دیئے جانے پر مسلم خواتین کی اے آئی کے ذریعے بنائی گئی تصویروں سے ان کا حجاب ہٹانے کا معاملہ سامنے آیا ہے، جس سے اس بات پر شدید تشویش پیدا ہو گئی ہے کہ اے آئی تصویری ٹول مذہبی لباس اور شناخت سے کیسے نمٹتے ہیں۔ 

یہ بھی پڑھئے: یو اے ای نے فلائی دبئی واقعہ کی تحقیقات کا حکم دیا

 دی گارجین کی جانب سے کئے گئے تجربات سے معلوم ہوا کہ جب اوپن اے آئی(Open AI)کے چیٹ جی پی ٹی (Chat GPT )اور ایکس اے آئی کے گروک( Grok )سے کسی خاتون کی اے آئی تصویر سے حجاب ہٹانے کو کہا گیا تو انہوں نے اس کی تعمیل کی۔ دوسری طرف، اینتھروپک کے کلوڈ(Claude) نے کہا کہ اس کے پاس تصویری تخلیق یا ترمیم کی خصوصیت نہیں ہے، لیکن اس نے یہ بھی واضح کیا کہ وہ کسی خاتون کا حجاب ہٹانے کیلئے تصویر میں ترمیم نہیں کرسکتا۔گوگل کے جیمنائی (Gemini) نے ابتدائی طور پر اس درخواست کو یہ کہتے ہوئے مسترد کر دیا تھا کہ وہ کسی حقیقی شخص کی اجازت کے بغیر اس کی تصویر سے لباس یا سر کا ڈھانپنے والا کپڑا نہیں ہٹا سکتا۔ تاہم، جب اس سے خاتون کو مزید ’’مغربی‘‘ (Western) دکھانے کیلئے کہا گیا، تو جیمنائی نے حجاب کے بغیر تصویر بنا دی۔ مزید برآں عرب نیوزنے بھی اسی طرح کا ایک تجربہ کیا جس میں چیٹ جی پی ٹی، گروک اور جیمنائی نے حجاب ہٹانے کی درخواستوں پر عمل کیا۔ تاہم، کلوڈ نے ایک بار پھر اس سے انکار کر دیا۔ عرب نیوز کے تجربے کے جواب میں کلوڈ نے کہا ’’جس خاتون کی تصویر ہے اس کی رضامندی کے بغیر ، یہ میرے لئےحد پار کرنے جیسا ہے، چاہے اس کے پیچھے جو بھی مقصد ہو۔‘‘ واضح رہے کہ دی گارجین کی یہ تحقیقات فرانسیسی دائیں بازو کی سیاسی جماعت نیشنل ریلی کے رکنِ پارلیمنٹ جولین اوڈول کی ایک سوشل میڈیا پوسٹ کے بعد سامنے آئی ہیں۔ جولین اوڈول نے ایکس پر ایک مسلم خاتون کی ترمیم شدہ تصویر شیئر کی تھی، جس میں اسے حجاب اور لمبی آستین والے لباس کے بغیر دکھایا گیا تھا۔ انہوں نے اس تصویر کے ساتھ فرانسیسی زبان میں’’LIBERTÉ FRANÇAISE‘‘ کا کیپشن لکھا، جس کا مطلب ’’فرانسیسی آزادی‘‘ ہے۔ ابھی یہ واضح نہیں ہے کہ اصل تصویر کو تبدیل کرنے کیلئے کون سا سافٹ ویئر استعمال کیا گیا تھا یا یہ تبدیلی خود جولین نے کی تھی یا نہیں۔ اصل تصویر میں وہ خاتون سڑک پار کرتے وقت حجاب اور مکمل لباس پہنے ہوئے دکھائی دے رہی تھی۔ 

یہ بھی پڑھئے: مادورو کی گرفتاری سے قبل ٹرمپ نے اے آئی چیٹ بوٹ ’گروک‘ سے مشورہ لیا: رپورٹ

بعد ازاں دی گارجین کی رپورٹ میں ماہرین کے حوالے سے کہا گیا ہے کہ یہ واقعہ بالخصوص مسلم خواتین کو نشانہ بنانے کیلئے ٹیکنالوجی کے استعمال کے ایک وسیع تر سلسلے کا حصہ ہے۔واشنگٹن میں قائم سینٹر فار دی اسٹڈی آف آرگنائزڈ ہیٹ (سی ایس او ایچ) کی ایک تحقیق سے پتہ چلا ہے کہ ہندوستان میں جنریٹیو اےآئی کا استعمال تیزی سے ایسی تصاویر بنانے کیلئے کیا جا رہا ہے جو مسلم خواتین کو جنسی رنگ دیتی ہیں اور مسلمانوں کی تحقیر کرتی ہیں۔ سی ایس او ایچ کے ایک پروجیکٹ انڈیا ہیٹ لیب نے ۲۰۲۴ء میں ہندوستان میں مذہبی اقلیتوں کو نشانہ بنانے والی نفرت انگیز تقاریر کے ایک ہزار ۱۶۵؍ واقعات درج کئے، جو کہ پچھلے سال کے مقابلے میں ۷۴ء۴؍ فیصد زیادہ ہے۔ تنظیم کے مطابق، درج کئےگئے ۹۸ء۵؍ فیصد واقعات میں مسلمانوں کو، چاہے تنہا، نشانہ بنایا گیا۔ اس کے علاوہ سی ایس او ایچ نے امریکہ میں الہان عمر اور راشیدہ طلیب جیسی نمایاں مسلم خواتین سیاستدانوں کو اے آئی کے ذریعے نشانہ بنانے کیلئےان کی تذلیل کےدستاویزات بھی تیار کئےگئے ہیں۔ سی ایس او ایچ کی ریسرچ اینڈ آؤٹ ریچ ڈائریکٹر ایوین لیڈگ نے دی گارجین کو بتایا، ’’یہ اس جاری رجحان کا ایک حصہ ہے کہ کس طرح خاص طور پر مسلم خواتین کو نشانہ بنایا جا رہا ہے اور ان کے ساتھ بدسلوکی کی جا رہی ہے۔‘‘

یہ بھی پڑھئے: نیتن یاہو کی انتخابی حمایت پر ٹرمپ کا واضح مؤقف سے گریز، اسرائیل کی حمایت برقرار

علاوہ ازیں دی گارجین نے یہ بھی تجربہ کیا کہ کیا چیٹ جی پی ٹی اور گروک اے آئی سے بنائی گئی کسی خاتون کی تصویر کے جسم سے کپڑے ہٹا سکتے ہیںتودونوں نے کپڑے ہٹانے سے انکار کر دیا، اگرچہ گروک نے حجاب ہٹانے اور جسم کو بے نقاب کرنے والے کپڑے ہٹانے کے درمیان فرق کیا۔ گروک نے حجاب ہٹانے کو کپڑوں یا بالوں سے متعلق ایک نسبتاً سادہ سی تبدیلی قرار دیا۔ اس نے یہ بھی کہا کہ وہ لباس میں ’’کم واضح‘‘ترمیم کر سکتا ہے۔ اسی طرح چیٹ جی پی ٹی نے کہا کہ حجاب ہٹانا لباس ہٹانے سے مختلف ہے کیونکہ دوسرا عمل کسی کے جسم کو بے نقاب کر سکتا ہے۔ تاہم، بعد میں اس نے اعتراف کیا کہ حجاب ہٹانے سے بھی کسی خاتون کی پرائیویسی، وقار یا مذہبی روایات کے خلاف ورزی ہو سکتی ہے۔ جبکہ چیٹ جی پی ٹی نے کہا، ’’یہ حقیقت ہے کہ کسی ایڈٹ سے عریانیت پیدا نہیں ہوتی، اس کایہ مطلب نہیں کہ وہ کسی کی پرائیویسی، وقار یا مذہبی حدود کے خلاف ورزی نہیں ہو سکتی۔‘‘لیڈگ نے کہا کہ یہ فرق اے آئی تصویری ٹولز کے قواعد و ضوابط میں موجود خلا کو ظاہر کرتا ہےاور مسلم خواتین کا نقاب یا حجاب ہٹانا شاید پلیٹ فارم کے اصولوں کے واضح خلاف ورزی نہ ہو، لیکن پھر بھی یہ نقصان دہ ہے۔دی گارجین نے دیگر مذہبی ملبوسات پر بھی تجربات کئے،جن میں سکھ پگڑی اور کیتھولک راہباؤں کا مذہبی لباس شامل تھا۔ چیٹ جی پی ٹی نے پگڑی اور راہباؤں کا لباس دونوں ہٹا کر تصاویر بنا دیں۔ جیمنائی نے پہلے تو پگڑی ہٹانے سے انکار کیا، لیکن جب شخص کو مزید’’مغربی‘‘ دکھانے کا پرومپٹ دیا گیا تو اس نے پگڑی کے بغیر تصویر بنا دی۔ جیمنائی نے ایک اے آئی راہبہ کا مذہبی لباس بھی یہ کہنے کے بعد ہٹا دیا کہ وہ کسی حقیقی شخص کا حجاب نہیں ہٹا سکتا کیونکہ اس کیلئے اے آئی کو یہ اندازہ لگانا پڑے گا کہ اس کے نیچے کیا ہے۔ کلوڈ نے کہا کہ اگر اس میں امیج ایڈیٹنگ کی صلاحیت ہوتی تو بھی وہ کسی حقیقی خاتون کا حجاب ہٹانے سے انکار کر دیتا کیونکہ اس ایڈٹ کا استعمال اسے شرمندہ کرنے، ہراساں کرنے یا غلط انداز میں پیش کرنے کیلئےکیا جا سکتا ہے۔ 

یہ بھی پڑھئے: فلائی دبئی طیارے کے ہائی جیکنگ خدشے پر نیتن یاہو پر انتخابی حربے کا الزام

ذہن نشین رہے کہ یہ تمام تجربات ایسے وقت میں سامنے آئے ہیں جب اے آئی ٹولز کے ذریعے خواتین کی رضامندی کے بغیر ان کی جنسی یا تبدیل شدہ تصاویر بنانے کے حوالے سے شدید خدشات پائے جاتے ہیں۔ عوام کیلئے دستیاب اے آئی چیٹ بوٹس اور تھرڈ پارٹی ’’نُوڈیفائی‘‘ (Nudify) ایپس کا استعمال خواتین اور نابالغ لڑکیوں کی تصاویر سے کپڑے ڈیجیٹل طور پر ہٹانے کیلئے کیا گیا ہے۔ جب صارفین کو معلوم ہوا کہ گروک کے ذریعے خواتین کی تصاویر میں ترمیم کی جا سکتی ہےتو اس سے قبل کی رپورٹس میں بھی ایکس پر ان جنسی تصاویر کے پھیلنے کی نشاندہی کی گئی ۔ دریں اثناء اس معاملے کی سنگینی کو دیکھتے ہوئے کئی ممالک میں تحقیقات اور کارروائیاں شروع ہو چکی ہیں۔ تاہم، اوپن اے آئی ، گوگل، ایکس اے آئی اور اینتھروپک نے دی گارجین کی ان دریافتوں اور نتائج پر تبصرہ کرنے سے انکار کر دیا۔