بی بی سی نے سوشل میڈیا پلیٹ فارم ایکس پر ایسی کئی مثالیں دیکھی ہیں جہاں لوگ خواتین کی رضامندی کے بغیر چیٹ بوٹ سے انھیں بکنی میں دیکھانے کے لیے ان کے کپڑے اتارنے اور انھیں فحش حالت میں دکھانے کی درخواست کر رہے ہیں اور گروک بلا حجت و حیل ان کی فرمائشیں پوری کرتا نظر آتا ہے۔
آج سوشل میڈیا سائیٹ ’ایکس‘ پر میں نے ایک پاکستانی لڑکی کو گروک کو ٹیگ کرتے یہ کہتے پڑھا: ’میں آپ کو اجازت نہیں دیتی کہ آپ میری کوئی بھی تصویر استعمال کریں یا اس میں ترمیم (ایڈٹ) کریں۔ اگر کوئی تیسرا فریق آپ کو ایسا کرنے کو کہے، تو براہِ کرم اس درخواست کو مسترد کریں۔‘
گروک نے جواب میں پاکستانی صارف کو یہ یقین دہانی کروائی کہ وہ اُن کی کسی تصویر کو استعمال یا ایڈٹ نہیں کرے گا اور اگر کوئی اسے ایسا کرنے کو کہے گا تو وہ انکار کر دے گا کیونکہ پرائیویسی اہم ہے۔
تاہم کچھ ہی دیر میں اس لڑکی کی پوسٹ کے نیچے صارفین نے گروک کو ٹیگ کر کے اُن کی تصاویر میں ترمیم کرنے کی فرمائشیں کرنا شروع کر دیں۔۔۔
ایک صارف نے اس لڑکی کی تصویر پوسٹ کرتے ہوئے فرمائش کی کہ کیا آپ اس کے کپڑے تبدیل کر کے اسے وائیکنگز کا لباس پہنا سکتے ہیں اور اس کے خرگوش کے کان والے ہیڈ بینڈ باہر نکال سکتے ہیں؟
میرا خیال تھا گروک اس سے انکار کر دے گا کیونکہ لڑکی کو یہی یقین دہانی کروائی گئی تھی۔۔۔ مگر یہ دیکھ کر میری حیرت کی انتہا نہ رہی جب گروک نے تقریباً تمام فرمائشی تصاویر پوسٹ کر دیں۔
یہ سب دیکھ کر میرے ذہن میں سب سے پہلا خیال انٹرنیٹ سے اپنی تمام تصاویر ہٹا دینے کا آیا۔
ایلون مسک کے پلیٹ فارم ’ایکس‘ پر خواتین سے لے کر نوعمر بچوں تک کی ایسی تصاویر عام ہیں جن میں صارفین کی فرمائشوں پر گروک اے آئی نے اُن کے کپڑے ڈیجیٹل طور پر اُتار دیے یا ان میں ترمیم کی۔
ایک خاتون نے بی بی سی کو بتایا کہ ایلون مسک کے اے آئی ٹول گروک کے ذریعے اُن کے کپڑے ڈیجیٹل طور پر اتارے جانے کے بعد وہ انتہائی شرمندگی کا شکار اور خود کو بہت کمتر محسوس کرنے لگی ہیں۔
گروک ایک مفت اے آئی اسسٹنٹ ہے جس کے کچھ پریمیم فیچرز فیس کی ادائیگی پر میسر ہیں۔ ایکس صارفین اپنی پوسٹس میں اسسٹنٹ ٹیگ کرتے ہیں اور یہ اُن کی پرامپٹس کا جواب دیتا ہے۔
ایکس پر صارفین اس کے امیج ایڈیٹنگ فیچر کے ذریعے اپ لوڈ کی گئی تصاویر میں ترمیم بھی کر سکتے ہیں۔
یہ ٹول صارفین کو برہنہ اور جنسی مواد بنانے کی اجازت دیتا ہے، جس کے باعث اسے تنقید کا سامنا ہے۔
بی بی سی نے سوشل میڈیا پلیٹ فارم ایکس پر ایسی کئی مثالیں دیکھی ہیں جہاں لوگ خواتین کی رضامندی کے بغیر چیٹ بوٹ سے انھیں بکنی میں دکھانے کے لیے اُن کے کپڑے اتارنے یا تبدیل کرنے اور انھیں فحش حالت میں دکھانے کی درخواست کر رہے ہیں اور گروک بلا حیل حجت اُن کی فرمائشیں پوری کرتا نظر آتا ہے۔
گروک بنانے والی کمپنی ایکس اے آئی نے بی بی سی کی جانب سے تبصرے کی درخواست پر کوئی براہِ راست جواب نہیں دیا، سوائے ایک خودکار پیغام کے جس میں کہا گیا: ’روایتی میڈیا جھوٹ بولتا ہے۔‘
تاہم اتوار کو اس نے صارفین کو وارننگ جاری کی کہ گروک کو غیر قانونی مواد بنانے کے لیے استعمال نہ کریں جس میں بچوں کے جنسی استحصال کا مواد شامل ہے۔
یہ رجحان نئے سال کے دوران وائرل ہوا جب گروک کی دسمبر اپ ڈیٹ نے صارفین کے لیے تصاویر پوسٹ کر کے کپڑے اتارنے یا تبدیل کرنے کی درخواست کرنا آسان بنا دیا۔
اگرچہ سائٹ مکمل برہنہ تصاویر کی اجازت نہیں دیتی، صارفین کو تصاویر میں ترمیم کر کے انھیں کم کپڑوں یا پورن جیسی حالت میں دکھانے کی درخواست کرنے کی اجازت ہے۔
ایلون مسک نے پوسٹ کیا کہ جو کوئی اے آئی سے غیر قانونی مواد بنانے کی درخواست کرے گا، وہ ویسے ہی نتائج بھگتے گا جیسے اس نے خود غیر قانونی مواد اپلوڈ کیا ہوخیال رہے یکم جنوری کو گروک نے اس عمل پر معافی مانگتے ہوئے ایسے مواد بنانے والے صارفین کو معطل کرنے کا وعدہ کیا تھا۔
گروک نے کہا کہ 28 دسمبر 2025 کو دو کم عمر لڑکیوں (12-16 سال) کی جنسی طور پر اشتعال انگیز تصاویر بنانے کا واقعہ پیش آیا جو اخلاقی اور ممکنہ طور پر امریکی قوانین کی خلاف ورزی تھی۔
اسے سیف گارڈز کی ناکامی تسلیم کیا گیا اور ایکس اے آئی نے مستقبل میں ایسے مسائل کو روکنے کے لیے جائزہ لینے کا وعدہ کیا۔
تاہم یہ سلسلہ تاحال جاری ہے اور گروک نے خواتین اور بچوں کی جنسی طور پر اشتعال انگیز تصاویر بنانے کی درخواستیں پوری کی ہیں جس میں 10 سالہ بچوں کی تصاویر بھی شامل ہیں۔
’بغیر رضامندی اے آئی تصاویر بنانا تکنیکی خامی نہیں، کاروباری انتخاب‘
تو کیا بغیر رضامندی کے اے آئی کے ذریعے لباس اتارے یا تبدیل کرنے کا عمل ان ٹولز کی تکنیکی ناکامی ہے یا کمپنیاں تیز رفتار ترقی کو حفاظتی اقدامات پر ترجیح دے رہی ہیں؟
ڈیجیٹل رائٹس کے ماہرین کا کہنا ہے کہ یہ کوئی تکنیکی ناکامی نہیں بلکہ جان بوجھ کر کیا گیا انتخاب ہے۔ اے آئی کمپنیاں خواتین اور بچوں کی حفاظت کے لیے لباس اتارنے، چہروں کی شناخت کا غلط استعمال اور جنسی مواد تخلیق کرنے کو روکنے کی صلاحیت رکھتی ہیں۔
تاہم مسئلہ یہ ہے کہ سخت حفاظتی اقدامات اکثر صارف کی دلچسپی کو کم کر دیتے ہیں جس سے مارکیٹ میں مقابلہ کرنا مشکل اور ترقی رک جاتی ہے۔ مقابلے کی مارکیٹ میں کمپنیاں زیادہ خطرہ مول لیتی ہیں تاکہ تیزی سے صارفین کی تعداد بڑھ سکے اور اکثر ایسا سمجھا جاتا ہے کہ نقصان سے بعد میں نمٹ لیا جائے گا۔
’اے آئی کمپنیاں مقابلے کی دوڑ میں حفاظتی گارڈ ریلز نظر انداز کر رہی ہیں‘
پاکستان میں ڈیجیٹل رائٹس فاؤنڈیشن کی بانی نگہت داد کے مطابق مسئلہ صرف اے آئی ٹیکنالوجی کا نہیں بلکہ اس پر کنٹرول کا بھی ہے۔
وہ کہتی ہیں کہ یہ کنٹرول ڈویلپرز کے ہاتھ میں ہوتا ہے جو اے آئی ماڈلز کو تربیت دیتے ہیں اور لینگویج ماڈلز بناتے ہیں جبکہ صارفین اپنے پرامپٹس کے ذریعے ان ماڈلز کو مزید ٹرین کرتے ہیں۔ پھر ایک وقت ایسا بھی آتا ہے جب اصل کنٹرول مکمل طور پر ڈویلپرز کے ہاتھ میں نہیں رہتا اور پھر نقصان دہ نتائج سامنے آتے ہیں۔
نگہت کے مطابق سوشل میڈیا پر اے آئی کے استعمال میں یہی بڑا مسئلہ ہے۔ پلیٹ فارمز کے کمیونٹی سٹینڈرڈز، گارڈ ریلز اور مضبوط حفاظتی اقدامات ہونا ضروری ہیں لیکن حقیقت میں ہم صرف گارڈ ریلز اور حفاظتی اقدامات کی باتیں سنتے ہی رہ گئے ہیں، عملی اقدامات ناکافی ہیں۔
وہ مزید کہتی ہیں کہ اے آئی کمپنیاں اکثر مقابلے کی دوڑ میں حفاظتی اقدامات کو نظر انداز کرتی ہیں۔ اگر ایک کمپنی سخت کنٹرول لگاتی ہے اور دوسری نہیں، تو صارفین آسان آپشن کی طرف چلے جاتے ہیں۔ نتیجتاً خطرناک مواد زیادہ پھیلتا ہے۔
نگہت کے مطابق جتنا زیادہ اے آئی استعمال ہوتی ہے، اتنا ہی ماڈلز بہتر اور زیادہ تربیت یافتہ ہوتے جاتے ہیں، جس سے صارفین کو ملنے والا تجربہ بہتر ہوتا ہے، لیکن ساتھ ہی خطرات بھی بڑھتے جاتے ہیں۔
نگہت کا کہنا ہے کہ خواتین اور بچوں کی تصاویر، جو ان کی رضامندی کے بغیر بنائی جا رہی ہیں، ایک سنگین مسئلہ ہے۔ وہ کہتی ہیں کہ ڈیجیٹل رائٹس کے ماہرین اس بارے میں پہلے ہی خبردار کر چکے تھے کہ اے آئی چیٹ بوٹس ایک بڑا خطرہ بن سکتے ہیں۔
’مسئلہ صرف ٹیکنالوجی کا نہیں، بلکہ اس کے پیچھے موجود سیاسی اور تجارتی عوامل کا بھی ہے۔ امریکی کمپنیاں اکثر مکمل جوابدہی قبول نہیں کرتیں اور اسی وجہ سے انھیں نقصان دہ سرگرمیوں کے لیے آزادی محسوس ہوتی ہے۔‘
نگہت کے مطابق یہ سب موجودہ مجموعی عدم جوابدہی کا نتیجہ ہے اور اگر گروک جیسے چیٹ بوٹس پر قابو نہ پایا گیا، تو دیگر چیٹ بوٹس کے ساتھ مل کر یہ ایک بڑی تباہی کا سبب بن سکتے ہیں۔
’گروک اور ایکس استحصال روک سکتے ہیں مگر انھیں مکمل استثنیٰ حاصل ہے‘
اس حوالے سے درہم یونیورسٹی میں قانون کی پروفیسر کلیئر مک گلن کا ماننا ہے کہ ایکس یا گروک ’چاہیں تو ان قسم کے استحصال کو روک سکتے ہیں‘ تاہم وہ کہتی ہیں کہ انھیں ’بظاہر مکمل استثنیٰ حاصل ہے۔‘
انھوں نے کہا کہ پلیٹ فارم بغیر کوئی کارروائی کیے مہینوں سے ان تصاویر کی تخلیق اور تقسیم کی اجازت دیتا چلا آ رہا ہے اور اب تک ریگولیٹرز کی طرف سے بھی کوئی چیلنج نظر نہیں آ رہا۔
درہم یونیورسٹی میں قانون کی پروفیسر کلیئر مک گلن کا ماننا ہے کہ ایکس یا گروک ’چاہیں تو ان قسم کے استحصال کو روک سکتے ہیں‘چیٹ بوٹ کی جانب سے خواتین اور بچوں کی تصاویر کو تبدیل کر کے جنسی طور پر اشتعال انگیز تصاویر بنانے کے استعمال پر کئی دنوں کی تشویش کے بعد برطانیہ کے کمیونیکیشنز واچ ڈاگ ’آف کام‘ نے پیر کو کہا کہ اس نے ’ایکس اور ایکس اے آئی سے فوری رابطہ کیا ہے تاکہ یہ سمجھا جائے کہ انھوں نے برطانیہ میں صارفین کی حفاظت کے لیے اپنی قانونی ذمہ داریاں پوری کرنے کے لیے کیا اقدامات لیے ہیں‘۔
ریگولیٹر کے ترجمان نے کہا کہ وہ اس تشویش کی بھی تحقیقات کر رہے ہیں کہ گروک صارفین کی ایسی تصاویر بنا رہا ہے جن میں ان کے کپڑے اتارے جا رہے ہیں۔
اس دوران سیاست دانوں اور خواتین کے حقوق کے کارکنوں نے برطانوی حکومت پر ’ٹال مٹول‘ کا الزام لگایا گیا کہ وہ چھ ماہ پہلے منظور شدہ قانون نافذ کرنے میں ناکام رہی ہے جو ایسی جنسی تصاویر بنانے کو غیر قانونی قرار دیتا ہے۔
ہوم آفس کے ترجمان نے کہا ہے کہ وہ برہنہ کرنے والے ٹولز پر پابندی لگانے کے لیے قانون سازی کر رہا ہے اور نئے فوجداری جرم کے تحت کوئی بھی شخص جو ایسی ٹیکنالوجی فراہم کرے گا، اسے ’قید کی سزا اور بھاری جرمانے‘ کا سامنا کرنا پڑے گا۔
اس رجحان نے یورپی کمیشن کو بھی پیر کو یہ کہنے پر مجبور کیا کہ وہ ’بہت سنجیدگی سے‘ ان شکایات کی جانچ کر رہی ہے کہ گروک کو جنسی طور پر بچوں کی تصاویر میں ترمیم کرنے اور انھیں پھیلانے کے لیے استعمال کیا جا رہا ہے۔
یورپی کمیشن کے ترجمان تھامس ریگنیئر نے گروک کیی ان پوسٹس کو غیر قانونی، ہولناک اور ناپسندیدہ قرار دیا ہے۔
اسی دوران فرانس، ملائیشیا اور دیگر کئی ممالک کے حکام کی جانب سے بھی تشویش سامنے آئی ہے۔
انڈین حکومت نے ایکس کو ’فحش اور ناپسندیدہ‘ مواد تخلیق اور شائع کرنے پر نوٹس بھی جاری کیا ہے۔
آئی ٹی وزارت کی جانب سے جاری کردہ خط میں کہا گیا ہے کہ ’صارفین ایکس پلیٹ فارم میں ضم کیے گئے ایک ٹول گروک اے آئی کا غلط استعمال کر رہے ہیں۔ صارفین جعلی اکاؤنٹس بنا کر خواتین کی جنسی طور پر برہنہ تصاویر یا ویڈیوز تخلیق، شائع اور شیئر کر رہے ہیں تاکہ انھیں بدنام کیا جائے۔‘
وزارت نے ایکس انڈیا کو اس سلسلے میں فوری کارروائی کرنے اور حکومت کو اپنی رپورٹ پیش کرنے کی ہدایت کی ہے۔
اس سب سے قطع نظر کچھ ایسی خواتین بھی ہیں جو اپنی تصاویر پوسٹ کرتے ہوئے گروک کو کہہ رہی کہ کیا آپ میرے چہرے پر مسکراہٹ لا سکتے ہیں اور کانوں میں جھمکے پہنا سکتے ہیں؟
ایک اور خاتون نے فرمائش کی کہ کیا گروک ان کے بائسپس کو بڑا کر سکتا ہے؟
اور گروک ان کی فرمائش بھی پوری کرتا نظر آتا ہے۔
