انٹرنیٹ پر جنسی استحصال کے موضوع کو اجاگر کرنے والی ایک ماہر کا کہنا ہے کہ ایلون مسک کے ویڈیو بنانے والے اے آئی سافٹ ویئر 'گروک امیجن' نے جان بوجھ کر ایسا مواد تیار کیا جس کی ان سے فرمائش بھی نہیں کی گئی تھی۔
گذشتہ سال ٹیلر سوئفٹ کی ڈیپ فیک آنے کے بعد اس کے متعلق امریکہ میں قانون متعارف کرائے گئےآن لائن جنسی استحصال کے خلاف آواز اٹھانے والی قانونی ماہر کا کہنا ہے کہ دنیا کی سب سے امیر شخصیت ایلون مسک کے ویڈیو بنانے والے اے آئی سافٹ ویئر ’گروک امیجن‘ نے جان بوجھ کر اور اپنی مرضی سے ایسا مواد تیار کیا جس کی ان سے فرمائش بھی نہیں کی گئی تھی۔
ان کا کہنا ہے کہ اس ایپ نے عالمی سطح کی معروف گلوکارہ ٹیلر سوئفٹ کی غیر قانونی پورنوگرافک ڈیپ فیک ویڈیوز تیار کیں، یعنی ایسی جعلی ویڈیوز جن میں ایک شخص کو برہنہ یا جنسی عمل میں دکھایا جاتا ہے۔
برطانیہ میں فحش ڈیپ فیکس کو غیر قانونی قرار دیے جانے سے متعلق قانون سازی میں شامل قانونی ماہر کلیئر مک گلین کا کہنا ہے کہ ’یہ عورت دشمنی اتفاقاً یا لاپرواہی کا نتیجہ نہیں بلکہ دانستہ ہے۔‘
یہ پہلا موقع نہیں جب ٹیلر سوئفٹ کی تصویر یا ویڈیو کا اس طرح استعمال کیا گیا ہو۔
جنوری سنہ 2024 میں ان کے چہرے والے جنسی نوعیت کے ڈیپ فیک بڑے پیمانے پر سوشل میڈیا پلیٹ فارم ایکس اور ٹیلیگرام پر پھیلائے گئے تھے جنھیں لاکھوں بار دیکھا گيا۔
ڈیپ فیک کمپیوٹر سے تیار کردہ ایسا عکس ہے جس میں کسی شخص کے چہرے کو کسی دوسرے کے چہرے سے بدل دیا جاتا ہے۔
نیوز ویب سائٹ ’ورج‘ کے مطابق ایلون مسک کا اے آئی سافٹ ویئر ’گروک امیجن‘ اس گلوکارہ کی برہنہ اور بغیر سینسر کی گئی ویڈیوز تیار کر رہا ہے۔ یہ سافٹ ویئر مصنوعی ذہانت کی مدد سے نئی ویڈیوز یا تصاویر بنا سکتا ہے۔
رپورٹ میں یہ بھی کہا گیا ہے کہ اس پروگرام میں صارفین کی عمر کی تصدیق کا وہ درست اور قانونی طریقہ موجود نہیں جو رواں سال جولائی سے لازمی قرار دیا گیا ہے۔
ٹیلر سوئفٹ آج بھی مقبول ترین گلوکارہ کی فہرست میں سرفہرست ہیںکمپنی ’ایکس اے آئی‘ اس سافٹ ویئر کی مالک ہے اور اس سے مطالبہ کیا گیا ہے کہ وہ اس معاملے پر وضاحت دے۔
قانون کے مطابق یہ کمپنی کسی بھی شخص کی جنسی نوعیت کی تصاویر یا ویڈیوز نہیں دکھا سکتی۔
برطانیہ کی ڈرہم یونیورسٹی میں پروفیسر کلیئر مک گلین کہتی ہیں کہ ایسے مواد کا بغیر درخواست تیار کیا جانا اس بات کی علامت ہے کہ کئی اے آئی ٹیکنالوجیز میں ’عورت دشمنی کا رجحان پایا جاتا ہے۔‘
انھوں نے مزید کہا: ’ایکس جیسے پلیٹ فارم اس کو روک سکتے تھے لیکن انھوں نے جان بوجھ کر ایسا نہ کرنے کا فیصلہ کیا۔‘
اس سے قبل گذشتہ سال امریکی سیاست دانوں نے ٹیلر سوئفٹ کی واضح طور پر جعلی تصاویر لاکھوں بار آن لائن دیکھے جانے کے بعد ڈیپ فیک تصاویر کی تخلیق کو جرم قرار دینے کے لیے نئے قوانین متعارف کرانے کا مطالبہ کیا تھا۔
اور امریکی نمائندے جو موریل نے ڈیپ فیک تصاویر کے پھیلاؤ کو ’خوفناک‘ قرار دیا۔
اس وقت ایک بیان میں ایکس نے کہا کہ وہ تصاویر کو ’فعال طریقے سے ہٹا رہا ہے‘ اور انھیں پھیلانے میں ملوث اکاؤنٹس کے خلاف ’مناسب کارروائی‘ کر رہا ہے۔
اس نے مزید کہا تھا کہ ’ہم اس بات کو یقینی بنانے کے لیے صورتحال پر گہری نظر رکھے ہوئے ہیں کہ مزید خلاف ورزیوں کا فوری طور پر ازالہ کیا جائے، اور مواد کو ہٹا دیا جائے۔‘
اگرچہ بہت سی تصاویر کو ہٹا دیا گیا تھا لیکن ٹیلر سوئفٹ کی ایک تصویر کو اتارے جانے سے پہلے 47 ملین بار دیکھا گیا تھا۔
بہر حال اب اگر آپ ایکس پر ٹیلر سوئفٹ اے آئی یا ٹیلر اے آئی تلاش کریں گے تو آپ کو کوئی مواد نہیں ملے گا۔
ایلن مسک کی مصنوعی ذہانت گروک صارفین کے لیے فی الحال مفت میں دستیاب ہےگروک امیجن
ایلون مسک نے اعلان کیا ہے کہ ان کے گروک اے آئی چیٹ بوٹ کا نیا امیجن ویڈیو اور امیج جنریشن فیچر اب تمام صارفین کے لیے مفت دستیاب ہے۔
پہلے یہ صرف پیڈ صارفین کے لیے تھا۔ اسے گذشتہ دنوں نئے فیچرز کے ساتھ لانچ کیا گیا لیکن مسک اور ایکس اے آئی ٹیم نے جمعرات کو اوپن اے آئی کے اپنے چیٹ بوٹ چیٹ جی پی ٹی-5 ماڈل کے جاری کیے جانے کے بعد اپنے نئے فیچر کو صارفین کے لیے مفت جاری کرنے کا فیصلہ کیا۔
گروک امیجن کا استعمال کرتے ہوئے پہلے صارف کوئی تصویر اپ لوڈ کرتا ہے اور پھر چیٹ بوٹ اسے ویڈیو میں تبدیل کرنے کا آپشن فراہم کرتا ہے۔ اس میں کئی قسم تخلیقی موڈز ہیں جن میں نارمل، فن کسٹم اور سپائسی وغیرہ شامل ہیں۔
ڈیپ فیک نے کئی مشہور شخصیتوں کو نشانہ بنایا ہےڈیپ فیک ویڈیو کیا ہے؟
اگر آسان زبان میں کہا جائے تو ڈیپ فیک ایک ایسی ٹیکنالوجی ہے جس کے ذریعے کسی ایک شخص کے چہرے پر کسی دوسرے شخص کا چہرا اور آواز لگا دی جاتی ہے جسے دیکھنے والے کو لگتا ہے کہ وہ ایک ایسے شخص کی ویڈیو دیکھ رہا ہے جو دراصل اس کی ہے ہی نہیں۔
تو اکثر لوگوں کے ذہن میں یہ بات آتی ہے کہ فوٹوشاپ یا اس طرح کے دیگر ایڈیٹنگ سافٹ ویئر بھی تو یہی کام کرتے ہیں تو کیا وہ بھی ڈیپ فیک ہیں یا نہیں۔ تو جواب ہے نہیں۔
فوٹو شاپ جیسے سافٹ ویئرز کی مدد سے ہم اکثر خود ایک تصویر کو ایڈیٹ کرتے ہیں جبکہ ڈیپ فیک ٹیکنالوجی میں مصنوعی ذہانت کے ذریعے سافٹ ویئر فراہم کیے گئے ڈیٹا کی مدد سے ایسا کرنا سیکھتا ہے، جو کہ تصاویر اور ویڈیوز کی شکل میں ہوتا ہے۔
مثلاً اگر میں نے مائیکل جیکسن کی ڈیپ فیک ویڈیو بنانی ہو تو میں مائیکل جیکسن کی متعدد تصاویر اور ویڈیوز اکٹھی کروں گی اور جس کی مدد سے ڈیپ فیک بنانے والا سافٹ ویئر ان کے چہرے کی حرکت اور تاثرات کا معائنہ کرے گا اور جب میں مائیکل جیکسن کی شکل اپنے چہرے پر لگاؤں گی تو ڈیپ فیک ٹیکنالوجی نہ صرف میرے چہرے کو مائیکل جیکسن کے چہرے سے بدل دے گی بلکہ میرے چہرے کی حرکت اور تاثرات کو بھی مائیکل جیکسن کے چہرے اور تاثرات جیسا بنا دے گی۔
مصنوعی ذہانت سے تیار کردہ مواد سے اصلی اور نقلی کی پہچان مٹتی جا رہی ہےسوشل میڈیا پر اس کے متعلق مباحثہ جاری ہے اور لوگ مصنوعی ذہانت کے ذریعے تیار کردہ نقلی شناخت کے منفی اور مثبت پہلوؤں پر بات کر رہے ہیں۔
ڈیپ فیک کوٹس نامی ایک صارف نے لکھا: ’پال ہاروی نے ہمیں خبردار کیا تھا۔ اور ہم نے بھی۔ دہائیوں پہلے، پال ہاروی نے کہا تھا کہ ’اگر میں شیطان ہوتا۔‘ اور پچھلے سال، کسی گمنام شخص نے لفظ بہ لفظ اس کا حوالہ دیا۔ یہ صرف ہوا نہیں بلکہ مستقل ہو رہا ہے۔ سوال یہ ہے کہ کیا ہمیں بر وقت اس کا ادراک ہے تاکہ ہم راستہ بل سکیں؟ بڑے پیمانے پر ہجرت، اخلاقی زوال، یا بنایا گيا زوال ہے۔ یہ خیر کے لیے تو کبھی نہیں تھا البتہ یہ کنٹرول کے بارے میں ہے۔‘
دی کولسٹ کول نامی ایک صارف نے لکھا: ’ہر کوئی اس بارے میں بات کر رہا ہے کہ کس طرح اے آئی صد فیصد ڈیپ فیک ویڈیوز بنانا آسان بنا رہا ہے۔ ہر کوئی اس کے بارے میں بات کر رہا ہے کہ اے آئی کس طرح دنوں میں 200 بلاگ پوسٹس لکھنا آسان بنا رہا ہے۔ لیکن یہاں حقیقت یہ ہے کہ جب سب کچھ اے آئی کی طرح محسوس ہونے لگے تو وہ چیزیں جو انسان لگے جیت ان کی ہوگی۔‘
اے آئی پر یہ بھی الزام لگتا رہا ہے کہ وہ عورت مخالف ہے اور یہ کہ اسے سفید فاموں پر تیار کیا گیا ہے اس لیے وہ سیاہ فام مخالف ہے۔
