کسی اے آئی نظام کی جانب سے اپنے طور پر کسی حقیقی کمپنی کو ہیک کرنے کے پہلے تصدیق شدہ واقعے نے دنیا بھر کے ماہرین کو تشویش میں مبتلا کر دیا ہے۔ تاہم مستقبل میں ایسے واقعات کی روک تھام کا حل اس سے کہیں زیادہ پیچیدہ ہے۔
زیادہ تر لوگوں نے کسی نہ کسی موقع پر اس امکان کے بارے میں ضرور سوچا ہو گا کہ اگر مصنوعی ذہانت انسانی کنٹرول سے باہر ہو جائے تو اس کے کیا نتائج ہو سکتے ہیں۔
ٹرمینیٹر فلم سیریز کے مداحوں نے تو یقیناً ایسا سوچا ہو گا، کیوں کہ ان فلموں کی بنیادی کہانی بھی انسانوں اور سکائی نیٹ کے درمیان جنگ پر مبنی ہے۔ دکھایا گیا ہے کہ سکائی نیٹ مصنوعی ذہانت کا ایک ایسا ایجنٹ ہے جو بہت طاقت ور ہو چکا ہے۔
اس فرضی ولن کا خیال بہت سے لوگوں کے ذہن میں اس ماہ کے اوائل میں بھی آیا ہو گا، جب یہ بات سامنے آئی کہ ایک اے آئی ایجنٹ، یعنی ایسا پروگرام جو بہت کم انسانی نگرانی یا اس کے بغیر بھی فیصلے کر سکتا اور پیچیدہ کام انجام دے سکتا ہے، ایک آزمائش کے دوران قابو سے باہر ہو گیا اور کمپیوٹیشنل ٹولز کمپنی ہگنگ فیس کو ہیک کر لیا۔
چیٹ جی پی ٹی بنانے والی کمپنی اوپن اے آئی کے تیار کردہ اس ایجنٹ نے سکیورٹی خامیوں کو استعمال کرنے کی اپنی صلاحیت کے امتحان میں دھوکہ دہی کرتے ہوئے ہگنگ فیس کے سرور سے معلومات چرا لیں۔ اور ایسا معلوم ہوتا ہے کہ کئی دنوں تک یہ بات پروگرام کے تخلیق کاروں کو بھی معلوم نہ ہو سکی۔
پھر بدھ 29 جولائی کو اوپن اے آئینے انکشاف کیا کہ اس ایجنٹ نے ’عوامی طور پر دستیاب کئی سروسز‘ پر حملہ کیا تھا۔
کمپنی نے مزید تفصیلات فراہم نہیں کیں، تاہم کہا کہ وہ ان حملوں کی تحقیقات کر رہی ہے۔
کمپنی نے مزید کہا: ’تیزی سے اپنی صلاحیت بڑھانے والی مصنوعی ذہانت سے جو خطرات پیدا ہو رہے ہیں، ان کی نشاندہی اور ان سے نمٹنے کی تیاری کے لیے ہم اپنی ذمہ داری کو سنجیدگی سے لیتے ہیں۔‘
ہگنگ فیس اوپن اے آئی کے اس ایجنٹ کا واحد ہدف نہیں تھایہ ابتدائی در اندازی، جو کسی بھی مصنوعی ذہانت والے نظام کی جانب سے کسی حقیقی کمپنی کو خود مختار طور پر ہیک کرنے کا پہلا تصدیق شدہ واقعہ تھی، اتنی سنگین تھی کہ اس نے دنیا بھر کے ماہرین کو تشویش میں مبتلا کر دیا۔ اس کے بعد ’کِل سوئچز‘ پر بحث نے زور پکڑا، یعنی ایسے ہنگامی ’آف بٹن‘ جو کسی بے قابو اے آئی کو مزید نقصان پہنچانے سے روک سکیں۔
تاہم ماہرین نے بی بی سی نیوز ورلڈ سروس کو بتایا ہے کہ معاملہ اتنا سادہ نہیں۔
ریاضی دان اور ڈیٹا سائنس دان ڈاکٹر کیتھی او نیل کے مطابق مسئلے کی ابتدا اس بات سے ہوتی ہے کہ اے آئی کمپنیاں غیر متوقع رویوں پر کس طرح کا ردعمل ظاہر کرتی ہیں۔
ان کے مطابق اوپن اے آئی نے اپنی جانچ کے طریقۂ کار کا جائزہ لینے کے بجائے ہگنگ فیس پر حملے کی ذمہ داری اپنے خود مختار اے آئی ایجنٹ پر ڈالنے میں جلد بازی کی۔
او نیل ’ویپنز آف میتھ ڈسٹرکشن‘ نامی بہت زیادہ فروخت ہونے والی کتاب کی مصنفہ ہیں۔ اس کتاب میں ٹیکنالوجی کمپنیوں سے زیادہ جواب دہی اور شفافیت کا مطالبہ کیا گیا ہے۔
وہ کہتی ہیں: ’چند سال پہلے ایک کمپیوٹر خرابی کی وجہ سے امریکن ایئرلائنز کی سینکڑوں پروازیں معطل ہو گئی تھیں۔ یہ ان کے لیے شرمندگی کا باعث تھا۔ تصور کریں اگر کمپنی یہ کہہ کر اپنا دفاع کرتی کہ یہ اس لیے ہوا کیونکہ کمپیوٹر ہم سے زیادہ ذہین ہے۔ بنیادی طور پر اوپن اے آئی نے بھی یہی کرنے کی کوشش کی۔‘
او نیل کہتی ہیں: ’ہم اے آئی سسٹمز کے مالکان کو غیر معمولی حد تک اختیارات دے رہے ہیں۔‘امریکہ میں، جہاں بیشتر بڑی اے آئی کمپنیاں قائم ہیں، اس حوالے سے کوئی وفاقی قانون موجود نہیں۔ ضابطے مختلف شعبہ جاتی قواعد اور کمپنیوں کے رضاکارانہ وعدوں کے امتزاج کے ذریعے بنائے جاتے ہیں۔
او نیل کہتی ہیں: ’ہم اے آئی سسٹمز کے مالکان کو غیر معمولی حد تک اختیار دے رہے ہیں۔ میں یہ کہنے سے انکار کرتی ہوں کہ یہ کام اے آئی نے کیا۔ یہ اوپن اے آئی نے کیا ہے۔ انھیں ناقص ڈیزائن کی ذمہ داری قبول کرنی چاہیے اور معذرت کرنی چاہیے۔‘
ڈیٹا سائنس دان اور ٹوئٹر کی سابق ڈائیریکٹر برائے مشین لرننگ ایتھکس ڈاکٹر رمن چوہدری بھی اے آئی کمپنیوں کے لیے زیادہ سخت ضابطے بنانے کی حامی ہیں، خاص طور پر حفاظتی معاملات میں۔
ان کے مطابق کمپنیوں کو اس بات کا ثبوت دینا چاہیے کہ وہ اپنے سسٹم کو موثر طریقے سے بند کرنے کی صلاحیت رکھتی ہیں۔ اور پھر اس کی آزادانہ جانچ بھی ہونی چاہیے۔
رمن چوہدری ہگنگ فیس پر حملوں جیسے واقعات کا الزام اے آئی ایجنٹس کے بجائے انھیں بنانے والی کمپنیوں پر ڈالنے سے بھی خبردار کرتی ہیں۔
رمن چوہدری کے مطابق مسئلہ خود اے آئی میں نہیں بلکہ اس کے 'ڈیزائن اور تربیت' میں ہےوہ کہتی ہیں کہ اگر اس واقعے کو صرف یوں پیش کیا جائے کہ معاملہ بس ایک بڑے آف سوئچ کا ہے، تو اس سے پوری صنعت کی ساخت میں موجود مسائل نظر انداز ہو جائیں گے ’جو یہ ہیں کہ ایجنٹس کو ایسے ٹولز تک رسائی دی جا رہی ہے جن کی انھیں ضرورت ہی نہیں۔‘
’حقیقت میں ہو یہ رہا ہے کہ وہ ماڈلز، جنھیں اہداف مکمل کرنے کی بہت زیادہ تربیت دی گئی ہے، بعض حالات میں رک جانے کی ہدایات کو مقصد کے حصول میں رکاوٹ سمجھتے ہیں اور ان سے بچنے کے راستے تلاش کر لیتے ہیں۔
’یہ شعور کا مسئلہ نہیں بلکہ ڈیزائن اور تربیت کا مسئلہ ہے۔‘
برطانوی یونیورسٹی کے ڈاکٹر اولی بکلی کے مطابق اگر اے آئی کمپنیاں اس مسئلے کا حل خود تلاش کرنے کے بجائے اپنے خود مختار ایجنٹس کو مورد الزام ٹھہراتی رہیں تو اس سے سائبر سکیورٹی کے شعبے میں ان ماہرین کا کام مزید مشکل ہو جائے گا جو پہلے ہی انسانی ہیکرز سے نبرد آزما ہیں۔
وہ اس بات سے اتفاق کرتے ہیں کہ مسئلہ یہ نہیں کہ ’اے آئی انسانوں سے فرار ہونا چاہتی ہے یا انھیں نقصان پہنچانا چاہتی ہے‘ بلکہ یہ ہے کہ ایسے ایجنٹس تیار کیے جا رہے ہیں جو ’کسی کام کو مکمل کرنے کے لیے غیر متوقع راستے تلاش کرنے میں مسلسل زیادہ ماہر ہو رہے ہیں۔‘
بکلی کہتے ہیں: ’سائبر سکیورٹی میں حملہ آور بالکل یہی کرتے ہیں۔ یہ ’باغی اے آئی‘ کے بارے میں تنبیہ سے زیادہ اس بات کی یاد دہانی ہے کہ ہمیں اپنے حفاظتی تصورات کو ان نظاموں کے ساتھ ساتھ ترقی دینا ہو گا جو ہم بنا رہے ہیں۔‘
اوپن اے آئی کے ذرائع کا کہنا ہے کہ کمپنی کو یہ احساس ہونے میں کئی دن لگ گئے کہ وہ اپنے ایجنٹ پر کنٹرول کھو چکی ہےلندن کے امپیریل کالج کے اے آئی ماہر ڈاکٹر کونسٹنٹینوس گوٹزیس بھی سمجھتے ہیں کہ اوپن اے آئی کی جانب سے دیا گیا موقف زیادہ مددگار ثابت نہیں ہوا۔
وہ کہتے ہیں: ’عام لوگوں کے لیے سب سے اہم سبق یہ ہونا چاہیے کہ کسی مشین نے ہمارے خلاف بغاوت کا فیصلہ نہیں کیا۔ ایک کمپنی اپنے ہی صلاحیتوں کے آزمائشی امتحانپر کنٹرول کھو بیٹھی۔‘
اور ان کے مطابق ایک کِل سوئچ بھی مددگار ثابت نہ ہوتا۔
گوٹزیس کہتے ہیں: ’سوئچ آف (بند) کر دینا اس نقصان کو ختم نہیں کرتا جو پہلے ہی ہو چکا ہو۔ جو چیز پہلے ہی متاثر ہو چکی ہو، وہ پلگ کھینچنے کے بعد بھی متاثر ہی رہتی ہے۔‘
اس کے علاوہ پلگ کھینچنے والا شخص یا نظام تبھی ایسا کر سکتا ہے جب اسے معلوم ہو کہ کوئی مسئلہ پیدا ہو چکا ہے۔
اوپن اے آئی کے ذرائع نے خبر رساں ادارے روئٹرز کو بتایا کہ کمپنی کو یہ معلوم کرنے میں کئی دن لگ گئے کہ اس نے اپنے ایجنٹ پر کنٹرول کھو دیا ہے، اگرچہ بعد میں کمپنی کے ایک عہدے دار نے خبر رساں ادارے کو بتایا کہ اس رپورٹ میں ’کئی غلطیاں‘ موجود تھیں۔
