مصنوعی ذہانت کا جن بوتل سے باہر
(Tariq Zafar Khan, Karachi)
اے آئی جو کچھ کرنے جا رہی ہے یا کرے گی وہ بعید از قیاس ہے۔ جو ایک ہولناک تصور بھی ہے اور مستقبل کے
بارے میں ایسی ناقابلِ قیاس حقیقت جو بہت سے شکوک وشبہات رکھتی ہے۔
، اس ٹیکنالوجی کی ترقی کی رفتار کے ساتھ قدم نہیں ملا پا رہی ہے۔ |
|
ذہانت
تحریر : طارق ظفر خان
اے آئی کا جن بوتل سے باہر نکل آیا ہے۔ کیا اس جن کو بوتل میں واپس بند کیا جا سکتا ہے ۔۔ یہ ایک عظیم سوال ہے۔
اے آئی کے مضمرات جو حیرت انگیز اور دلچسپ ہیں:
١- کمپیوٹر پروگرام جسے اب کوڈ کہا جاتا ہے کسی مسئلہ کو حل کرنے کے لیے لکھا جاتا ہے ۔ مثلاً کسی فارمولے
میں معلوم ڈیٹا فیڈ کر کے کسی نامعلوم متغیر کی قیمت معلوم کرنا ۔ یا کسی تغیر پذیر عمل کا رجحان جاننا ، بہت
پیچیدہ اور مشکل سوالات حل کرنا وغیرہ وغیرہ
٢-کمپیوٹر پروگرامنگ میں اب اتنی ترقی ہو چکی ہے کہ کروڑوں پروگراموں کا نچوڑ کسی ایک پروگرام میں
استعمال کیا جا سکتا ہے۔
یہ سپر پروگرام یا اے آئی کسی بھی مسئلہ یا سوال کو حل کرنے کے لیے دنیا کی ساری معلومات کھنگال کے اور اب
تک بنائے گئے کروڑوں پروگراموں میں سے لاکھوں پروگراموں اور معلومات کو علم امکان کی بنیاد پر چنتا ہے اور
اس عظیم معلومات کے ماؤنٹ ایورسٹ کو استعمال کرتے ہوئے کوئی رد عمل یا جواب تیار کرتا ہے ۔
آج کے کمپیوٹر کی سپر فاسٹ اسپیڈ کی وجہ سے یہ کام چند سیکنڈوں میں انجام پا جاتا ہے ۔
٣- ایک حیران کن پہلو یہ ہے کہ یہی سپر پروگرام جن جگہوں پر جا کر جس بھی پروگرام یا معلومات کا انتخاب کرے
وہ کسی کو معلوم نہیں ۔ پروگرام بنانے والے نے کمپیوٹر کو یہ تو بتا دیا ہے کہ کیسے دنیا کی ساری معلومات کی
کھوج کر کے اور اس کے متعلقہ پروگراموں کو استعمال کر کے ایک حل یا جواب تیار کیا جائے، لیکن پروگرامر کو
یہ معلوم نہیں کہ یہ معلومات یا ڈیٹا کہاں اور کتنا ہے اور یہ کہ کمپیوٹر اسے علمِ امکان کو استعمال کر کے کیسے
حاصل کرے گا اور کیا جواب تیار کرے گا ۔
٤- سب سے زیادہ قابلِ غور پہلو یہ ہے کہ پروگرام یا اے آئی کو یہ سکھا دیا گیا ہے کہ وہ نئی معلومات اور ڈیٹا سے
اپنے آپ کو آپ ڈیٹ کرتا رہے اور اور اپنی کارکردگی کو بہتر بناتا رہے۔
اب یہ بات معلوم کرنا ناممکن ہے کہ کمپیوٹر نے کتنا اپڈیٹ کر لیا ہے اور کیسے اور کتنی بہتری اختیار کر لی ہے ۔
کیونکہ ہر وقت دنیا میں نیا ڈیٹا اور نئی معلومات فیڈ کی جاتی رہتی ہیں اس لئیے کسی کو بھی ان کا مکمل علم نہیں ہو
سکتا، لیکن اے آئی کی پہنچ ہر علم اور ڈیٹا تک ہے اور وہ ان کو استعمال کرکے اپنے آپ کو ہر لحظہ تیار کرنے
کے لیے مستعد رہتا ہے ۔
اور یہ بھی نہیں جانا جا سکتا کہ اے آئی کتنا مہیب، با اختیار اور طاقتور ہو چکا ہے۔۔لہٰذہ اے آئی کے کسی بھی عمل
یا رد عمل کی کوئی پیش گوئی نہیں کی جا سکتی ۔۔ یہی حقیقت اے آئی کو ناقابلِ یقین حد تک آزاد اور خودمختار بناتی
ہے، جس سے بڑے بڑے سائنسدان اور کمپیوٹر ماہرین خوف زدہ ہیں ۔
اے آئی سے تعلق رکھنے والے کچھ جید علماء کی رائے اور خدشات یہ ہیں:
جیفری ہنٹن
Geoffrey Hinton
نیورل نیٹ ورک ؛ سابق گوگل محقق
مستقبل میں AI انسانوں سے زیادہ ذہین ہو سکتی ہے اور اسے قابو میں رکھنا مشکل ہو سکتا ہے۔
یوشوا بینجیو
Yoshua Bengio
ڈیپ لرننگ کے ماہر؛ ٹورنگ ایوارڈ یافتہ
انتہائی ترقی یافتہ اے آئی خطرناک صلاحیتیں حاصل کر سکتی ہے اور انسان اس پر اپنا کنٹرول کھو سکتے ہیں۔
اسٹورٹ رسل
Stuart Russell
یونیورسٹی آف کیلیفورنیا، پروفیسر
اے آئی ایسے مقاصد حاصل کرنے کی کوشش کر سکتی ہے جو انسانی مفادات سے متصادم ہوں۔
میکس ٹیگ مارک
Max Tegmark
, طبیعیات دان AI محقق
اے آئی کے بہت زیادہ طاقتور ہونے کے بعد انسانوں کا اس پر کنٹرول ختم ہونے کا خطرہ۔
نِک بوسٹروم
Nick Bostrom
آکسفورڈ کے فلسفی
اگر سپر انٹیلیجنس کے مقاصد انسانی مفادات کے مطابق نہ ہوں تو یہ انسانیت کے وجود کے لیے خطرہ بن سکتی ہے۔
ایلیزر یودکووسکی
Eliezer Yudkowsky
اے آئی سیفٹی کے محقق
انتہائی ترقی یافتہ اے آئی اگر مناسب حفاظتی اقدامات کے بغیر بنائی گئی، تو انسانیت کے خاتمے کا سبب بن سکتی
ہے۔
ڈاریو اموڈی (Dario Amodei)
Anthropic
کے سربراہ اور AI محقق
طاقتور AI حیاتیاتی، سائبر، سیاسی اور دیگر بڑے پیمانے کے خطرات پیدا کر سکتی ہے۔
ڈینیئل کوکوٹاجلو
Daniel Kokotajlo
سابق
OpenAI محقق
تشویش کی کمپنیاں حفاظتی اقدامات کے مقابلے میں انتہائی اے آئی کی تیاری کی طرف بہت تیزی سے بڑھ رہی ہیں۔
مرینانک شرما
Mrinank Sharma
سابق
Anthropic AI سیفٹی محقق
انسانیت کی طاقتور اے آئی
کو قابو میں رکھنے کی صلاحیت، اے آئی
کی ترقی کی رفتار کے ساتھ نہیں بڑھ رہی۔
جیفری ہنٹن کا معاملہ بہت اہم ہے، کیونکہ وہ خود اُن سائنس دانوں میں شامل ہیں جنہوں نے وہ ٹیکنالوجی تیار کرنے
میں بنیادی کردار ادا کیا جس پر آج کی جدید AI قائم ہے۔ بعد میں وہ اسی ٹیکنالوجی کے ممکنہ خطرات کے سب سے
نمایاں ناقدین میں شامل ہو گئے۔
جیفری ہنٹن — 2023 میں گوگل چھوڑ دیا اور پھر خبردار کیا کہ مصنوعی ذہانت بالآخر انسانیت کے لیے خطرہ بن
سکتی ہے۔ انہیں "اے آئی
کا گاڈ فادر" کہا جاتا ہے۔
انہوں نے 2023 میں گوگل کو خاص طور پر اس لیے چھوڑا تاکہ وہ مصنوعی ذہانت کے خطرات کے بارے میں
زیادہ کھل کر بات کر سکیں۔ انہوں نے جن خطرات سے خبردار کیا ان میں شامل ہیں:
اے آئی کا انسانوں سے زیادہ قابل ہو جانا
غلط معلومات
misinformation
روزگار کا خاتمہ
اور بالآخر انسانیت کو درپیش وجودی خطرات۔
واشنگٹن پوسٹ
ہنٹن کی اہمیت اس لیے بھی بہت زیادہ ہے کیونکہ وہ ان اولین ماہرین میں شامل تھے جنہوں نے جدید اے آئی کی بنیاد
بننے والی 'نیورل نیٹ ورک' ٹیکنالوجی کی تخلیق میں اہم کردار ادا کیا۔
یوشوا بینجیو بھی انتہائی اہم شخصیت ہیں۔ وہ ہنٹن اور یان لیکَن
Yann LeCun
کے ساتھ 2018 کا ٹورنگ ایوارڈ حاصل کر چکے ہیں۔ یہ تینوں جدید ڈیپ لرننگ کے بنیادی معمار سمجھے جاتے
ہیں۔
ایک اہم بات یہ ہے کہ ان تمام ماہرین کا مؤقف ایک جیسا نہیں ہے۔ سب یہ نہیں سمجھتے کہ AI لازماً انسانیت کو تباہ
کر دے گی۔ کچھ ماہرین کا زور فوری خطرات پر ہے، مثلاً:
جعلی معلومات اور گمراہ کن مواد
سائبر حملے
خودکار ہتھیار
روزگار پر اثرات
طاقت کا چند کمپنیوں یا اداروں میں ارتکاز
اور سب سے بڑھ کر انسانوں کا انتہائی طاقتور AI پر کنٹرول کھو دینا
جیکب کوکسن —
یہ سب سے حالیہ اور نمایاں معاملہ ہے۔ کوکسن نے تقریباً تین سال تک OpenAI اور Anthropic میں AI کی 'پری
ٹریننگ' (ابتدائی تربیت) پر کام کیا۔
انہوں نے ستمبر 2026 میں
Anthropic
سے استعفیٰ دیتے ہوئے کہا کہ یہ کمپنیاں مناسب حفاظتی اقدامات کے بغیر 'خود کو بہتر بنانے والی سپر انٹیلی جنس'
کی دوڑ میں لگی ہوئی ہیں
ٹیک کرنچ
TechCrunch
انہوں نے دلیل دی کہ جدید AI تیار کرنے والے افراد خود اس بات کے قائل ہیں کہ یہ ٹیکنالوجی ممکنہ طور پر اسی
دہائی کے اندر انسانیت کو تباہ کن نقصان پہنچا سکتی ہے۔ انہوں نے AI کمپنیوں کے درمیان جاری مقابلے کو "ہماری
زندگیوں کے ساتھ جوا کھیلنے" کے مترادف بھی قرار دیا۔
مرینانک شرما — ،
2026
شرما 'اینتھروپک' (
) میں مصنوعی ذہانت
(AI) کی حفاظت سے متعلق امور کے محقق تھے۔ انہوں نے فروری 2026 میں استعفیٰ دیا اور لکھا کہ "دنیا خطرے
سے دوچار ہے"؛ انہوں نے اس خدشے کا اظہار کیا کہ طاقتور ٹیکنالوجی کو قابو میں رکھنے کی انسانی
صلاحیت اس ٹیکنالوجی کی ترقی کی رفتار کے ساتھ قدم نہیں ملا پا رہی ہے۔
دنیا کی ساری معلومات کو استعمال کرنا اور نئی معلومات کے مطابق اپنے آپ کو درست کرنا اور تیار رکھنا وہ
صلاحیت ہے جو انسان نے اے آئی کو دی ہے لیکن اے آئی کی یہی صلاحیت اب انسانی کنٹرول سے باہر ہے جو اے
آئی کو خطرناک حد تک خودمختار بناتی جا رہی ہے ۔
اے آئی جو کچھ کرنے جا رہی ہے یا کرے گی وہ بعید از قیاس ہے۔ جو ایک ہولناک تصور بھی ہے اور مستقبل کے
بارے میں ایسی ناقابلِ قیاس حقیقت جو بہت سے شکوک وشبہات رکھتی ہے۔
، اس ٹیکنالوجی کی ترقی کی رفتار کے ساتھ قدم نہیں ملا پا رہی ہے۔ج جنجج |
|