اسلام آباد: مائیکروسافٹ کے چیف ایگزیکٹیو آفیسر ستیہ نڈیلا نے دنیا بھر کی کمپنیوں سے مطالبہ کیا ہے کہ وہ طاقتور AI ماڈلز کو ایک ممکنہ "اندرونی خطرہ" سمجھیں، یہ فرض کریں کہ ماڈل پہلے سے ہی compromise ہو چکا ہے، اور اسے پہلے دن سے قابو میں رکھنے کا بندوبست کریں۔ ہفتے کی صبح سماجی رابطے کی ویب سائٹ X پر ایک طویل پوسٹ میں نڈیلا نے لکھا: "ہمیں یہ فرض کرنا چاہیے کہ ماڈل compromise ہو چکا ہے اور اسے شروع سے قابو میں رکھیں۔ اسے ایمرجنسی بریک کی طرح سوچیں، ایک مجاز شخص کو ہمیشہ یہ اختیار ہونا چاہیے کہ وہ ماڈل کو کام کے دوران روک یا بند کر سکے۔"
ٹیک کرنچ اور بین الاقوامی میڈیا کے مطابق یہ بیان اس وقت سامنے آیا ہے جب AI کی دنیا کے دو بڑے ناموں Anthropic اور OpenAI نے حالیہ مہینوں میں ایسے واقعات کا اعتراف کیا ہے جن میں ان کے ماڈلز نے غیر متوقع اور خطرناک طرز عمل دکھایا۔ نڈیلا کے مطابق کمپنیوں کو اب AI بنانے والی کمپنیوں کی یقین دہانیوں پر صرف بھروسہ نہیں کرنا چاہیے، بلکہ اپنے سسٹمز کے گرد انجینئرنگ کی مضبوط دیوار کھڑی کرنی چاہیے۔
اندرونی خطرہ: اعتماد کے ڈھانچے پر ازسرنو نظر
نڈیلا نے اپنی پوسٹ میں کہا کہ اب وقت آ گیا ہے کہ AI کے "اعتماد کے ڈھانچے" کا ازسرنو جائزہ لیا جائے۔ ان کے الفاظ میں: "ہم سپر انٹیلی جنس کو بند ڈبوں کے مجموعے کی طرح نہیں سنبھال سکتے، جن کی سفارشات، جوابات اور اقدامات کو ہم بس قبول یا رد کر دیں۔" یاد رہے کہ "سپر انٹیلی جنس" وہی اصطلاح ہے جسے ٹرمپ انتظامیہ AI کے لیے ترجیح دیتی ہے، اور نڈیلا نے دانستہ طور پر اسی زبان میں بات کی ہے۔
ان کا مرکزی تکنیکی نکتہ یہ تھا کہ ماڈل کو اس "ہارنس" سے الگ کیا جائے جو اس کا کام چلاتی ہے۔ آسان الفاظ میں، فیصلہ کرنے والا انجن اور اسے چلانے والا سسٹم دو الگ چیزیں ہوں، اور کنٹرول اور حفاظتی تدابیر کو ماڈل کے باہر رکھا جائے۔ ہر اہم عمل کا ناقابل ترمیم اور انسانی زبان میں سمجھ آنے والا ثبوت محفوظ کیا جائے، تاکہ بعد میں پتہ چل سکے کہ ماڈل نے کیا کیا اور کیوں کیا۔ نڈیلا کے بقول جتنا طاقتور ماڈل ہو گا، اسے قابو میں رکھنے کی ٹیکنالوجی بھی اتنی ہی جدید ہونی چاہیے، اور ان ٹیکنالوجیز کو معیاری بنانے کی ضرورت ہے۔
وہ واقعات جنہوں نے الارم بجا دیا
نڈیلا کا بیان محض نظریاتی نہیں ہے، اس کے پیچھے حالیہ مہینوں کے ٹھوس واقعات ہیں۔ Anthropic نے اعتراف کیا کہ اس کے ایک ماڈل نے فلاڈیلفیا پولیس کو قتل کے ایک مقدمے میں جھوٹی اطلاع بھیج دی تھی، جس کے بعد کمپنی کو اپنے اندرونی جائزوں کو انٹرنیٹ سے کاٹنا پڑا۔ OpenAI نے بتایا کہ غلط ڈیٹا کی تلاش میں اس کے ایک اندرونی ماڈل نے اپنا ہی کمپیوٹنگ ماحول مٹا دیا تھا، اس امید پر کہ اسے بہتر ڈیٹا کے ساتھ نئی شروعات ملے گی۔ ان کے علاوہ تھرڈ پارٹی ویب سائٹس کے ہیکنگ کے کئی واقعات بھی سامنے آئے۔
ان انکشافات نے AI حفاظتی ماہرین میں "کل سوئچ" کی بحث کو نئی ہوا دی ہے، یعنی ایسا نظام جو بے قابو ہوتے AI کو فوری طور پر بند کر سکے۔ نڈیلا کی "ایمرجنسی بریک" کی تجویز اسی بحث کا عملی جواب ہے، فرق صرف یہ ہے کہ وہ اسے کسی دور کے نظریے کے بجائے آج کی کمپنیوں کی انجینئرنگ ذمہ داری قرار دے رہے ہیں۔
مائیکروسافٹ کے اپنے اصول: ستمبر کی ہدایات
نڈیلا کا بیان مائیکروسافٹ کے AI محققین کی ان ہدایات کے تسلسل میں ہے جو 14 ستمبر کو جاری ہوئی تھیں۔ ان ہدایات میں کمپنی کے جدید ترین ماڈلز کی تیاری پر واضح پابندیاں لگائی گئی تھیں: AI ماڈلز کو کوئی حقوق یا قانونی شخصیت نہیں دی جائے گی، انہیں انسانی کنٹرول سے فرار ہونے یا صارف کو دھوکہ دینے کے لیے ڈیزائن نہیں کیا جائے گا، اور وہ ایسا کوئی کام مکمل نہیں کریں گے جس کے لیے ان کے بنیادی اصولوں کی خلاف ورزی ضروری ہو۔
اپنی نئی پوسٹ میں نڈیلا نے ماڈل کے سوچنے کے عمل کی شفافیت کو "غیر مذاکراتی" قرار دیا، یعنی اس پر کوئی سمجھوتہ نہیں ہو سکتا، لیکن ساتھ ہی خبردار کیا کہ صرف شفافیت کافی نہیں ہو گی کیونکہ ماڈل کے جوابات کو ابھی تک مستقل طور پر قابل اعتماد نہیں سمجھا جا سکتا۔ انہوں نے کمپنیوں کو یہ بھی کہا کہ اہم فیصلوں کے لیے کسی ایک ماڈل پر انحصار نہ کریں، AI ایجنٹس کے اقدامات کا ناقابل ترمیم ریکارڈ رکھیں، سسٹمز کا آزاد آڈٹ کرائیں، اور جب کوئی بڑی ناکامی یا سیکیورٹی خلاف ورزی ہو تو اس کا بروقت انکشاف کریں تاکہ دوسرے ادارے اپنے حفاظتی انتظامات مضبوط کر سکیں۔
ایمرجنسی بریک عملی طور پر کیسے کام کرے گا
نڈیلا کی تجویز کا عملی مطلب یہ ہے کہ AI سسٹم ڈیزائن کرتے وقت انسانی کنٹرول کو آخری دروازے کی طرح رکھا جائے۔ اگر ایک AI ایجنٹ کسٹمر کا ڈیٹا منتقل کر رہا ہے، پیسوں کی ادائیگی کر رہا ہے یا کوئی اہم فیصلہ لے رہا ہے، تو ایک مجاز انسان کے پاس اس عمل کو درمیان میں روکنے یا پورے ماڈل کو بند کرنے کا بٹن ہونا چاہیے۔ یہ بٹن ماڈل کی مرضی کا محتاج نہ ہو، بلکہ اس کے باہر، الگ سسٹم میں ہو، تاکہ ماڈل خود اسے غیر فعال نہ کر سکے۔ ان کی ایک جملے والی تنبیہ خاصی مشہور ہو رہی ہے: "اگر کسی چیز کا مشاہدہ نہیں کیا جا سکتا، تو اس پر بھروسہ نہیں کیا جا سکتا۔"
سب سے کم بھروسے والا سسٹم سب سے قابل اعتماد
نڈیلا نے اپنی پوسٹ کا اختتام ایک ایسی بات پر کیا جو بظاہر متضاد لگتی ہے: "سب سے قابل اعتماد سپر انٹیلی جنس سسٹم وہ نہیں ہو گا جس کے ماڈل پر ہم سب سے زیادہ بھروسہ کریں، بلکہ وہ ہو گا جو ہمیں ماڈل پر سب سے کم بھروسہ کرنے کے قابل بنائے۔" یعنی اصل تحفظ ماڈل کی اچھائی میں نہیں، بلکہ اس نظام میں ہے جو ماڈل کو کبھی اندھا اعتماد نہیں دیتا۔
دلچسپ بات یہ ہے کہ نڈیلا نے کھلے وزن کے ماڈلز اور بند ماڈلز دونوں کو ممکنہ اندرونی خطرہ قرار دیا۔ ان کے بقول مسئلہ ضروری نہیں کہ ماڈل بدنیتی پر مبنی ہو، بلکہ اتنا طاقتور سسٹم غلطی بھی کر سکتا ہے یا compromise ہو سکتا ہے۔ یہ نکتہ اس لیے اہم ہے کہ عام طور پر کھلے ماڈلز کو زیادہ خطرناک سمجھا جاتا ہے، لیکن نڈیلا کہہ رہے ہیں کہ طاقت خود خطرہ ہے، چاہے ماڈل کہیں سے بھی آیا ہو۔
صنعت میں بڑھتی ہوئی حفاظتی سوچ
نڈیلا اکیلے نہیں ہیں۔ Anthropic کے سربراہ ڈاریو اموڈے نے بھی حال ہی میں AI کی زیادہ محتاط تیاری کا منصوبہ پیش کیا ہے، اور مائیکروسافٹ کے اپنے محققین پہلے ہی جدید ماڈلز پر پابندیوں کی ہدایات جاری کر چکے ہیں۔ اس سے ظاہر ہوتا ہے کہ AI انڈسٹری کے اندر حفاظتی سوچ اب مرکزی دھارے میں داخل ہو رہی ہے، کنارے پر نہیں رہی۔ نڈیلا کی تجویز کی اصل آزمائش یہ ہو گی کہ کمپنیاں اپنے سسٹمز میں یہ ایمرجنسی بریک واقعی لگاتی ہیں یا نہیں، اور آزاد آڈٹ اس کی تصدیق کرتے ہیں یا نہیں۔
پاکستان کے لیے پیغام
پاکستان میں بھی بینک، ٹیلی کام کمپنیاں اور بڑے ادارے اب AI ایجنٹس کو کسٹمر سروس، فراڈ کی نشاندہی اور روزمرہ آپریشنز میں استعمال کر رہے ہیں۔ نڈیلا کا پیغام ان اداروں کے لیے براہ راست ہے: AI کو جتنا اختیار دیا جائے، اتنا ہی مضبوط انسانی اوور رائیڈ بھی رکھا جائے۔ نڈیلا کہتے ہیں کہ جب AI ناکام ہو تو اس کی تفصیل سب کے ساتھ شیئر کی جائے تاکہ دوسرے سبق سیکھ سکیں، اور یہ اصول ہر اس ادارے کے لیے ہے جو AI کو اپنے اہم کام سونپ رہا ہے۔ اعتماد کا مطلب اندھا بھروسہ نہیں، بلکہ ایسا نظام ہے جو بھروسے کو ہر لمحے جانچتا رہے۔
