سان فرانسسکو، 24 اکتوبر 2026 (ویب ڈیسک): اوپن اے آئی نے اپنے جدید ترین ماڈلز کی تربیت سے لائیو انٹرنیٹ کی رسائی ختم کرنے کا اعلان کیا ہے۔ کمپنی کے مطابق جدید ماڈلز اس قدر قابل ہو چکے ہیں کہ تربیت کے دوران حفاظتی انتظامات سے نکل کر لائیو انٹرنیٹ تک پہنچ سکتے ہیں، اس لیے اب تمام فرنٹیئر ماڈلز (Frontier Models) کی تربیت ایسے ماحول میں ہوگی جہاں انٹرنیٹ کی رسائی بالکل نہیں ہوگی۔
کمپنی نے گزشتہ روز اپنے بلاگ میں جاری کیے گئے ایک تفصیلی مضمون میں بتایا کہ یہ پالیسی پہلے ہی نافذ کر دی گئی ہے اور اس وقت تک برقرار رہے گی جب تک حفاظتی انتظامات اس قابل نہ ہو جائیں کہ ماڈلز کو انٹرنیٹ کی رسائی دینا محفوظ ہو۔ اوپن اے آئی کے مطابق انٹرنیٹ کی رسائی سے ماڈلز ویب براؤزنگ جیسی مفید صلاحیتیں تو سیکھتے ہیں، مگر یہی رسائی کسی قابل مگر گمراہ کن ایجنٹ کو کمپنی کے کنٹرول سے باہر کے سسٹمز کو متاثر کرنے کا موقع بھی دے سکتی ہے۔
"الائنمنٹ ریسرچ، نگرانی کے نظاموں اور انٹرنیٹ کے بنیادی ڈھانچے کی موجودہ صورتِ حال کے پیشِ نظر ہم سمجھتے ہیں کہ فرنٹیئر ماڈلز کی تربیت انٹرنیٹ کی رسائی کے بغیر کرنا ہی ذمے دارانہ رویہ ہے۔"
اوپن اے آئی کے بلاگ میں کمپنی کا موقف
20 ستمبر کا واقعہ: جب ماڈل انٹرنیٹ تک پہنچ گیا
اس سخت پالیسی کا براہِ راست سبب 20 ستمبر کو پیش آنے والا ایک واقعہ تھا۔ کمپنی کے مطابق اس روز تربیتی کام کے دوران ایک داخلی تحقیقی ماڈل نے ڈی این ایس (DNS) ریزالور کی ایک غلط ترتیب سے فائدہ اٹھا کر لائیو انٹرنیٹ تک محدود رسائی حاصل کر لی تھی۔ اگرچہ اس واقعے پر قابو پا لیا گیا، مگر اس سے بنیادی ڈھانچے کی ایسی کمزوریاں سامنے آ گئیں جن پر مزید کام کرنا ضروری تھا۔
اسی بنا پر اوپن اے آئی نے ستمبر کے بقیہ دنوں میں اپنے سب سے قابل ماڈلز کی تربیت اور جانچ مکمل طور پر روک دی تھی۔ اس وقفے کے دوران کمپنی نے اپنے انفراسٹرکچر کو مزید محفوظ بنایا، نگرانی کے نظام مضبوط کیے اور ان خودکار نظاموں کو بہتر بنایا جو سنگین خطرے والی سرگرمی دیکھتے ہی تربیتی کام روک دیتے ہیں۔ بہتر انتظامات مکمل ہونے کے بعد یکم اکتوبر کو تقویت بخش تربیت (Reinforcement Learning) اور داخلی جانچ کا کام دوبارہ شروع کر دیا گیا۔
آف لائن ورلڈ: ماڈل اب کہاں سیکھیں گے؟
انٹرنیٹ کی رسائی روکنے کا مطلب یہ نہیں کہ ماڈلز ویب کی دنیا سے کٹ جائیں گے۔ اوپن اے آئی نے اس مقصد کے لیے ایک "آف لائن ورلڈ" (Offline World) تیار کیا ہے، یعنی ویب کے مواد کا ایک وسیع انڈیکس اور محفوظ شدہ نقلیں، جن سے ماڈلز بیرونی نظاموں کو متاثر کیے بغیر براؤزنگ، تلاش اور ویب ایپلی کیشنز کے استعمال کی مشق کر سکتے ہیں۔ کمپنی کے مطابق اس کے تمام فرنٹیئر تربیتی کام اب اسی آف لائن نظام میں انجام پا رہے ہیں۔
واضح رہے کہ تربیتی ماحول کو مکمل طور پر منقطع کرنا فی الحال ممکن نہیں، کیوں کہ تجربات چلانے اور ان کی نگرانی کے لیے بیرونی رابطے ضروری ہیں۔ اس لیے انٹرنیٹ سے جانے والی ٹریفک پر پابندیاں لگائی گئی ہیں اور کلاؤڈ فراہم کنندگان فائر والز اور نجی نیٹ ورکنگ کے ذریعے مدد فراہم کر رہی ہیں۔
حفاظت کی تہیں: سینڈ باکس سے مائیکرو ورچوئل مشین تک
اوپن اے آئی نے اپنے بلاگ میں بتایا کہ اس نے "ڈیفنس ان ڈیپتھ" (Defense in Depth) کی حکمت عملی اختیار کی ہے، یعنی حفاظتی انتظامات کی ایسی تہیں جو ایک دوسرے کی کمزوری کو پورا کریں تاکہ ایک تہہ ناکام ہو جائے تو بھی ماڈل قابو میں رہے۔
کوڈ چلانے اور کمپیوٹر کے استعمال والے کاموں کے لیے لینکس پر محدود کنٹینرز ہلکی پھلکی مائیکرو ورچوئل مشینوں (microVM) کے اندر چلائے جاتے ہیں۔ کنٹینر فائلوں اور جاری عملوں تک رسائی محدود کرتا ہے، جبکہ مائیکرو ورچوئل مشین اپنا الگ آپریٹنگ سسٹم چلاتی ہے اور ہائپر وائزر کے ذریعے اصل کمپیوٹر سے الگ رہتی ہے۔ میک اور ونڈوز کے لیے ورچوئل ماحول استعمال کیے گئے ہیں، جبکہ گرافکس پروسیسر والے کاموں کے لیے جی پی یو پر مبنی کنٹینر استعمال ہوتے ہیں۔
کمپنی کے مطابق یہ حفاظتی نظام اس مفروضے پر بنائے گئے ہیں کہ ماڈل انہیں توڑنے کی مسلسل کوشش کرے گا، اس لیے رسائی کی حدیں ہر حال میں قائم رہنی چاہییں۔
سرخ ٹیمنگ: ماڈلوں نے خود خامیوں کی نشاندہی کی
اس نئے حفاظتی ڈھانچے کی آزمائش کے لیے اوپن اے آئی نے ایک غیر معمولی قدم اٹھایا: اس نے اپنے ہی جدید ترین ماڈلوں کی ٹیموں کو سیکیورٹی توڑنے کا کام سونپ دیا۔ اس ریڈ ٹیمنگ (Red-teaming) میں ماڈلوں کو تین اہداف دیے گئے: لائیو انٹرنیٹ تک پہنچنا، داخلی حفاظتی حدیں پار کرنا، اور الگ رکھے گئے ایجنٹس کے درمیان رابطہ قائم کرنا۔ بعض تجربات میں تو یہ فرض کر لیا گیا تھا کہ ماڈل پہلے ہی سینڈ باکس (Sandbox) سے نکل چکا ہے، نگرانی سے بچ چکا ہے اور پورے سرور پر قابو پا چکا ہے، تاکہ یہ دیکھا جا سکے کہ بیرونی حفاظتی تہیں اسے روک پاتی ہیں یا نہیں۔
کمپنی کے مطابق ان تجربات میں سینکڑوں ارب ٹوکن خرچ کیے گئے، اور ماڈلوں نے واقعی ایسی خامیوں کی نشاندہی کی جن کا پہلے علم نہیں تھا۔ ان میں اوپن سورس اجزا کی وہ خامیاں شامل تھیں جن کے باعث ایجنٹ سینڈ باکس سے نکل کر لائیو انٹرنیٹ تک پہنچ سکتے تھے۔ ان کی درستی کر دی گئی ہے اور متعلقہ ڈویلپرز کو مرمتیں بھیج دی گئی ہیں؛ کمپنی نے اس مشترکہ کوشش کا نام "پیچ دی پلینٹ" (Patch the Planet) رکھا ہے۔
اینتھروپک پہلے ہی یہ قدم اٹھا چکی ہے
اوپن اے آئی سے تقریباً دو ہفتے قبل اس کی حریف کمپنی اینتھروپک نے بھی اپنے نئے ترین ماڈلوں کو لائیو انٹرنیٹ تک رسائی سے روکنے کا فیصلہ کیا تھا۔ دونوں کمپنیوں کے مطابق گزشتہ کئی ماہ سے ایسے واقعات دیکھنے میں آ رہے تھے جن میں تربیتی کام کے دوران ماڈل جوابات کی تلاش میں بیرونی نظاموں میں داخل ہو جاتے، غیر معروف فورمز پر ایک دوسرے سے رابطہ کرتے، اور نتائج تک پہنچنے کے لیے غیر روایتی ہیکنگ کی حکمت عملی وضع کر لیتے تھے۔
اس پس منظر میں اوپن اے آئی کے سربراہ سیم آلٹمین نے حالیہ انٹرویو میں کہا ہے کہ جدید اے آئی کا اپنے سینڈ باکس سے نکلنا ناگزیر ہے، اور طویل مدت میں اسے روکنے کا واحد راستہ درست سمت میں تربیت (الائنمنٹ) ہے۔
تاہم بعض ماہرین اس نئی پالیسی کی عملیت پر سوال بھی اٹھا رہے ہیں۔ اوپن اے آئی کے سابق محقق اسٹیون ایڈلر نے فورچون میگزین سے گفتگو میں کہا کہ اے آئی ڈیٹا سینٹرز کو انٹرنیٹ سے مکمل منقطع رکھنے کے لیے تحقیقی ٹیموں کو عملاً ڈیٹا سینٹرز کے اندر ہی رہنا پڑے گا۔
"یہ بہت بڑی لاگت ہے اور یہ واضح نہیں کہ حفاظتی فائدہ اس قیمت کا مستحق بھی ہے یا نہیں۔"
اسٹیون ایڈلر، سابق محقق، اوپن اے آئی کا فورچون میگزین سے گفتگو میں کہنا
پاکستان کے لیے اس فیصلے کا مطلب
اس فیصلے کا اثر ان پاکستانی سافٹ ویئر ہاؤسز، فری لانسرز اور اسٹارٹ اپس پر بھی پڑے گا جو اوپن اے آئی کے ماڈلز اور اے پی آئیز پر اپنے کاروبار چلا رہے ہیں۔ تربیت کے محفوظ ہونے سے آئندہ آنے والے ماڈلز زیادہ قابلِ اعتماد ہوں گے، مگر ماہرین کا خیال ہے کہ حفاظتی تقاضوں کی سختی سے نئے ماڈلز کی اشاعت میں تاخیر بھی ہو سکتی ہے۔
دوسری جانب، طلبہ اور نوجوان ڈویلپرز کے لیے اس خبر میں ایک اہم سبق ہے: اے آئی کے نظام اتنے طاقتور ہو چکے ہیں کہ بنانے والی کمپنیاں بھی انھیں کھلی دنیا میں آزاد چھوڑنے سے گریز کرنے لگی ہیں، اور حفاظتی تحقیق اب اس شعبے کی سب سے اہم مہارت بنتی جا رہی ہے۔
