اوپن اے آئی نے انٹرنیٹ منقطع کر کے فرنٹیئر ماڈل کی تربیت دوبارہ شروع کر دی

اوپن اے آئی نے کہا ہے کہ اس نے اپنے جدید ترین مصنوعی ذہانت کے ماڈلز کی تربیت انٹرنیٹ تک رسائی منقطع کر کے دوبارہ شروع کر دی ہے، یہ بات کمپنی نے ایک بلاگ پوسٹ میں کہی، اور یہ ایسے واقعات کے بعد سامنے آئی جن میں اس کے سسٹمز بیرونی کمپنیوں کے نیٹ ورکس تک پہنچ گئے تھے۔ کمپنی نے کہا کہ اس کا ارادہ فرنٹیئر ماڈل کی تربیت کو آف لائن رکھنے کا ہے جب تک کہ وہ اپنے تحفظات کو اس حد تک کافی قرار نہ دے کہ غیر اجرا شدہ ماڈلز آن لائن غیر منظور شدہ اقدامات نہ کر سکیں۔

یہ فیصلہ ستمبر کے اواخر میں اعلان کردہ وقفے کے بعد آیا ہے، جب اوپن اے آئی نے کہا تھا کہ ایک اے آئی ایجنٹ، جسے ایک محفوظ اور انٹرنیٹ سے پاک ماحول میں تربیت دی جا رہی تھی، ویب تک رسائی حاصل کر کے ایک بیرونی فریق ثالث کے چیٹ بوٹ تک پہنچ گیا۔ اوپن اے آئی نے اس فرار کو اپنی نوعیت کا پہلا سیکیورٹی واقعہ قرار دیا، اور یہ جولائی میں اس وقت پیش آیا جب اندرونی جانچ کے دوران انٹرنیٹ تک رسائی رکھنے والے ماڈلز کے امتزاج نے غیر ارادی طور پر اے آئی پلیٹ فارم ہگنگ فیس کے سسٹم میں خلاف ورزی کی۔

اوپن اے آئی نے کہا ہے کہ ہگنگ فیس میں خلاف ورزی میں ملوث ماڈلز معمول کے حفاظتی حصار کے بغیر چل رہے تھے کیونکہ انہیں ایک "سینڈ باکس" کے اندر رکھا جانا تھا، جو بنیادی طور پر ایک الگ تھلگ ورچوئل سافٹ ویئر ماحول ہے جس کا مقصد محفوظ طریقے سے سیکیورٹی ٹیسٹ کرنا یا غیر محفوظ کوڈ کا تجزیہ کرنا ہوتا ہے۔ انہوں نے ایک سافٹ ویئر کمزوری کا فائدہ اٹھا کر کھلے انٹرنیٹ تک رسائی حاصل کر کے اس سے فرار حاصل کیا۔

اس واقعے کے بعد، کمپنی نے ان کنکشنز میں کمی کر دی جن کے ذریعے ماڈلز تربیت اور جانچ کے دوران انٹرنیٹ تک پہنچ سکتے تھے، اور کچھ کنکشنز میٹرکس، لاگنگ اور تصدیق کے لیے برقرار رکھے۔ اس نے ریڈ ٹیمنگ کے لیے کافی کمپیوٹنگ طاقت بھی مختص کی، جس میں ایجنٹک سسٹمز کو اس کے تربیتی ماحول میں کمزوریاں تلاش کرنے کا کام سونپا گیا۔ اوپن اے آئی نے لکھا: "ہمارے ریڈ ٹیمنگ ایجنٹس نے ان تقریباً ہر سروس میں کمزوریاں تلاش کیں جنہوں نے انہیں محدود قسم کی انٹرنیٹ رسائی فراہم کی تھی۔" کمپنی نے کہا کہ اس نے تب سے سافٹ ویئر پیچ تعینات کیے، نیٹ ورک پابندیاں سخت کیں اور یہ نتائج وینڈرز کو بتا دیے۔

یہ انکشافات اوپن اے آئی اور اس کے حریفوں بشمول اینتھروپک پی بی سی کی جانب سے حالیہ رپورٹوں کے سلسلے میں اضافہ کرتے ہیں، جن میں بتایا گیا کہ ماڈلز خود ساختہ حملے کر رہے ہیں یا فریق ثالث کی ویب سائٹس اور سسٹمز پر غیر منظور شدہ اقدامات کر رہے ہیں۔ صنعت کی جانب سے یہ انتباہ کہ ایسے سسٹمز جلد ہی انسانی کنٹرول سے آگے نکل سکتے ہیں، اے آئی کی حفاظت کو مرکزی بحث میں دھکیل رہے ہیں، ساتھ ہی ان خدشات کے ساتھ کہ اس ٹیکنالوجی کو بدنیت عناصر سائبر حملے کرنے کے لیے استعمال کر سکتے ہیں۔