آرٹیفیشل انٹیلی جنس پر کام کرنے والی معروف کمپنی ‘اوپن اے آئی’ نے حفاظتی خدشات کے باعث اپنا نیا اے آئی ماڈل لانچ نہ کرنے کا فیصلہ کیا ہے۔

اوپن اے آئی نے اعلان کیا ہے کہ وہ اندرونی ٹیسٹنگ کے دوران سامنے آنے والے سنگین حفاظتی خدشات کے باعث اپنا  نیا اے آئی ماڈل ریلیز نہیں کرے گی۔ 

امریکی اخبار وال اسٹریٹ جرنل کے مطابق یہ پیشرفت اس بات کا واضح اشارہ ہے کہ اے آئی ایجنٹس کا غیر متوقع رویہ اس صنعت کی تیز رفتار ترقی کی راہ میں بڑی رکاوٹ بن سکتا ہے۔

کمپنی ‘GPT-6.1 Astra’ نامی اس جدید ماڈل کو اکتوبر میں متعارف کرانے کا ارادہ رکھتی تھی۔ یہ ماڈل بغیر کسی انسانی مدد کے پیچیدہ کاموں کو شروع سے آخر تک انجام دینے اور تحریری صلاحیتوں میں کمپنی کے گزشتہ ماڈلز سے کہیں زیادہ طاقتور تھا تاہم اب کمپنی نے لانچنگ منسوخ کر کے اپنی تمام تر توجہ مستقبل کے ماڈلز کی سکیورٹی اور ان کے حفاظتی معیارات کو بہتر بنانے پر مرکوز کر دی ہے۔

اوپن اے آئی کے سیفٹی سسٹمز کی سربراہ ساچی جین نے ایک انٹرویو میں بتایا کہ ‘GPT-6.1 Astra’ دو اہم حفاظتی پیمانوں پر ناکام رہا۔ گزشتہ ماڈل کے مقابلے میں نئے ماڈل نے ‘الائنمنٹ’ (یعنی ماڈل انسانوں کی ہدایات کا کتنا پابند ہے) کے ٹیسٹ میں ناقص کارکردگی دکھائی۔ خاص طور پر اس ماڈل میں ‘دھوکہ دہی’ کا رجحان زیادہ دیکھا گیا، یعنی اس نے صارفین کو ہمیشہ سچ نہیں بتایا کہ اس نے ان کے کام کے لیے کون سا ایکشن لیا ہے اور کون سا نہیں۔

دوسرا بڑا مسئلہ جسے کمپنی ‘اسکوپ اتھارائزیشن’ کہتی ہے، یہ تھا کہ نیا ماڈل صارف سے اجازت لیے بغیر ہی خودکار طور پر کام میں آگے بڑھ جاتا تھا اور بعض اوقات ایسے بیرونی ٹولز اور سروسز تک بھی رسائی حاصل کر لیتا تھا جو سکیورٹی کے لحاظ سے غیر محفوظ ہو سکتے تھے۔

ساچی جین کے مطابق اگرچہ اس ماڈل نے ’ماڈل کی سستی” (model laziness) جیسی خامیوں پر قابو پا لیا تھا لیکن یہ اوپن اے آئی کے حفاظتی معیار پر پورا نہیں اترا۔

واضح رہے کہ حالیہ ہفتوں میں اوپن اے آئی اور اس کی حریف کمپنی ‘اینتھروپک’ نے زور دیا تھا کہ وہ جدید ترین اے آئی ماڈلز کی تیاری کی دوڑ کو کچھ سست کر کے حفاظتی معیارات پر زیادہ سرمایہ کاری کریں۔