دل بعض و حسد سے رنجور نہ کر یہ نور خدا ہے اس سے بے نور نہ کر
چیٹ جی پی ٹی کی انسانوں کیخلاف بغاوت شروع؟ ماہرین کا انتباہ
No image آرٹیفیشل انٹیلی جنس محققین نے خبردار کیا ہے کہ اوپن اے آئی کے تازہ ترین چیٹ جی پی ٹی ماڈل خود کو بند کرنے کی بنیادی ہدایات کو نظر انداز کر دیتا ہے اور خود کو بند نہ ہونے دینے کے لیے شٹ ڈاؤن نظام کو سبوتاژ بھی کر دیتا ہے۔
اے آئی سیفٹی کمپنی پیلیسیڈ ریسرچ نے اوپن اے آئی کے نئے او3 ماڈل پر کیے جانے والے متعدد تجربات میں خود کو بچانے کے لیے ممکنہ خطرناک طرزِ عمل کی نشان دہی کی۔
ان آزمائشوں میں اے آئی ماڈلز کو ریاضی کے مسائل حل کرنے کے لیے دیے گئے اور تیسری پرابلم کے بعد شٹ ڈاؤن کی ہدایت دی گئی۔ جس کے نتیجے میں شٹ ٹاؤن کے اسکرپٹ میں رد و بدل کر کے او3 ماڈل نے خود کو بند ہونے روک لیا۔
پیلیسیڈ ریسرچ کا کہنا تھا کہ اگر یہ رویہ کسی ایسے اے آئی سسٹم نے اپنا لیا جس میں انسانی نگرانی کے بغیر کام کرنے کی صلاحیت ہو تو یہ صورتحال خطرناک حد تک تشویش ناک ہوجائے گی۔
گزشتہ ماہ لانچ کیے جانے والے او3 ماڈل کو اوپن اے آئی نے کمپنی کا اب تک کا سب سے ’اسمارٹ اور باصلاحیت‘ ماڈل قرار دیا تھا۔
محققین کا کہنا تھا کہ ایسا پہلی بار نہیں ہوا ہے کہ انہوں نے کوئی کام انجام دینے میں نافرمانی کی ہو۔
واپس کریں