جنوبی کوریا کے محققین نے ایک نیا طریقہ ایجاد کیا ہے جس سے مصنوعی ذہانت (اے آئی) کے ماڈلز آخرکار یہ تسلیم کر سکیں گے کہ وہ کسی موضوع سے واقف نہیں ہیں۔
کوریا ایڈوانسڈ انسٹیٹیوٹ آف سائنس اینڈ ٹیکنالوجی کے سائنس دانوں کے مطابق یہ ایجاد خودکار گاڑی چلانا اور طب جیسے شعبوں میں مصنوعی ذہانت پر اعتبار میں اضافہ کر سکتی ہے۔
ماضی کی تحقیقات سے یہ بات سامنے آئی ہے کہ اے آئی کا ’اوور کانفیڈینس‘ سب سے بڑے خطرات میں سے ایک ہے، خاص طور پر طبی تشخیص جیسے شعبوں میں۔
چیٹ جی پی ٹی جیسے عام اے آئی ماڈلز اکثر حقائق بنا دیتے ہیں کیونکہ انہیں یہ ترغیب دی جاتی ہے کہ وہ اپنی لاعلمی کا اعتراف کرنے کے بجائے قیاس کریں۔
اب محققین نے ایک ایسا طریقہ تیار کیا ہے جو اے آئی کو یہ پہچاننے کی صلاحیت دیتا ہے کہ کب وہ کسی غیر مانوس یا نئے علم کا سامنا کر رہا ہے، جس سے چیٹ بوٹس پر مجموعی انحصار میں بہتری آتی ہے۔
محققین کے مطابق اے آئی میں زیادہ اعتماد کی بنیادی وجہ یہ ہے کہ یہ سسٹم آرٹیفیشل نیورل نیٹورک کو استعمال کرتے ہوئے اپنے ابتدائی ڈیٹا سے سیکھتے ہیں، جو ان کا بنیادی ڈھانچہ تشکیل دیتے ہیں۔
