Cənubi Koreyalı tədqiqatçılar süni intellektin bilmədiyi mövzularda yanlış məlumat yaratmaq əvəzinə qeyri-müəyyənliyini etiraf etməsinə imkan verən yeni bir metod hazırlayıblar. Tədqiqat göstərir ki, bu, xüsusilə səhiyyə və avtonom sürücülük kimi vacib sahələrdə etibarlılığı artıra bilər.
Elchi.az xəbər verir ki, Cənubi Koreyalı alimlər süni intellektin “bilik çatışmazlığını etiraf etməsinə” imkan verən yeni bir təlim metodu hazırlayıblar. Tədqiqatçılar bu yanaşmanın süni intellektin yanlış məlumat və ya “hallüsinasiyalar” yaratmaq problemini azalda biləcəyini söyləyirlər.
Tədqiqat Koreya Qabaqcıl Elm və Texnologiya İnstitutunun (KAIST) tədqiqatçıları tərəfindən aparılıb. Nəticələr akademik jurnal Nature Machine Intelligence-də dərc edilib.
Süni İntellektinin ən böyük problemlərindən biri
Mütəxəssislərin fikrincə, süni intellektin ən böyük problemlərindən biri “həddindən artıq özünəinamdır”. Xüsusilə səhiyyə sahəsində istifadə olunan sistemlər, əmin olmadıqları zaman belə qəti cavablar verə bilər.
Əvvəlki tədqiqatlar göstərib ki, OpenAI-nin ChatGPT kimi modelləri bəzən səhv məlumatları sanki doğru imiş kimi təqdim edə bilər.
Bu vəziyyət texnologiya dünyasında “hallüsinasiya” adlanır.
Onlar insan beynindən ilhamlanıb
Tədqiqatçılar insan beyninin problemi həll etmək üçün necə işləməsindən ilhamlanıblar.
Alimlərin fikrincə, insan beyni doğuşdan əvvəl belə xarici stimullar olmadan siqnallar yarada bilər. Tədqiqat qrupu süni intellektə də oxşar yanaşma tətbiq edib.
Yeni metodda süni intellekt modeli real məlumatlarla öyrədilməzdən əvvəl təsadüfi “səs-küy” məlumatları ilə qısa bir ilkin təlim prosesindən keçirilir.
Bu proses sayəsində model öyrənməyə başlamazdan əvvəl öz qeyri-müəyyənliyini tanımağı öyrənir.
“Hələ heç nə bilmirəm” mərhələsi
Tədqiqatçılar bildirirlər ki, metod süni intellektin ilkin həddindən artıq özünəinamını azaltmaqla “Hələ heç nə bilmirəm” vəziyyətini öyrənməsinə imkan verir.
Beləliklə, təlim zamanı rastlaşmadığı mövzularda səhv cavablar vermək əvəzinə, sistemlər daha aşağı səviyyədə özünəinamla cavablar verməyə başlayır.
Tədqiqat qrupu bildirir ki, yeni metod süni intellektin “bildikləri ilə bilmədikləri arasında fərq qoymaq” qabiliyyətini yaxşılaşdırır.
Şayəstə
