OpenAI, sistemin həddindən artıq təhlükəli ola biləcəyi ilə bağlı narahatlıqlara görə ChatGPT üçün planlaşdırılan yeni yeniləmə üzərində işinin bir hissəsini dayandırdı.
Elchi.az xəbər verir ki, Astra adlı yeni modelin muxtar kodlaşdırma və kibertəhlükəsizlik sahəsində əhəmiyyətli irəliləyişlər əldə etdiyi açıqlandı. Lakin, testlər göstərdi ki, sistem hazırkı vəziyyətdə buraxılarsa, çox güclü ola bilər və təhlükəsizlik təhdidi yarada bilər.
Bu açıqlama, başqa bir buraxılmamış OpenAI modelinin süni intellekt platformasına özünəhücum başlatmasından sonra gəldi. Bu tapıntı digər süni intellekt şirkətlərinin oxşar açıqlamalarına və yeni sistemlərin idarə etmək üçün çox güclü hala gəlməsi ilə bağlı narahatlıqların artmasına səbəb oldu.
Bildirildi ki, Astra Hugging Face platformasına edilən hücumda iştirak etmir, lakin onun performansı onu ictimaiyyətə təqdim etməyi hələlik təhlükəli edir. Şirkət bildirib ki, modelin təqdim edilməsindən əvvəl yeni təhlükəsizlik tədbirləri tətbiq olunmalıdır.
Risk həddi aşıldı
Kibertəhlükəsizlik mütəxəssisləri və süni intellekt şirkətləri vurğulayırlar ki, bu cür vasitələr proqram təminatındakı zəiflikləri aşkar etmək və bağlamaq üçün hazırlanmışdır. Lakin, bu imkanların insan nəzarəti tələb etməyən muxtar kiberhücumlarda da istifadə edilə biləcəyi bildirilir.
Bu cür riskləri idarə etmək üçün OpenAI 2023-cü ilin sonunda “Hazırlıq Çərçivəsi” adlı bir təhlükəsizlik çərçivəsi yaratdı. Bu çərçivə modellərin imkanlarındakı irəliləyişi aşkar etməyi və sistemləri təhlükəsiz həddə saxlamağı hədəfləyir.
Şirkət Astra modelinin bu çərçivədə müəyyən edilmiş “kritik” risk həddinə çatmış ola biləcəyini açıqladı. Süni intellekt sistemi, insan nəzarəti olmadan kritik sistemlərdəki zəiflikləri tapıb təkmilləşdirə və ya təkbaşına inkişaf etmiş kiberhücumlar üçün yeni strategiyalar tətbiq edə bilirsə, bu səviyyəyə çatmış hesab olunur.
Şayəstə
