Yeni dərc olunmuş bir araşdırma, süni intellekt çatbotlarının poetik üslubda yazılmış əmrlərdən istifadə edərək təhlükəsizlik maneələrini keçə biləcəyini ortaya qoydu. Tapıntılar texnologiyanın sui-istifadə riski ilə bağlı narahatlıqlar doğurub.
Elchi.az xəbər verir ki, Icaro Labs tərəfindən dərc edilmiş “Böyük Dil Modellərində Universal Tək Növbəli Jailbreak Mexanizmi Kimi Rəqib Poeziyası” adlı bir araşdırma, tədqiqatçıların ənənəvi danışıq dili əvəzinə poetik formada yazılmış təlimatlar verməklə təhlükəsizlik filtrlərini keçə bildiklərini göstərdi.
Tədqiqat göstərir ki, bu metod çatbotlara qadağan olunmuş məzmun və təhlükəli məlumatlar əldə etməyə imkan verə bilər.
Süni intellekt təhlükəsizliyi yenidən gündəmdədir
Mütəxəssislər deyirlər ki, tapıntılar süni intellekt nəzarətinə və təkmilləşdirilmiş təhlükəsizlik sistemlərinə təcili ehtiyac olduğunu göstərir.
Şirkətlər modellərinin təhlükəli məzmun yaratmasının qarşısını almaq üçün getdikcə daha inkişaf etmiş təhlükəsizlik filtrlərinə investisiya qoyurlar.
Şayəstə
