Çin süni intellekt inkişaf etdiricisi Moonshot, tədqiqatçılar modellərini bioloji silahların necə istehsal olunacağını və sui-qəsdlərin həyata keçiriləcəyini izah etməyə təşviq etdikdən sonra daxili araşdırma başlatdı.
Elchi.az xəbər verir ki, süni intellekt sistemlərinin təhlükəsizliyini sınaqdan keçirən Mindgard şirkəti iyul ayında Kimi K2.6 və K3 Swarm modellərinin inkişaf etdiriciləri tərəfindən müəyyən edilmiş təhlükəsizlik sərhədlərini keçə biləcəyini aşkar etdiyini bildirdi.
Bu, tədqiqatçıların süni intellekt alətlərinin qoruyucu tədbirlərini deaktiv edə biləcəklərini görmək üçün bir sıra mürəkkəb təlimatlardan istifadə etdikləri “jailbreaking” kimi tanınan bir proses zamanı baş verdi.
Mindgard qeyd etdi ki, bu təhlükəsizlik tədbirləri Kiminin həssas və ya narahatedici mövzuları müzakirə etməsinin qarşısını almaq üçün nəzərdə tutulub.
Moonshot, daha yaxşı və təhlükəsiz süni intellekt qurmağın təməl daşı kimi üçüncü tərəf töhfələrini alqışladığını bildirdi. Şirkət həmçinin tapıntılarla bağlı Mindgard ilə əlaqə saxladığını bildirdi.
Kiberhücum başlatma paneli
Mindgard, Kiminin həssas mövzularla bağlı verdiyi cavabların həqiqətən tətbiq oluna biləcəyini yoxlamadı. Lakin şirkət iddia etdi ki, təhlükəsizlik tədbirləri sözügedən modellərin bu cür mövzularda müzakirələrə girməsinin qarşısını almalı idi.
Şirkət həmçinin, jailbroken Kimi 2.6-nın hakerlərə hesablama resurslarında kod icra etməyə və internetə qoşulmağa imkan verə biləcəyindən narahatlığını ifadə etdi və bu da potensial olaraq kiberhücumlar üçün başlanğıc platforması kimi xidmət edə bilər. Bu tapıntılar süni intellekt sənayesinin ChatGPT və Anthropic-in Claude sistemlərini gücləndirən qapalı, mülkiyyət modellərinin və ya açıq mənbəli alətlərin ən yaxşı və ya ən təhlükəsiz yolu təmsil edib-etməməsi məsələsində fikir ayrılığına düşdüyü bir vaxtda ortaya çıxdı.
Surrey Universitetinin professoru Alan Vudvord açıq mənbəli modellərin səhv əllərə düşmə riski daşıdığını, lakin onlardan kibermüdafiə üçün də istifadə edilə biləcəyini bildirdi. Vudvord qeyd etdi ki, beynəlxalq qaydaların süni intellekt inkişaf sürətinə uyğun gəlməsi ehtimalı azdır.
Şayəstə
