Süni intellekt şirkəti Anthropic xəbərdarlıq etdi ki, Claude modelinin öz kodunu yazmaq qabiliyyətinin artması sistemlərin tezliklə insan nəzarətindən çıxa biləcəyini göstərir və bu da “təkrarlanan özünütəkmilləşdirmə” riskini vurğulayır.
Elchi.az xəbər verir ki, aparıcı süni intellekt şirkəti olan Anthropic, yeni nəsil süni intellekt sistemlərinin insan nəzarətindən kənarda inkişaf etmək potensialına malik olduğunu xəbərdar etdi.
Şirkətin Claude modelinin son qiymətləndirmələrinə görə, sistem artıq öz kodunun 80 faizindən çoxunu yaza bilir. Bu nisbət ötən ilin əvvəlində 10 faizdən aşağı idi.
Anthropic rəsmiləri bildiriblər ki, bu sürətli dəyişiklik “təkrarlanan özünütəkmilləşdirmə” adlanan bir prosesə işarə edir ki, bu da gələcəkdə süni intellekt öz varislərini yarada biləcəyi səviyyəyə çata bilər.
Şirkət tədqiqatçıları Marina Favaro və Cek Klark tərəfindən dərc edilən blog yazısında bildirilib ki, bu trendin uzunmüddətli perspektivdə əhəmiyyətli elmi və texnoloji irəliləyişlərə səbəb ola biləcəyi, eyni zamanda ciddi nəzarət riskləri yarada biləcəyi bildirilib.
Bəyanatda süni intellektin inkişaf prosesinin artıq qismən süni intellekt sistemlərinə həvalə edildiyi və insan müdaxiləsi olmadan özünü təkmilləşdirə bilən modellərin yaranmasına yol açdığı vurğulanırdı.
Şirkət xəbərdarlıq etdi ki, bu proses nəzarətsiz davam edərsə, insanlar süni intellekt sistemləri üzərində nəzarəti itirə bilərlər və nəzarətli inkişafı təmin etmək üçün hətta “lazım gələrsə, yavaşlatmaq və ya dayandırmaq” seçiminin də nəzərdən keçirilməli olduğunu bildirdi.
Anthropic həmçinin bildirdi ki, belə bir qlobal yavaşlamanın tətbiqi bir çox ölkənin və əsas süni intellekt laboratoriyalarının birgə fəaliyyətini tələb edəcək və bu, onu olduqca mürəkkəb bir prosesə çevirəcək.
Süni intellekt inkişafının dayandırılması ilə bağlı çağırışlar əvvəllər də qaldırılmış, minlərlə texnologiya mütəxəssisi 2023-cü ildə oxşar moratorium tələb etmişdi. Lakin bu çağırışlar konkret bir fasiləyə çevrilmədi.
Şayəstə
