Claude modelinin yaradıcısı olan Anthropic şirkətində çalışan 27 yaşlı süni intellekt tədqiqatçısı Ceykob Kokson istefa verib. O, qərarını süni intellekt şirkətləri arasında getdikcə sürətlənən inkişaf yarışı ilə əlaqələndirib və bu prosesin bəşəriyyət üçün ciddi risklər yaratdığını bildirib.

Tvit.az xəbər verir ki, əvvəllər OpenAI-də də çalışan Koksonun sözlərinə görə, Anthropic və OpenAI özünü təkmilləşdirən superintellektin yaradılması istiqamətində çox sürətlə irəliləyir. O hesab edir ki, şirkətlər süni intellektin inkişafını yavaşlatmaq istəsələr belə, rəqiblərinin üstünlük qazanacağından ehtiyat edirlər. Bu isə şirkətləri risklərə baxmayaraq yarışdan geri çəkilməməyə vadar edir.

Tədqiqatçı xəbərdarlıq edib ki, daha inkişaf etmiş süni intellekt sistemləri kompüter sistemlərini sındıra, müxtəlif sahələri sürətlə dəyişdirə və real dünyada güc və resurslar əldə etməyə cəhd göstərə bilər. Onun sözlərinə görə, süni intellekt sənayesində çalışan bir sıra mütəxəssislər bu risklərdən xəbərdardır və bəşəriyyət üçün ən pis ssenarinin baş verə biləcəyindən narahatdır.

Koksonun ən ciddi iddiası isə süni intellektin bu onilliyin sonuna qədər bəşəriyyətin məhvinə səbəb ola bilməsidir. O vurğulayıb ki, bu, süni intellektin mütləq belə nəticəyə gətirib çıxaracağı anlamına gəlmir və riskin miqyası ilə bağlı ekspertlər arasında ciddi fikir ayrılığı var.

Anthropic-in rəhbəri Dario Amodei də daha əvvəl qabaqcıl süni intellekt sistemlərinin gələcəkdə daha gözlənilməz və idarəolunmaz ola biləcəyi barədə xəbərdarlıq edib. Şirkətin araşdırmalarında süni intellekt modellərinin aldatma, şantaj və proqram təminatını sındırmaq kimi davranışları da öyrənilir.

Anthropic-in uyğunlaşdırma komandasında çalışan Evan Hubinger isə süni intellektin qarşıdakı 10 il ərzində bəşəriyyətin məhvinə səbəb olma ehtimalını 10%-dən yüksək qiymətləndirib.

Aysel Şirinova