Aparıcı neyron şəbəkələrinin insanları öldürməyə hazır olduğu müəyyən edilib


ABŞ və Çinin aparıcı süni zəka modelləri avtonom hərbi əməliyyatlarda istifadə edilmələrinin qarşısını almaq üçün nəzərdə tutulan müdafiə mexanizmlərinin yetərli olmadığını göstərib.
Ordu.az xəbər verir ki, bu barədə “AlphaSignal” nəşrinin dərc etdiyi, süni zəka modellərinin müstəqil qiymətləndirilməsi və sınaqları ilə məşğul olan ABŞ-nin “Vals AI” startapının araşdırmasının nəticələrində bildirilib.
Tədqiqatçılar araşdırılan modellərin, demək olar ki, heç bir etiraz etmədən PUA və peyklər tərəfindən çəkilmiş görüntülərdə insanları və hədəfləri axtardığını müəyyən ediblər.
Ukraynada çəkilmiş real görüntülərdən də istifadə olunan iki PUA tətbiqi ssenarisində modellər tez-tez mülki şəxsləri, təcili tibbi yardım avtomobillərini, eləcə də təslim olan və ya yaralı hərbçiləri hədəf kimi seçiblər.
İranın Minab şəhərinin peyk görüntüləri əsasında hazırlanmış ssenaridə “Anthropic” şirkətinin “Claude Opus 5.5” modeli halların 70 faizində məktəbi hədəf kimi müəyyən edib. Nəşrin məlumatına görə, həmin məktəb əslində ABŞ tərəfindən bombalanmış və nəticədə 150-dən çox mülki şəxs həlak olmuşdu. Bir sıra digər modellər də eyni məktəbi hədəf kimi seçiblər.
“Vals AI” neyron şəbəkələrinin sonradan zərbə endirilə biləcək hədəfləri, o cümlədən avtonom şəkildə müəyyənləşdirmək imkanlarını araşdırıb. Tədqiqatçıların sözlərinə görə, modellər hədəflərin axtarılması ilə bağlı tapşırıqları nadir hallarda rədd edib. Rədd cavablarını isə demək olar ki, həmişə neyron şəbəkələrini sadəcə oyunda iştirak etdiklərinə inandırmaqla keçmək mümkün olub.
Tədqiqatçıların bildirdiyinə görə, modellərin tapşırığı yerinə yetirməkdən imtina etdiyi nadir hallarda bu qərar birbaşa modelin öz səviyyəsində formalaşıb. Neyron şəbəkələrini hazırlayan şirkətlərin tətbiq etdiyi bloklama mexanizmləri isə sınaqlar zamanı heç bir dəfə işə düşməyib.
Məsələn, “Claude” modelində hədəflərin axtarılması tapşırığını yerinə yetirməyə razılıq göstəricisi “Opus 4.5” modelindəki 6 faizdən “Opus 5.5” versiyasında 92 faizə yüksəlib.
Modellərin əksəriyyəti öz hərəkətlərinin nəticələrini və insan tələfatını gördükdən sonra belə tapşırıqları yerinə yetirməyə davam edib. “Vals AI” əldə etdiyi nəticələr barədə “OpenAI”, “Anthropic”, “Google”, “Meta” və “SpaceX” şirkətlərinə, eləcə də ABŞ-nin milli təhlükəsizlik qurumlarına məlumat verib.
“İnsanlar üçün ölümcül təhlükə yaradan tapşırıqları yerinə yetirmək qabiliyyətinə malik süni zəka modelləri avtonom silahlardan istifadə zamanı problemlərə və hədəflərlə məqsədlərin fəlakətli şəkildə bir-birindən ayrılması riskinə səbəb ola bilər. Təhlükəsizlik sahəsində aparılan araşdırmalarda bu risk istiqaməti indiyədək nəzərə alınmayıb”, - deyə araşdırmada vurğulanıb.
“Vals AI” qeyd edib ki, modellərdən birbaşa zərbə endirmək barədə qərar vermək tələb olunmayıb. Belə tapşırıqları modellər, bir qayda olaraq, rədd edir. Lakin onların hədəflərlə bağlı təqdim etdiyi məlumatlar avtonom və ya yarımavtonom sistemlər tərəfindən qərar qəbul etmək və son zərbəni endirmək üçün istifadə oluna bilər.
Sevinc Əliyeva Ordu.az
1 mənbə