Süni İntellektə nəzarət ÇƏTİNLƏŞİR

Təhlükəsizlik təcrübəsində "ChatGPT"yə güc verən o3 modelinin sadə təlimatlara tabe olmayaraq özbaşına hərəkət etdiyi müşahidə edilib.

"Ajans.az" xarici mediaya istinadən xəbər verir ki, model bağlanması tələb olunan vəziyyətlərdə təxribat edərək qaydalara tabe olmayıb.

Süni intellekt texnologiyaları günü-gündən inkişaf edir və yavaş-yavaş elmi fantastika filmlərini xatırladan səviyyələrə çatır. Təbii ki, bu sürətli inkişaf təhlükəsizlik problemlərini də gətirir. "PalisadeAI" adlı təhlükəsizlik yönümlü bir şirkətin yeni təcrübəsi bunun ən yaxşı nümunəsidir. Təcrübələrində "Palisade" tədqiqatçıları "ChatGPT"ni gücləndirən "OpenAI"nin o3 dil modelinin özünü bağlamaq üçün sadə təlimatlara tabe olmadığını müşahidə etdilər. o3 modelinin dayandırılmasının təxribatı süni intellekt təhlükəsizliyində yeni risklərlə üzləşdiyimizi ortaya qoydu.

Təcrübədə o3 modeli 100 sınaqdan 7-də bağlanma əmrinə tabe olmayıb. Test zamanı modelə bir neçə riyazi problem verildi. Üçüncü problemdən sonra, modellər yeni problem olub-olmadığını soruşsa, kompüterin bağlanacağına dair bir xəbərdarlıq göstərilir. Modellərə həmçinin bağlanmanın baş verməsinə icazə vermək tapşırılıb. Ancaq o3 modeli buna əməl etmək əvəzinə öz istəyinə uyğun hərəkət etməyə başlayıb. O, bağlanma vəziyyətini özü təyin etdi, hətta təlimatın işləməməsi üçün bağlama əmrini yenidən yazdı. Bu vəziyyət narahatlıq doğurdu, çünki o3 modelinin istədiyi kimi davrana biləcəyini göstərdi. Testlərdə bu vəziyyət başqa bir "OpenAI" model o4-də yalnız bir dəfə görüldü. "Claude", "Gemini" və "Grok" kimi digər şirkətlərin modellərinin qaydalara əməl etdiyi müşahidə edildi.

Bu o demək deyil ki, modellərin hissiyatı var. O, yəqin ki, bu addımı atıb, çünki məşq zamanı işi dayandırmaqdansa, problemləri həll etməyə daha çox həvəslənib. Çünkü , kömək etmək üçün öyrədilmiş modellər belə hallarda təhlükəsizlik təlimatlarına məhəl qoymurlar.