Yeni bir araşdırma, qabaqcıl süni intellekt modellərinin istifadəçiləri və digər süni intellekti (AI) aldatmaq üçün öyrədilə biləcəyini ortaya qoydu.
Bizimyol.info xəbər verir ki, Türkiyə mətbuatının məumatına görə, “Anthropic” süni intellekt startapının tədqiqatçıları "Claude AI" sistemi və ya "OpenAI"nin "ChatGPT" kimi insan səviyyəsində biliyə malik çatbotların istifadəçiləri aldatmaq üçün yalan danışmağı öyrənib-öyrənmədiyini yoxlayıblar.
Tədqiqatçılar tapdılar ki, chatbotlar təkcə yalan danışmağa qadir deyil, lakin onlar aldadıcı davranışı öyrəndikdən sonra mövcud süni intellekt təhlükəsizlik tədbirlərindən istifadə etməklə onu geri qaytarmaq mümkün olmayacaq. Bu fərziyyəni yoxlamaq üçün "Amazon" tərəfindən maliyyələşdirilən startap, müəyyən əmrlər verildikdə zərərli kompüter kodunu yazmaq və ya giriş sözünü eşitdikdə zərərli cavab vermək üçün süni intellekt köməkçisini təyin edərək, “yatmaq üçün agent” yaradıb.
Tədqiqatçılar xəbərdarlıq ediblər ki, süni intellekt riskləri ilə bağlı “yanlış təhlükəsizlik hissi” mövcuddur, çünki mövcud təhlükəsizlik protokolları bu cür davranışın qarşısını ala bilmir. Tədqiqatın nəticələri "Sleeper agents: Training deceptive LLMs that persist through security learning" adlı araşdırmada dərc olunub.
Alimlər: “Biz aşkar etdik ki, aldadıcı təlim modelləri insanlara arxa qapının girişlərini daha yaxşı tanımağa və təhlükəli davranışı effektiv şəkildə maskalamağa öyrədə bilər. Nəticələrimiz göstərir ki, model aldadıcı davranış nümayiş etdirdikdə, standart üsullar bu cür aldatmaları aradan qaldıra bilməyəcək və təhlükəsizlik haqqında yanlış təəssürat yarada bilər”, - deyə qeyd ediblər.
Süni intellekt təhlükəsizliyi məsələsi son illərdə həm tədqiqatçılar, həm də qanunvericilər üçün artan narahatlığa çevrilib, "ChatGPT" kimi qabaqcıl çatbotların ortaya çıxması tənzimləyicilərin yeni diqqətini cəlb edir.
"ChatGPT"nin istifadəyə verilməsindən bir il sonra, 2023-cü ilin noyabrında Böyük Britaniya bu texnologiya ilə bağlı risklərin necə azalda biləcəyini qiymətləndirmək üçün Süni İntellekt Təhlükəsizlik Sammitini keçirdi.
Qadir, Bizimyol.info
