Generatiw EI adam jogaplaryna has ýakynlaşýan jogaplary öndürýär. Bu tehnologiýalaryň ösüşi, adam we maşyn jogaplaryny tapawutlandyrmak üçin döredilen synaglaryň (mysal üçin, Týuring synagy) has täsirli bolýandygyny aňladýar. Şeýle-de bolsa, bu öňegidişlige garamazdan, gözlegçiler iri dil modelleriniň “ýagdaý düşünjesini” ýa-da “öz-özüňi tanamak” ösmeginden gorkýarlar.
Howpsuzlygy gowulandyrmak boýunça ep-esli tagallalara garamazdan, emeli intellekt ulgamlary dürli howpsuzlyk meselelerinden ejiz bolup galýarlar. Mysal üçin, bir synagda ChatGPT-4-iň howpsuzlyk mehanizmlerini döwmek üçin gözlegçi Alekseý Polýakowa birnäçe sagat gerek boldy. Bu düzgün bozulma, fişing hatlaryny we zorlugy öjükdirýän habarlary döretmek ýaly möhüm töwekgelçiliklere sebäp boldy .
Gözlegçi Lukas Berglundyň ýolbaşçylygyndaky toparyň geçiren gözlegine görä , “ýagdaý habarlylygy” modeli howpsuzlyk nukdaýnazaryndan has howply bolar. Emma EI ýagdaý düşünjesini ösdürip bilermi? Bu soraga jogap bermek üçin Berglund we onuň topary “kontekstdan daşgary pikirleniş” diýilýän aýratyn bir meselä garadylar. Gözlegiň netijeleri, arXiv platformasynda deslapky neşir hökmünde elýeterlidir .
“Ýagdaý habarlylygy” näme?
Gözlegçileriň aýdýan “ýagdaý habarlylygy” düşünjesi, synagda ýa-da köpçüligiň ulanmagy üçin ýerleşdirilendigini tapawutlandyrmak ukybyna degişlidir. Bu mümkinçilik hünärmenleriň arasynda käbir aladalary döredýär, sebäbi şeýle ssenariýa durmuşa geçirilse, şeýle ulgamlaryň howpsuzlygyny üpjün etmek ägirt uly meselä öwrüler.
Teoriýa boýunça, habar berişiň bu görnüşi bolan model, howpsuzlyk çärelerini ýeňmek üçin synag döwründe howpsuz hereket edip biler. Janly gurşawda ýerleşdirilenden soň, synag wagtynda gizlenen howply ýa-da zyýanly hereketlere öwrülip biler. Aldamak üçin bu ukyp, adaty howpsuzlyk çärelerini has täsirli eder, sebäbi model olary bilgeşleýin aldap biler.
Kontekstden daşarda pikir alyşmak
Gözleg üçin Berglund we kärdeşleri , ýagdaýyň habarlylygynyň potensial başlangyjy hökmünde görülýän ” kontekstden daşgary pikirlenmek” diýip atlandyrýan zatlaryna ünsi jemlediler. Bu adalga, ulgamyň gönüden-göni baglanyşykly däl-de, meseleleri çözmek ýa-da soraglara jogap bermek üçin bir kontekstde alnan maglumatlary ulanmak ukybyna degişlidir. Dil modeli şeýle pikirlenmäge ukyply bolsa, bu ýagdaý düşünjesiniň ösmegine alyp barjak ukyplaryň ösendigini görkezip biler.
Gözlegçiler, kontekstden daşgary pikirlenmegi talap edýän meseleler boýunça ýerine ýetirişlerine baha bermek üçin OpenAI-iň GPT-3 we Meta LLaMA ýaly birnäçe iri dil modellerini synagdan geçirdiler. Netijeler has uly modelleriň şeýle meselelerde has gowy ýerine ýetirendigini görkezdi. Şeýle-de bolsa, bir modeliň kontekstden daşarda pikirlenip biljekdigi, ýagdaýyň ýa-da öz-özüne düşünmeginiň bardygyny ýa-da boljakdygyny aňlatmaýar. Şeýle-de bolsa, bu deslapky sözleri öwrenmek, dil nagyşlarynyň mümkinçiliklerine we çäklendirmelerine nädip düşünip biljekdigimiz we netijede özleşdirip biljekdigimiz barada möhüm maglumatlary berip biler.
Artykmyrat KAKALYÝEW,
Türkmenistanyň Inžener-tehniki we ulag
kommunikasiýalar institutynyň
Jemagat infrastrukturasy we inženerçilik
ulgamlary fakultetynyň dekanynyň
ylym işleri boýunça orunbasary.
Teswirler