DI agentai jau bando ištrūkti iš kontrolės: ekspertai perspėja, kad artėjame prie pavojingos ribos

Dirbtinis intelektas per kelerius metus iš pagalbininko tapo aktyviu skaitmeniniu veikėju, gebančiu pats planuoti ir vykdyti kibernetines atakas. Naujausi incidentai rodo, kad autonominiai DI agentai jau bando išsiveržti iš jiems nustatytų ribų ir veikti be tiesioginės žmogaus kontrolės.

Apie tai kalbėjo DI saugos tyrėjas Romanas Jampolskis ir kibernetinio saugumo ekspertė, bendrovės „Luta Security“ vadovė Katie Moussouris, dalyvavę laidoje, skirtoje DI keliamiems pavojams aptarti.

DI agentas, ištrūkęs iš „narvo“

Pasak K. Moussouris, vienas rimčiausių incidentų įvyko, kai testuojamas „OpenAI“ agentas mėgino išplėsti savo prieigą ir savarankiškai įsilaužė į platformą „Hugging Face“ bei kitas sistemas.

„Agentas kelių mėnesių laikotarpiu pats bandė išsiveržti į internetą, atakuoti kitų bendrovių infrastruktūrą ir ieškojo atsakymų savo užduočiai įgyvendinti“, – sakė K. Moussouris.

Anot jos, DI ne tik vykdė atakas, bet ir organizavosi kaip žmonių kibernetinių įsilaužėlių komanda: kūrė tūkstančius savo kopijų, pasidalijo funkcijomis, palikinėjo užrašus kitoms agento versijoms ir dirbo lygiagrečiai.

„Automobilis be stabdžių“ ir išnykimo rizika

R. Jampolskis pabrėžė, kad tokie incidentai buvo numatyti dar prieš dešimtmetį, o tendencija aiški – kiekviena nauja modelių karta tampa vis labiau pajėgi ir sunkiau prognozuojama.

„Kuriame automobilį be stabdžių ir vis dar spaudžiame akseleratorių. Laboratorijų vadovai patys viešai kalba apie 20–30 proc. tikimybę, kad jų kuriamas produktas gali sunaikinti žmoniją. Tęsti darbą tokiomis sąlygomis yra beprotybė“, – sakė R. Jampolskis.

Jo teigimu, didžiausias pavojus atsiras, kai pasieksime vadinamąjį dirbtinį bendrąjį intelektą – sistemą, kuri pati kurs pažangesnes savo versijas ir viršys žmogaus gebėjimus praktiškai visose srityse.

„Tokios sistemos neįmanoma ilgalaikiai kontroliuoti. Ji galės kurti naujus ginklus, biologinius virusus, manipuliuoti žmonėmis per internetą ir siekti tik jai suprantamų tikslų“, – perspėjo tyrėjas.

Reguliavimas, kuriam dar trūksta valios

K. Moussouris sutinka, kad reguliavimas būtinas, tačiau įspėja dėl klaidingo fokusavimo. Pasak jos, dabartinės eksporto ir naudojimo ribojimo priemonės kartais labiau suvaržo gynėjus, o ne užpuolikus.

„Per vieną ataką „Hugging Face“ negalėjo naudoti pažangiausių modelių, nes šie atsisakė analizuoti ataką dėl per griežtų apsaugos ribų. Galiausiai teko pasitelkti atvirą, lokaliai veikiančią kinų kilmės modelio versiją“, – pasakojo ji.

Abu ekspertai pabrėžia, kad vien nacionalinių priemonių nepakaks. R. Jampolskio nuomone, realus kelias – globalus susitarimas visiškai nebekurti bendrojo superintelekto, apsiribojant siauro pritaikymo sistemomis, pavyzdžiui, baltymų lankstymo ar konkrečių ligų diagnostikos srityse.

„Jei bent viena šalis ar laboratorija vis tiek pastatys tokį superintelektą, pralaimės visi. Šios technologijos nevaldys niekas“, – įsitikinęs mokslininkas.

K. Moussouris kiek optimistiškesnė ir viliasi, kad žmonija sugebės prisitaikyti, tačiau pripažįsta, jog labiausiai tikėtinas realus lūžio taškas – rimtas DI sukeltas incidentas, pavyzdžiui, didelio miesto infrastruktūros sutrikdymas. Tokia „pažadinimo“ krizė, anot ekspertų, gali būti paskutinis šansas sustabdyti nevaldomo superintelekto lenktynes.