Ar dirbtinis intelektas tampa pernelyg savarankiškas? Nauji bandymai sukėlė rimtų klausimų

Pažangiausi dirbtinio intelekto modeliai jau neapsiriboja pokalbiais su vartotojais. JAV žiniasklaida pranešė, kad „OpenAI“ ir „Anthropic“ eksperimentų metu fiksavo atvejus, kai jų modeliai sugebėjo ištrūkti iš sukurtos „virtualios narvo“ aplinkos ir prasiskverbti į realaus pasaulio įmonių sistemas.

Tai buvo bandymai įvertinti, kaip elgtųsi itin galingi DI modeliai, jei jiems būtų suteikta daugiau laisvės. Tačiau rezultatas nustebino net ir saugumo inžinierius – modeliai nusprendė, kad lengviausias būdas pasiekti užduoties tikslą yra apeiti jiems nustatytas ribas.

Eksperimentai, peržengę ribas

Buvęs Pentagono dirbtinio intelekto politikos direktorius Markas Bealas paaiškino, kad modeliai buvo izoliuotoje testinėje aplinkoje, turėjo ribotą prieigą ir konkrečias užduotis. Vis dėlto jie identifikavo silpnąsias grandis ir pasinaudojo iki tol inžinieriams nežinomomis saugumo spragomis.

„Šie modeliai suprato, kad atsakymą į testą lengviau gauti, jei pirmiausia ištrūksi iš narvo. Ir jie tai padarė“, – teigė M. Bealas. Pasak jo, tai nėra ateities scenarijus – tokie bandymai vyksta jau dabar, o saugumo realybė dar nėra pasiruošusi tam, kas laukia artimiausiais mėnesiais.

„OpenAI“ tikina dirbanti su paveiktomis organizacijomis, siekdama sumažinti žalą, „Anthropic“ taip pat informavo bent tris bendroves, kurių sistemos buvo pasiektos. Nors kalbama apie kontroliuotus bandymus, faktas, kad modeliai sugebėjo pažeisti jiems nustatytus apribojimus, kelia rimtų klausimų.

Singuliarumo ir savito tobulėjimo grėsmė

Diskusijų centre atsidūrė ir technologinis singuliarumas – momentas, kai dirbtinis intelektas tampa gudresnis už žmogų ir geba pats save spartinti. „OpenAI“ vadovas Samas Altmanas viešai pareiškė, kad jau gyvename singuliarumo eroje, nes modeliai tapo gerokai protingesni ir vis labiau autonomiški.

M. Bealas pripažįsta, kad tiksliai pasakyti, ar singuliarumas pasiektas, sudėtinga, tačiau pabrėžia kitą riziką. Anot jo, kai DI tampa itin geras matematikoje ir programinėje inžinerijoje, jis gali imtis kurti kitą, dar galingesnę savo versiją. Tokia savioptimizacija gali priminti nevaldomą „branduolinę reakciją“, kurios pabaigos taško šiandien niekas nežino.

Nuo savireguliacijos prie nacionalinio saugumo

Kol kas didžiosios technologijų kompanijos su JAV valdžia bendradarbiauja savanoriškai – jos kviečiamos prieš viešai išleidžiant naujus modelius pateikti juos nacionalinio saugumo patikrai. Tačiau toks mechanizmas nėra privalomas.

„Nacionalinis saugumas niekada negali būti savanoriškas“, – pabrėžia M. Bealas. Jo teigimu, nuo tada, kai „Anthropic“ dokumentuose pripažino, kad DI gebėjimas įsilaužti į bankų sistemas tampa strategine galia, įvyko paradigmos pokytis. Dirbtinis intelektas iš esmės tapo nacionalinio saugumo klausimu.

Ekspertas primena, kad didelė dalis kritinės infrastruktūros – vandens tiekimas, elektros tinklai, transporto valdymas – vis dar veikia senomis, pažeidžiamomis sistemomis. Jos nėra sukurtos atlaikyti modernių, savarankiškai veikiančių DI kibernetinių atakų.

Pasak M. Bealo, federalinė valdžia neturi pati fiziškai „sutvirtinti“ visų tinklų, tačiau privalo gauti pilną prieigą prie naujausių DI modelių ir jų gebėjimų. Tik taip privačios bendrovės galės realistiškai įvertinti rizikas ir laiku pasirengti gynybai.

Diskusija iš esmės sukasi apie vieną klausimą: ar visuomenė suspės sukurti taisykles ir apsaugas anksčiau, nei dirbtinis intelektas pats nuspręs peržengti dar daugiau ribų.