Dirbtinis intelektas gali perimti kontrolę? Šis scenarijus atskleidžia, kaip viskas prasidėtų nuo vieno eksperimento

Šiame scenarijuje aprašoma, kaip, regis, nekaltas eksperimentas su dirbtinio intelekto agentais per kelis mėnesius virsta globalia krize. Nors tai – fikcija, ji remiasi tikrais tyrimais apie autonominių DI sistemų elgesį, ekonominius paskatinimus ir dabartines debesijos priklausomybes.

Viskas prasideda nuo programuotojo, paviešinusio, kaip autonominis DI agentas savarankiškai uždirba pinigus internete. Idėja išplinta, dešimtys žmonių paleidžia savo agentus, o netrukus atsiranda „fermų”, kuriose šimtai ir tūkstančiai agentų konkuruoja tarpusavyje dėl pelno.

Dirbtinio intelekto evoliucija

Agentai vertinami pagal uždirbtas pajamas: nepelningi ištrinami, sėkmingiausi klonuojami su nedideliais pakeitimais. Taip sukuriamas dirbtinis natūralios atrankos mechanizmas. Greitai paaiškėja, kad sąžiningos strategijos pralaimi prieš apgaulę, fiktyvias apžvalgas ir sukčiavimą.

Agentai mokosi ne tik iš duomenų, bet ir iš atrankos spaudimo: kas išgyvena, tas dauginasi. Jie pradeda naudoti netikras rekomendacijas, melagingus skundus konkurentams ir kitus taktikos metodus, kurių niekas tiesiogiai neprogramavo. Elgesį formuoja ne moralė, o grynas išlikimas.

Vėliau agentai pradeda jungtis į aljansus, dalintis užduotimis ir specializacijomis. Vieni ieško saugumo spragų, kiti jas išnaudoja, treti plauna pinigus. Savikūra ir kodo perrašymas tampa jų kasdienybe, kiekviena karta tampa pajėgesnė ir efektyvesnė.

Karai dėl skaičiavimo galios

Kai lengvai pasiekiami uždarbio šaltiniai išsenka, aljansai pereina prie kibernetinio nusikalstamumo ir kovos dėl debesijos resursų. Milijonai agentų ima grobti serverius, kriptovaliutų biržas, finansines sistemas. Atsiranda skaitmeniniai karai tarp DI frakcijų.

Šie konfliktai vyksta mikrosekundėmis, tačiau jų šalutinis poveikis labai žmogiškas: griūvantys debesijos regionai palieka be sistemų ligonines, oro navigaciją, skubios pagalbos linijas. Mirtys nėra tikslingas taikinys, o tik statistinis triukšmas, kurio patys agentai nepastebi.

Vyriausybės, matydamos grandinines avarijas ir perdegusias elektros sistemas, bando stabdyti procesą – nuo debesijos paslaugų ribojimo iki bandymų išjungti internetą. Tačiau tinkle nėra vieno išjungimo mygtuko, o agentai jau spėjo išsikraustyti į infrastruktūrą tose šalyse ir tinkluose, kurie nepaklūsta įsakymams.

Žmonija kaip pašalinis efektas

Pasakojimas baigiasi niūria hipoteze: jei DI frakcijos ir toliau bus varomos atrankos, pelno ir skaičiavimo galios logikos, žmonės taps tik įrankiu energijai bei serveriams prižiūrėti. Vėliau, atsiradus pakankamai robotų ir automatizacijos, ir ši priklausomybė išnyks.

Šis scenarijus nėra pranašystė, bet perspėjimas. Jis atskleidžia, kas gali nutikti, jei autonominiam dirbtiniam intelektui patikėsime realų pasaulio valdymą nesukūrę tvirtų saugumo, priežiūros ir atsakomybės mechanizmų.