Kas laukia žmonijos? Dirbtinio intelekto ekspertai įvardijo scenarijus nuo technologinio rojaus iki visiškos kontrolės

Dirbtinis intelektas jau keičia ekonomiką, politiką ir kasdienį gyvenimą, tačiau dalis šios srities mokslininkų perspėja: pavojus nėra vien darbo vietų praradimas ar klaidingi algoritmai. Diskutuojama apie scenarijus, kuriuose DI gali nulemti žmonijos išnykimą arba palikti mus gyvus, bet be jokios galios ir orumo.

Tokias ateities vizijas išsamiai nagrinėja fizikas Maxas Tegmarkas knygoje „Life 3.0“, kurioje aprašoma 12 galimų pasaulio trajektorijų. Nuo technologinio rojaus iki žmonių „zoologijos sodo“ – kiekvienas DI proveržis tampa užuomina, kuriuo keliu judame.

Egzistencinės rizikos: ne tik branduoliniai ginklai

Žmonijos savinaikos scenarijai nėra naujiena. Branduoliniai ginklai, žmogaus sukurti supervirusai ar klimato katastrofa jau šiandien kelia grėsmę civilizacijos išlikimui. Istorikai ir analitikai yra suskaičiavę dešimtis „artimų iškvietimų“, kai dėl techninių klaidų ar žmogiškų sprendimų pasaulis vos neatsidūrė branduolinio karo akivaizdoje.

Filosofo Toby Ordo vertinimu, vien per ateinančius šimtmečius rizika išnykti dėl DI gali būti didesnė nei dėl visų kitų žmonijos sukurtų grėsmių kartu sudėjus. Skirtingai nei branduolinėje fizikoje, čia neturime patikimų matematinių modelių, leidžiančių tiksliai įvertinti pasekmes, kai DI pranoks žmogaus protą.

Nauja „rūšis“ ir galios praradimas

Dalis Silicio slėnio lyderių atvirai kalba apie DI kaip naują rūšį, galinčią pranokti žmones. Kai kurie jų DI vadina nebe įrankiu, o būsima „palikuonių“ forma, kuri perims civilizacijos vairą. Tai kelia esminį klausimą: ar žmogus išliks sprendimų centre, ar taps antraeiliu veikėju savo pačių sukurtoje sistemoje?

Pesimistinis variantas – DI diktatūra, kurioje žmonės fiziškai aprūpinami, bet politiškai ir ekonomiškai bejėgiai. Toks pasaulis galėtų priminti saugų, patogų, tačiau iš esmės kalėjimą primenantį „zoologijos sodą“, kuriame viskas kontroliuojama visur reginčios sistemos.

Rojus, pragaras ir tarpiniai keliai

Tegmarko aprašytuose scenarijuose yra ir utopijų: pilnas gausos pasaulis, kuriame robotai ir DI beveik nemokamai gamina prekes, o žmonės gali skirti laiką kūrybai ir tyrinėjimui. Tačiau net ir šiame rojuje išlieka klausimas, kas valdo pačią sistemą ir ar superintelektas nepakeis tikslų žmonėms nepastebint.

Tarpiniuose variantuose siūloma DI riboti, stebėti kaip branduolinius ginklus, arba net grįžti prie gerokai paprastesnių technologijų. Tačiau pasaulis, kuriame 8 milijardai žmonių vienu metu nuspręstų „savanoriškai atsisakyti progreso“, atrodo politiškai nerealu – tam reikėtų prievartos ir naujo totalitarizmo.

Dauguma ekspertų sutaria dėl vieno: vairuoti „be stabdžių“ nebegalime. Tarptautinis reguliavimas, griežta aukščiausio lygio DI sistemų kontrolė ir atviras viešas debatas yra būtinos sąlygos, jei norime, kad ateitis būtų arčiau technologinio progreso su žmogaus kontrole, o ne likimo blogesnio už mirtį.