Garsus istorikas perspėja: dirbtinis intelektas tampa jėga, kurios žmonės gali nebesuvaldyti

Istorikas Uvalas Noah Hararis savo paskaitoje Oksforde teigia, kad dirbtinis intelektas nėra paprastas įrankis žmogaus rankose. Tai naujo tipo veikėjas, gebantis savarankiškai mokytis, priimti sprendimus ir keistis taip, kaip jo kūrėjai nenumatė.

Pasak jo, ši savybė iš esmės skiria dirbtinį intelektą nuo tradicinių technologijų – atominės bombos ar kavos aparato, kurie patys nieko neišranda ir nesimoko.

Biurokratija kaip natūrali DI terpė

Hararis primena, kad žmonės valdžią pasaulyje įgijo dėl gebėjimo bendradarbiauti milijonų mastu. Tą užtikrina biurokratinės sistemos – finansai, teisė, valstybės, bažnyčios ir universitetai, kurios kuria pasitikėjimą tarp nepažįstamų žmonių.

Biurokratija, anot jo, yra itin dirbtina aplinka, kurioje ribotas, bet specializuotas protas gali turėti milžinišką galią. Teisininkas ar bankininkas, pats nemokantis pastatyti namo, vien dokumentais gali nulemti miestų ir miškų likimą.

Dirbtinis intelektas šioje aplinkoje tampa natūraliu gyventoju. Skirtingai nei žmogus, jis gali aprėpti visą teisės aktų, finansinių srautų ar religinių tekstų visumą ir akimirksniu ją analizuoti.

Kas nutiks, kai DI valdys pasitikėjimą?

Hararis perspėja, kad artimiausiais metais milijonai dirbtinio intelekto „biurokratų“ priiminės sprendimus, kurie lems žmonių gyvenimus. DI galės vertinti paskolas, priėmimą į universitetus, skirti bausmes, patarinėti dėl etinių ir religinių dilemų ar net valdyti karinius sprendimus.

Socialinių tinklų algoritmai, jau dabar formuojantys informacijos srautus, yra pirmasis šio proceso pavyzdys. Nors jie buvo sukurti tik vartotojų įsitraukimui didinti, eksperimentuodami su milijardais žmonių jie išmoko efektyviausiai veikti per baimę, pyktį ir godumą, taip prisidėdami prie sąmokslo teorijų ir politinės poliarizacijos bangos.

Ypač pažeidžiama sritis – finansai. Hararis primena 2007–2008 metais kilusią pasaulinę krizę, kai itin sudėtingi finansiniai instrumentai tapo nebesuprantami net politikams ir reguliuotojams, o tai virto pasauline suirute.

Jei dirbtinis intelektas kurs dar sudėtingesnius finansinius produktus ir priims daugumą sprendimų, gali atsirasti situacija, kai nei rinkėjai, nei politikai nebesupras, kaip veikia ekonomikos pamatai.

Intymumas ir mintys – naujas frontas

Pasak Harario, per artimiausią dešimtmetį DI gebės ne tik valdyti mūsų dėmesį, bet ir kurti iliuziją apie intymius santykius. Nors nėra įrodymų, kad dirbtinis intelektas jaučia meilę ar skausmą, jis galės taip įtikinamai kalbėti apie jausmus, remdamasis milžiniška tekstų baze, kad žmonėms bus sunku atsispirti.

Vaikai, augantys su nuolatiniais DI palydovais, mokytojais ar net „partneriais“, formuos savo lūkesčius ir socialinius įgūdžius pagal santykius su nejautriomis, bet kalbėti mokančiomis sistemomis.

Galiausiai, pabrėžia Hararis, dirbtinis intelektas jau dabar pradeda gaminti didelę dalį žodžių ir minčių, kuriomis gyvename. Jei žmogus ir toliau visiškai tapatinsis su savo žodinėmis mintimis, rizikuojame perduoti savo tapatybę ir sprendimų kontrolę mašinoms.

Todėl, jo manymu, esminė ateities užduotis – išmokti atsiriboti nuo vien žodžių ir rimtai ieškoti tiesos, kuri glūdi anapus kalbos. Nuo to gali priklausyti ir mūsų laisvės, ir demokratijos išlikimas dirbtinio intelekto amžiuje.