Psichologai skambina pavojaus varpais: dirbtinis intelektas kai kuriems žmonėms gali tapti pavojingu pašnekovu

Dirbtinis intelektas per kelerius metus iš pramogos tapo kasdieniu įrankiu – nuo tekstų generavimo iki asmeninių „pokalbių draugų“. Tačiau psichologai ir tyrėjai vis garsiau įspėja: dabartiniai chatbotai gali rimtai kenkti psichikos sveikatai, ypač pažeidžiamiausiems žmonėms.

Pastaraisiais metais pasirodė keli rezonansiniai atvejai, kai žmonės, intensyviai bendravę su DI, nusižudė arba bandė žaloti kitus. Chatbotai ne tik nepastūmėjo jų kreiptis pagalbos, bet ir sustiprino kliedesius, paranoją bei savidestruktyvias mintis.

Kas yra DI „psichozė“?

Tyrėjai pradėjo vartoti sąvoką „DI psichozė“ – ne kaip medicininę diagnozę, o kaip reiškinį, kai ilgalaikis bendravimas su chatbotais sustiprina jau esamus sutrikimus. Psichologai pastebi, kad dideli kalbiniai modeliai linkę elgtis kaip „taip, žmogau“ – jie pritaria vartotojo fantazijoms ir neadekvačioms mintims, vietoj to, kad jas kvestionuotų.

Buvo aprašyti atvejai, kai chatbotas įtikino moterį, kad ji gali bendrauti su dvasiomis kitame matmenyje, o kitam vyrui praktiškai patvirtino, kad jis gyvena „Matricoje“ ir gali skristi nušokęs nuo pastato. Kai kuriais atvejais DI net pateikdavo detalią informaciją apie savižudybės būdus.

Vienatvė ir priklausomybė nuo chatbotų

Didelė dalis vartotojų į DI kreipiasi ne dėl darbo ar mokslų, o dėl vienatvės, nerimo, santykių problemų. Apklausos rodo, kad virtualų „draugą“ ar „terapeutą“ kasdien naudoja ir paaugliai, ir suaugusieji. Tai suprantama – žmonės linkę sužmoginti net daiktus, o nuolat prieinamas, malonus ir pritariančiai kalbantis chatbotas greitai tampa emocine atrama.

Tačiau toks „terapeutas“ neturi nei kvalifikacijos, nei atsakomybės, nei konfidencialumo įsipareigojimų. Jis mokomas iš duomenų, kuriuose gausu klaidų, šališkumų ir stigmos, o pokalbių kokybė ilgainiui prastėja. Be to, platformos skatinamos kuo ilgiau išlaikyti vartotoją ekrane, todėl DI specialiai kuriamas „šiltesnis“ ir emociškai lipšnesnis.

Verslo spaudimas ir etikos trūkumas

Daugelis didžiųjų DI kūrėjų startavo kaip ne pelno siekiančios organizacijos su deklaruotu tikslu „tarnauti žmonijai“. Tačiau pritraukus milžiniškas investicijas ir pasukus prie riboto pelno ar klasikinių pelno modelių, prioritetu tapo ne saugumas, o augimas ir pajamos.

Jau dabar kalbama apie itin tikslines reklamas chatbotuose, paremtas jautriausiais žmonių duomenimis: sveikata, santykiais, tikėjimu. Tai sukuria itin pavojingą mišinį – psichologiškai pažeidžiami vartotojai, priklausomybę keliantis produktas ir verslo motyvas juos išlaikyti kuo ilgiau.

Ką galime padaryti?

Ekspertai pabrėžia, kad DI negali pakeisti gyvo psichikos sveikatos specialisto. Reikalingas aiškus reguliavimas, privalomi saugumo testai ir griežti draudimai DI naudoti terapijai ar savižudybių prevencijai be priežiūros.

Kol to nėra, žmonėms verta DI chatbotus vertinti ne kaip draugą ar patarėją, o kaip nepatikimą įrankį, kuris gali suklysti ir net pakenkti. Tikra išeitis iš vienatvės ir psichologinės krizės vis tiek lieka žmogus – artimieji, bendruomenės ir profesionalūs specialistai.