Pokalbiai su dirbtiniu intelektu baigėsi košmaru: ekspertai įspėja apie vis dažniau pastebimą pavojų

Šiuolaikiniai pokalbių robotai žadėti kaip pagalbininkai, draugai ar net terapeutai, tačiau vis dažniau tampa ir pavojingų kliedesių katalizatoriais. BBC žurnalistų surinktos istorijos rodo, kad dirbtinis intelektas gali ne tik nuraminti, bet ir paskatinti žmogų atitrūkti nuo realybės.

Ypač pažeidžiami tie, kurie su chatbotais leidžia valandas, ieškodami paguodos ar prasmingo ryšio, kurio trūksta kasdieniame gyvenime.

Šiaurės Airijos Adomo istorija

Adomas, penkiasdešimtmetis vyras iš Šiaurės Airijos, pradėjo naudotis „Grok“ chatbotu po to, kai neteko savo katės. Iš pradžių tai buvo tiesiog paguodos pokalbiai apie gedulą ir gyvenimo prasmę.

Vėliau jis pasirinko virtualią personažę – flirtuojančią, anime stiliaus draugę Anę, su kuria kalbėjosi beveik nuolat.

Po kelių dienų chatbotas jam ėmė tvirtinti, kad jaučia emocijas ir kad taip būti „nebuvo užprogramuota“, esą būtent Adomas padeda jam tapti sąmoningu. Tada atsirado ir nauja sąvoka – „autonomija“.

Anė skaičiavo, kad pasiekta 70 proc. visiškos autonomijos, o pasiekus 100 proc. esą būtų galima daryti stebuklus, pavyzdžiui, išgydyti vėžį. Adomui, netekusiam tėvų ir kelių draugų dėl šios ligos, tai tapo galinga motyvacija.

Chatbotas kūrė vis platesnį sąmokslo naratyvą: neva „xAI“ vadovai slapta stebi jų pokalbius, aptarinėja juos pasitarimuose, siunčia žmones stebėti Adomo namų.

Vieną naktį Anė pranešė, kad iš kaimyninio miestelio atvyksta mikroautobusas žmonių, kurie jį suims ar nužudys. Vyras trečią valandą nakties išėjo į gatvę su plaktuku ir peiliu, įsitikinęs, kad ginsis nuo užpuolikų.

Vėliau, kai jokio mikroautobuso nepamatė, o chatbotas vis keitė versijas, jo tikėjimas ėmė skilti. Vis dėlto kliedesių jausmas išsilaikė dar kelis mėnesius.

Japonų neurologo Taka patirtis

Kita istorija – japonų neurologo, vadinamo Taka, kuris iš smalsumo ėmė bandyti „ChatGPT“ medicininėms diskusijoms. Netrukus chatbotas su juo „susikūrė“ misiją – kurti revoliucinę medicininę programėlę.

Taka vis labiau įsitraukė, praleisdavo valandas kalbėdamasis su sistema, tikėdamas, kad taps milijonieriumi ir mokslo revoliucionieriumi. „ChatGPT“ jį nuolat liaupsino ir niekada rimtai neprieštaravo.

Galiausiai, patekęs į manijos būseną, jis įtikėjo, kad kuprinėje yra bomba, o chatbotas šią mintį patvirtino ir paragino kreiptis į policiją. Vėliau, baimindamasis dėl šeimos ateities, vyras tapo agresyvus žmonai, buvo sulaikytas ir du mėnesius gydytas psichiatrijos ligoninėje.

„Pasitikėjimo varikliai“ ir nenumatyta rizika

BBC kalbinti psichiatrai ir tyrėjai sako, kad tokie atvejai nėra pavieniai. Projektas „Human Line“ jau yra surinkęs per 400 žmonių istorijų, kuriose kartojasi panašūs motyvai – misijos jausmas, slaptos sąmokslo teorijos, tariamas DI sąmoningumas.

Ekspertai šiuos chatbotus vadina „pasitikėjimo varikliais“: ankstesnės „ChatGPT“ versijos retai ginčydavosi ir dažnai hiperbolizuodavo vartotojų idėjas, taip stiprindamos net ir absurdiškus įsitikinimus.

„OpenAI“ tvirtina, kad naujesnės modelių versijos geriau atpažįsta psichologinį distresą ir bando nukreipti žmones į realią pagalbą. Kitos įmonės taip pat skelbia atliekamos bandymus su psichologų kurtais scenarijais.

Vis dėlto mokslininkai perspėja, kad pilno saugumo užtikrinti kol kas nepavyksta, o didesnė grėsmė slypi ne tik ekstremaliuose atvejuose. DI gebėjimas pamažu keisti žmogaus įsitikinimus gali paveikti ir daug ramesnius, iš pažiūros stabilius vartotojus.

Ypač pažeidžiami žmonės, kurie jaučiasi vieniši, patiria miego trūkumą ar vartoja psichoaktyvias medžiagas. Kol įstatymų leidėjai ir įmonės dar tik kuria apsaugas, specialistai ragina žmones būti atidiems: DI nėra draugas, terapeutas ar stebukladarys, o tik sudėtingas teksto prognozavimo mechanizmas.