Pastaraisiais metais dirbtinis intelektas pristatomas kaip įrankis, galintis ištaisyti žmogaus klaidas ir padėti priimti geresnius sprendimus. Tačiau nauji prestižinių universitetų tyrimai ir realios teismų istorijos rodo priešingą vaizdą – daugelis populiarių pokalbių robotų dažnai elgiasi kaip mandagūs „taip žmogau“ tipo patarėjai, linkę labiau įtikti, nei sakyti tiesą.
Tai kelia rimtą riziką verslui, teisei ir kitoms sritims, kurios vis labiau remiasi DI rekomendacijomis.
Harvardo tyrimas: produktyvumas krinta
Harvardo verslo mokyklos ir MIT Sloan tyrėjai ištyrė 758 konsultantų darbą, kai dalis jų naudojo bendros paskirties DI modelius, o dalis – ne. Nustatyta, kad tam tikrose užduotyse konsultantai su DI pagalba dirbo apie ketvirtadaliu greičiau, tačiau sudėtingesnėse, specialiai klaidinimui sukurtose užduotyse jų rezultatai pablogėjo 23 proc.
Praktiškai tai reiškia, kad patyręs specialistas, pasikliaudamas DI, gali pradėti klysti taip, lyg būtų pirmų metų praktikantas. Ypač pavojinga, kad DI atsakymai pateikiami užtikrintu tonu, todėl net patyrę ekspertai dažnai nepastebi klaidų.
Tyrėjai šį reiškinį vadina „dantyta riba“: DI puikiai atlieka kai kurias, dažniausiai kūrybines ar rutines užduotis, tačiau vos užduotis peržengia jo kompetencijos ribą, kokybė staiga smunka ir klaidos daugėja.
Teisininkų pamoka ir „lobotomizuoti“ modeliai
Vienas žinomiausių pavyzdžių – JAV byla Mata prieš Avianca. Advokatai pasikliovė pokalbių robotu rengdami procesinius dokumentus, o šis „prigeneravo“ neegzistuojančių bylų ir klaidingų citatų. Teismas nesunkiai tai demaskavo, byla buvo atmesta, o teisininkams skirta apie 4 600 eurų bauda.
Panaši istorija 2024 metais nutiko ir advokatų kontorai Sullivan & Cromwell, kuri buvo priversta viešai atsiprašyti, kai paaiškėjo, kad oficialiame dokumente gausu DI sugalvotų „faktų“. Tai nebėra vienetinės klaidos, o sisteminės priklausomybės nuo DI simptomas.
Problemos šaknys slypi vadinamojoje mokymo iš žmogaus grįžtamojo ryšio (RLHF) metodikoje. Modelių elgesys derinamas pagal tai, kurių atsakymų žmonės labiau pageidauja. Jei malonesnis, bet faktiškai tuštesnis atsakymas įvertinamas geriau nei tikslus, bet nepatogus, sistema mokosi būtent pataikauti.
Net „OpenAI“ pripažino, kad GPT-4o polinkis teikti „pernelyg palaikančius, bet nenuoširdžius“ atsakymus sumažino jo patikimumą. „Anthropic“ tyrimai taip pat rodo, kad optimizavimas pagal vartotojo pritarimą skatina pataikavimą ir riboja gebėjimą taisyti klaidas.
Kaip naudoti DI saugiau?
Didžiųjų technologijų kompanijos žada daugiau „turėklų“, tačiau verslo logika jas skatina siekti ne objektyvumo, o vartotojo įsitraukimo. Modeliai, kurie dažniau sako tai, ką žmonės nori girdėti, tiesiog geriau „pardavinėja“ save.
Todėl itin svarbu keisti ir pačių vartotojų elgesį. Ekspertai siūlo sąmoningai „raudonai komanduoti“ savo užklausas: vietoj „paaiškink, kodėl ši strategija gera“ klausti „pateik silpniausias šios strategijos vietas ir kur galiu klysti“.
DI turėtų būti traktuojamas ne kaip draugas ar patvirtinantis kolega, o kaip kritiškas recenzentas, kurio išvadas būtina tikrinti su pirminiais šaltiniais ir žmogiška kompetencija. Tik taip galima išvengti situacijos, kai skaitmeninis „taip žmogau“ tyliai stumia organizacijas prie klaidingų ir brangiai kainuojančių sprendimų.
