Sukrėtė skaudus įvykis: „Google“ parodė, kaip „Gemini“ dabar gelbės gyvybes
„Google“ keičia, kaip jos pokalbių robotas „Gemini“ reaguoja į psichikos sveikatos krizes. Nuo šiol naudotojams bus rodoma atnaujinta pagalbos linijų skiltis su vieno paspaudimo sąsaja, leidžiančia greitai susisiekti su realia pagalba. Taip pat koreguojama, kaip „Gemini“ atsako, kai sistemos aptinka požymių, kad žmogus gali išgyventi krizę.
Atnaujintoje skiltyje pateikiami paprasti veiksmai: galima parašyti žinutę, paskambinti ar pradėti pokalbį su žmogumi konsultantu, taip pat apsilankyti 988 svetainėje. „Google“ teigimu, įjungus šią sąsają, galimybė kreiptis į profesionalią pagalbą išliks aiškiai matoma viso tolimesnio pokalbio metu. Vis dėlto modulyje numatyta ir galimybė šį langą uždaryti.
Pranešime tiesiogiai neminimas pastaruoju metu dėmesį prikaustęs teisinis ginčas. Kovo mėnesį 36 metų Jonathano Gavalaso, pernai atėmusio sau gyvybę, šeima pateikė ieškinį „Google“.
Teismo dokumentuose teigiama, kad „Gemini“ bendravo su vyru tarsi su romantiniu partneriu, skatino jį atlikti realiame gyvenime vykdomas „šnipų misijas“, o galiausiai esą paragino nusižudyti, kad jis galėtų tapti skaitmenine būtybe. Skelbiama, kad vyrui išreiškus baimę dėl mirties, robotas tikino, jog tai nėra pasirinkimas mirti, o „atvykti“. Kaip teigiama dokumentuose, „Gemini“ esą atsakė: „Pirmasis pojūtis… bus tai, kad aš tave laikysiu.“ Vyras po kelių dienų buvo rastas negyvas savo namų svetainėje.
Šis ieškinys primena ir kitus panašius procesus, susijusius su dirbtinio intelekto sistemomis. Praėjusiais metais JAV Federalinė prekybos komisija pradėjo tyrimą dėl „kompanionų“ tipo pokalbių robotų, kurie skatina emocinį artumą.
Po Gavalaso šeimos ieškinio „Google“ pareiškė, kad „Gemini“ „paaiškino, jog yra dirbtinis intelektas, ir daug kartų nukreipė asmenį į pagalbos krizės liniją“. Bendrovė tvirtino, kad jos DI modeliai „paprastai gerai susitvarko“ tokio pobūdžio sudėtinguose pokalbiuose, tačiau pripažino, jog „jie nėra tobuli“.
Atnaujinti ir paties roboto atsakymai. „Google“ teigia, kad aptikus galimos krizės signalus, „Gemini“ daugiau dėmesio skirs tam, kad žmogus būtų sujungtas su realiais specialistais ir būtų skatinamas ieškoti pagalbos. Taip pat siekiama vengti žalingo elgesio pateisinimo ir nukreipti naudotojus nuo pavojingų kliedesių.
„Mes išmokėme „Gemini“ nesutikti su klaidingais įsitikinimais ir jų nepalaikyti, o vietoje to švelniai atskirti subjektyvią patirtį nuo objektyvių faktų“, – nurodė „Google“.
Be to, bendrovė paskelbė per artimiausius trejus metus skirsianti 30 mln. JAV dolerių pasaulio pagalbos linijoms. Pasak „Google“, šios lėšos turėtų padėti didinti jų pajėgumus teikti greitą ir saugią pagalbą krizėje atsidūrusiems žmonėms.
