DI nurengia žmones: skandalinga ataskaita atskleidė, kad šios vis dar prieinamos net vaikams
Dirbtinis intelektas turi daug naudingų pritaikymų, tačiau jo daroma žala taip pat gali būti didžiulė. Viena akivaizdžiausių ir labiausiai nerimą keliančių sričių – dirbtinio intelekto kuriami suklastoti vaizdai (deepfake). Metų pradžioje viešumoje nuskambėjo faktas, kad vadinamosios „nudify“ programėlės buvo plačiai paplitusios abiejose pagrindinėse išmaniųjų telefonų programėlių parduotuvėse.
„Tech Transparency Project“ (TTP) ataskaitoje teigiama, kad situacija iš esmės nepasikeitė nei „Google“ valdomoje „Play Store“, nei „Apple“ „App Store“. Pasak tyrėjų, abiejose platformose ir toliau galima rasti nemažai prieštaringai vertinamų programėlių, o dar labiau neramina tai, kad dalis jų žymimos kaip tinkamos „visiems“ – tai reiškia, jog jas gali parsisiųsti ir naudoti vaikai.
Nauja rykštė programėlių parduotuvėse
„Nudify“ programėlių veikimo principas gana paprastas. Iš esmės tai vaizdų redagavimo įrankiai, kurie generatyvinį dirbtinį intelektą naudoja nuotraukoms keisti: pašalinti tam tikrus elementus, „užpildyti“ trūkstamas vietas ar sukurti naujų detalių. Pati idėja primena tokias funkcijas kaip „Google Photos“ „Magic Editor“, tik esminis skirtumas tas, kad pastarosios paprastai turi daugiau saugiklių, o daugelyje „nudify“ programėlių jų gali nebūti.
Nesunku nuspėti, kam tokie įrankiai naudojami. Generatyvinis dirbtinis intelektas suteikia galimybę skaitmeniniu būdu „nurengti“ žmones nuotraukose ir taip iš, atrodytų, nekaltų kadrų sukurti seksualinio pobūdžio vaizdus.
TTP ataskaitoje teigiama, kad net 31 tokia programėlė galėjo būti nepakankamai patikrinta ir buvo priskirta kategorijai „visiems“. Dėl to jos galėjo būti ne tik prieinamos vaikams, bet ir jiems aktyviai siūlomos, taip atveriant kelią įvairioms grėsmėms.
Nors ataskaitoje pateikiamas detalesnis aptariamų programėlių sąrašas ir jų galimybės, tyrėjai pabrėžia, kad žalos rizika yra itin didelė. Be to, tai – pelningas verslas: TTP skaičiavimais, vertintos programėlės galėjo sugeneruoti apie 122 mln. dolerių pajamų ir būti atsisiųstos beveik 500 mln. kartų.
TTP paprašius komentaro, „Google“ nurodė, kad dalis ataskaitoje minimų programėlių iš parduotuvės jau pašalinta. „Apple“ taip pat pašalino dalį programėlių, nors viešai situacijos nekomentavo.
Tokių programėlių keliamos problemos yra akivaizdžios, todėl kai kur jau imamasi priemonių jas riboti. Pavyzdžiui, Jungtinės Karalystės institucijos yra pradėjusios procesus, kuriais siekiama tokias programėles uždrausti, atsižvelgiant į žalą, kurią panašūs įrankiai jau daro mokyklose ir kitose aplinkose.
Autoriaus nuomone, „Apple“ ir „Google“ tikėtina pašalina tokias programėles, kai apie jas sužino, kaip pačios ir teigia. Vis dėlto jų paplitimas ir akivaizdi finansinė nauda rodo, kad gali prireikti sisteminių pokyčių – tiek programėlių vertinimo, tiek jų priežiūros ir kontrolės srityse, nes generatyvinio dirbtinio intelekto įrankiams toliau tobulėjant tokio pobūdžio programėlių gali tik daugėti.
