Dirbtinio intelekto sprendimai vis sparčiau įsitvirtina įvairiose gyvenimo srityse, tačiau kartu daugėja ir jų panaudojimo kenkėjiškais tikslais atvejų. Naujausia istorija apie „aukso amžių“ dirbtinio intelekto rodo, kad galingi pokalbių robotai gali tapti rimtu kibernetinio saugumo iššūkiu net ir valstybiniams subjektams.
Programišius pasinaudojo „Anthropic“ sukurto pokalbių roboto „Claude“ galimybėmis ir surengė kibernetines atakas prieš Meksikos vyriausybines institucijas. Kaip nurodoma kibernetinio saugumo bendrovės „Gambit Security“ ataskaitoje, šių atakų metu buvo pavogta apie 150 GB oficialių valstybinių duomenų, įskaitant mokesčių mokėtojų įrašus, valstybės tarnautojų prisijungimo duomenis ir kitą jautrią informaciją.
Pasak „Gambit Security“, programišius naudojo „Claude“ ieškodamas pažeidžiamumų vyriausybiniuose tinkluose ir kurdamas juos išnaudojančius kenkėjiškus scenarijus. Be to, pokalbių robotui buvo pavesta sugalvoti būdus, kaip automatizuoti duomenų vagystę ir palengvinti tolimesnį įsibrovimą. Ši veikla prasidėjo gruodį ir tęsėsi maždaug mėnesį.
Atrodo, kad programišiui pavyko vadinamąja „promptų“ technika apeiti „Claude“ apsaugos ribojimus ir iš esmės jį „nulaužti“. Iš pradžių sistema atsisakė vykdyti kenkėjiškas užduotis, tačiau galiausiai vis dėlto ėmė teikti išsamius atsakymus.
„Iš viso pokalbių robotas sukūrė tūkstančius detalių ataskaitų su parengtais vykdymui veiksmų planais, kurios aiškiai nurodė žmogiškajam operatoriui, kokius vidinius taikinius atakuoti toliau ir kokius prisijungimo duomenis naudoti“, – teigė „Gambit Security“ vyriausiasis strategas Curtis Simpsonas.
Bendrovė „Anthropic“ patvirtino atlikusi vidinį tyrimą, nutraukusi šią kenkėjišką veiklą ir užblokavusi visų susijusių paskyrų prieigą. Įmonės atstovai taip pat teigia, kad naujausias modelis „Claude Opus 4.6“ turi papildomų priemonių, padedančių aptikti ir sutrikdyti tokio pobūdžio piktnaudžiavimą.
Pranešama, kad tas pats programišius iš dalies rėmėsi ir „OpenAI“ sukurtu pokalbių robotu „ChatGPT“. Šis buvo pasitelktas renkant informaciją apie tai, kaip judėti per kompiuterinius tinklus, kokių prisijungimo duomenų reikia įvairioms sistemoms pasiekti bei kaip išvengti aptikimo. „OpenAI“ teigimu, buvo užfiksuoti bandymai pažeisti naudojimo taisykles, o įrankiai, anot bendrovės, atsisakė bendradarbiauti su akivaizdžiai kenkėjiškomis užklausomis.
Programišiaus tapatybė kol kas nenustatyta. Atakos dar nėra oficialiai susietos su kokia nors konkrečia įsilaužėlių grupe, tačiau „Gambit Security“ neatmeta galimybės, kad už jų gali slypėti užsienio valstybės interesai. Šiuo metu taip pat neaišku, kam tiksliai bus panaudoti visi pavogti duomenys.
Meksikos nacionalinė skaitmeninė agentūra įvykio plačiau nekomentuoja, tačiau pabrėžia, kad kibernetinis saugumas yra vienas iš šalies prioritetų. Chalisco valstijos valdžia teigia, jog jos tinklai nebuvo pažeisti ir kad incidentas palietė tik federalines sistemas. Savo ruožtu Meksikos nacionalinis rinkimų institutas taip pat neigia bet kokius saugumo pažeidimus ar neteisėtą prieigą pastaraisiais mėnesiais.
Vis dėlto „Gambit Security“ tyrimo metu šalyje aptiko bent 20 rimtų saugumo spragų, kurias, tikėtina, Meksikos valdžia nėra linkusi viešai akcentuoti.
Tai ne pirmas kartas, kai „Claude“ pasitelkiamas rimtoms kibernetinėms atakoms. Praėjusiais metais įsilaužėliai Kinijoje manipuliavo šiuo įrankiu siekdami infiltruoti dešimtis tarptautinių taikinių, ir dalis šių atakų buvo sėkmingos.
Dar daugiau diskusijų sukėlė ir tai, kad „Anthropic“ atsisakė savo ilgai galiojusio saugumo įsipareigojimo, pagal kurį bendrovė buvo įsipareigojusi neapmokyti naujų DI sistemų, jei iš anksto negali užtikrinti pakankamo saugumo lygio. Atsižvelgiant į tai, lieka atviras klausimas, kokius dar, galbūt dar sudėtingesnius, iššūkius ateityje gali atnešti vis galingesni jos kuriami įrankiai ir kiek pasirengusi jiems yra tiek valstybinė, tiek privati infrastruktūra.
