Programinė įranga atsidūrė pavojuje: technologijų milžinai vienijasi prieš naują grėsmę
Dirbtinio intelekto plėtra vis dažniau kelia nerimą dėl galimų neigiamų pasekmių, ypač kibernetinio saugumo srityje – baiminamasi, kad AI gali suteikti nusikaltėliams naujų įrankių atakoms.
Į šias baimes reaguodama „Anthropic“ pristatė naują iniciatyvą „Project Glasswing“. Jos tikslas – padėti apsaugoti svarbiausią pasaulio programinę įrangą nuo dirbtiniu intelektu paremtų kibernetinių atakų.
Prie projekto prisijungė ir partneriai: „Amazon Web Services“, „Apple“, „Broadcom“, „Cisco“, „CrowdStrike“, „Google“, „JPMorganChase“, „Linux Foundation“, „Microsoft“, „NVIDIA“ ir „Palo Alto Networks“.
Projekto dalyviai naudos „Claude Mythos Preview“ – dar neišleistą, bendros paskirties „Anthropic“ modelį – siekdami sustiprinti savo kibernetinio saugumo sprendimus. Bendrovė teigia, kad šis modelis jau aptiko tūkstančius išnaudojamų pažeidžiamumų, įskaitant spragas kiekvienoje pagrindinėje operacinėje sistemoje ir interneto naršyklėje.
„Anthropic“ nurodo, kad nori savo technologijas vis aktyviau taikyti gynybai – tam, kad būtų užkirstas kelias piktybiškam dirbtinio intelekto naudojimui, galinčiam sukelti rimtų pasekmių ekonomikai ir saugumui.
Pastaruoju metu „Anthropic“ išsiskiria kaip viena iš AI srities bendrovių, aktyviau akcentuojančių etikos ir atsakomybės klausimus. Anksčiau šiemet bendrovė atsisakė panaikinti apsauginius apribojimus, reikalingus jos paslaugų naudojimui Pentagone, o JAV Gynybos departamentas, kaip teigiama, atsakė priskirdamas „Anthropic“ vadinamajai tiekimo grandinės rizikos kategorijai.
Nors „Project Glasswing“ gali tapti svarbiu žingsniu stiprinant kibernetinį saugumą dirbtinio intelekto eroje, dalis problemų jau spėjo išryškėti: pranešta, kad vasarį įsilaužėlis panaudojo „Claude“ atakuodamas kelias Meksikos valstybines institucijas.
