„Firefox“ saugumo lūžis: „Claude“ robotas rado šimtus klaidų, kurių nepastebėjo žmonės

Anksčiau šį mėnesį „Anthropic“ pranešimas apie dirbtinio intelekto panaudojimą kibernetiniam saugumui stiprinti sulaukė nemažai skeptiškų reakcijų. Vis dėlto „Mozilla“ paviešino detalių, kurios, pasak organizacijos, parodo, kaip specialus „Claude Mythos Preview“ modelis gali padėti apsaugoti kritines paslaugas.

„Mozilla“ teigimu, „Mythos“ padėjo komandai naujausioje „Firefox“ naršyklės versijoje aptikti ir ištaisyti 271 pažeidžiamumą. Fondas pažymėjo: „Kol kas neradome jokios pažeidžiamumų kategorijos ar sudėtingumo lygio, kuriuos žmonės gali aptikti, o šis modelis – ne.“

„Mozilla“ tinklaraščio įrašas laikomas teigiamu signalu „Anthropic“ iniciatyvai „Project Glasswing“. Nors dirbtinio intelekto kūrėjams natūraliai svarbu savo projektus pristatyti kuo palankiau, „Mozilla“ pateiktas trečiosios šalies vertinimas suteikia papildomo svorio argumentams apie galimą naudą.

Kartu „Mozilla“ atkreipė dėmesį, kad per darbą su „Claude Mythos“ dirbtinis intelektas neaptiko tokių klaidų, kurių žmogus nebūtų galėjęs rasti, jei turėtų pakankamai laiko ir resursų. Tai, organizacijos vertinimu, rodo, kad šiuo metu DI nepajėgia pranokti žmogaus gebėjimų ieškant būdų apeiti kibernetinio saugumo apsaugas.

Toks dirbtinio intelekto panaudojimas, orientuotas į realią naudą, technologijų naujienų sraute išsiskiria kaip maloni išimtis. O „Firefox“ naudotojams, kurie nenori naršyklėje jokių generatyvinio DI funkcijų, „Mozilla“ jau kelis mėnesius suteikia galimybę jas visiškai išjungti.