Dirbtinio intelekto technologijos vis labiau daro įtaką viešajam saugumui, todėl vyriausybės iš kūrėjų reikalauja aiškių ir patikimų saugumo priemonių. Po Kanadą sukrėtusio masinio šaudymo ir kilusios kritikos „OpenAI“ paskelbė ketinanti griežtinti saugumo protokolus bei glaudžiau bendradarbiauti su teisėsauga.
„OpenAI“ pažadėjo sustiprinti savo saugumo procedūras ir anksčiau informuoti teisėsaugos institucijas apie patikimas grėsmes. Apie tai bendrovė pranešė laiške Kanados institucijoms. Šis žingsnis žengtas po to, kai Kanados politikai išsikvietė bendrovės vadovus pasiaiškinti dėl to, kad ji nepranešė pareigūnams, kai 2025 m. užblokavo Tumbler Ridžo (Britų Kolumbija) masinio šaudymo įtariamojo paskyrą.
Kanados valdžios atstovai kritikavo „OpenAI“ už tai, kad, aptikusi „potencialių realaus pasaulio smurto įspėjimų“ ir užblokavusi įtariamojo paskyrą, bendrovė vis dėlto nepranešė apie tai policijai. Dar daugiau – paaiškėjo, jog užblokuotas asmuo sugebėjo susikurti naują paskyrą ir toliau naudotis paslaugomis. „OpenAI“ antrąją paskyrą identifikavo tik tada, kai viešai buvo paskelbtas šaulio vardas, ir tuomet jau informavo teisėsaugą.
„OpenAI“ viceprezidentė pasaulinei politikai Ann O’Leary laiške Kanados pareigūnams nurodė, kad bendrovė ketina patobulinti savo aptikimo sistemas taip, kad užblokuoti naudotojai negalėtų lengvai sugrįžti į platformą. Tai reiškia griežtesnį vartotojų elgsenos stebėjimą ir techninius sprendimus, kurie leistų atpažinti bandymus apeiti draudimus, nepriklausomai nuo kuriamos naujos paskyros.
Be to, „OpenAI“ žada keisti pranešimų teisėsaugai kriterijus. Nuo šiol bendrovė informuos institucijas apie „artimas ir patikimas“ grėsmes, jei jos bus nustatytos pokalbiuose su „ChatGPT“, net ir tais atvejais, kai naudotojas aiškiai nenurodo konkretaus taikinio, smurto būdo ar numatomo laiko. Ann O’Leary teigimu, jei tokios taisyklės būtų galiojusios 2025 m., kai buvo užblokuota šaulio paskyra, bendrovė tuomet būtų apie tai pranešusi policijai.
„OpenAI“ taip pat kuria nuolatinį kontaktinį punktą Kanados teisėsaugos institucijoms. Šiuo kanalu pareigūnai galės operatyviai gauti iš bendrovės reikalingą informaciją, susijusią su galimomis grėsmėmis, o pati bendrovė – greitai perduoti atitinkamus duomenis, kai tai bus būtina viešajam saugumui užtikrinti.
Kanados vyriausybė „OpenAI“ sprendimą nepranešti apie pirminę šaulio paskyrą įvardijo kaip rimtą nesėkmę ir įspėjo, kad šalis gali imtis griežtų reguliacinių priemonių prieš dirbtinio intelekto pokalbių sistemas, jei jų kūrėjai neįrodys turintys pakankamai veiksmingas saugumo priemones naudotojų ir visuomenės apsaugai. Kol kas neaišku, ar „OpenAI“ planuoja tokius pačius pakeitimus įgyvendinti ir Jungtinėse Valstijose bei kitose šalyse.
