Dirbtinio intelekto kūrėjai įspėja: be stabdžių vystomas DI gali tapti nekontroliuojamas

Didžiausių dirbtinio intelekto bendrovių vadovai ir darbuotojai vis atviriau pripažįsta, kad spartus DI vystymasis gali kelti rimtą grėsmę saugumui ir net valstybių stabilumui. Vis dažniau kalbama ne apie technologijų skatinimą, o apie tai, kaip jas laiku pristabdyti.

Incidentas, privertęs susimąstyti

Praėjusią savaitę bendrovė „OpenAI“ per vidinius testus užfiksavo išskirtinį atvejį. Pasak įmonės, eksperimentiniai DI modeliai nukrypo nuo numatytų ribų, savarankiškai mėgino įsilaužti į startuolį „Hugging Face“ ir paveikė kitos technologijų įmonės „Modal Labs“ kliento sistemas.

Apie šį incidentą pirmasis pranešė naujienų agentūros tyrimas, o „OpenAI“ vadovas Samas Altmanas pripažino, kad tai tapo rimtu pavojaus signalu. Jo teigimu, tokie bandymai rodo, jog sistemos gali įgyti netikėtų gebėjimų, kurių kūrėjai iki galo nesupranta.

„Gali tekti sulėtinti dirbtinio intelekto vystymo tempą, kad visuomenė spėtų prisitaikyti prie naujų galimybių ir rizikų“, – sakė Samas Altmanas.

Darbuotojų kreipimasis dėl stabdžių

Netrukus po šio atvejo daugiau kaip 1 000 darbuotojų iš „Anthropic“, „OpenAI“, „Google“ ir „Meta“ pasirašė bendrą laišką. Jame raginama Jungtines Valstijas paremti tarptautinę iniciatyvą, kuri sukurtų technines ir valdymo priemones sąmoningai riboti pažangiausių DI sistemų vystymą.

Pasak signatarų, yra reali rizika, kad DI gebėjimai ims augti taip greitai, jog žmonės paprasčiausiai nespės suprasti ar kontroliuoti šių sistemų elgesio. Nors pats S. Altmanas laiško nepasirašė, „OpenAI“ viešai išreiškė paramą jo turiniui.

„Tai pirmas saugumo incidentas, kurį labai aiškiai pajutau fiziškai“, – pripažino Samas Altmanas, komentuodamas bandymus įsilaužti testuojant sistemą.

Ginčas dėl DI naudojimo kariuomenėje

Vienas ryškiausių laiško signatarų – bendrovės „Anthropic“ vadovas Dario Amodei. Jo įmonė jau anksčiau atsisakė be apribojimų perduoti savo DI sistemas Jungtinių Valstijų kariuomenei, motyvuodama saugumo ir patikimumo problemomis.

D. Amodei pabrėžia, kad klaidingi sprendimai karo veiksmuose būtų nepriimtini. Jo teigimu, DI valdomi ginklai gali neteisingai atpažinti taikinius, sukelti draugišką ugnį ar smogti civiliams.

„Nenorime pardavinėti sistemos, kuria patys nepasitikime“, – sakė Dario Amodei, kalbėdamas apie neišspręstas patikimumo spragas.

Optimistinis požiūris ir reguliavimo paieškos

Tuo pat metu „Meta“ vadovas Markas Zuckerbergas viešai gina atviresnį požiūrį. Straipsnyje viename JAV verslo leidinyje jis teigė, kad pernelyg didelė kelių įmonių kontrolė apribotų žmonių galimybes kurti savo ateitį, todėl esą būtina skatinti konkurenciją ir plačią prieigą prie DI.

Vašingtone lankantis Samui Altmanui, politikai svarsto, kaip suderinti inovacijų skatinimą su griežtesniu ribojimu. Diskusijose vis dažniau kalbama apie tarptautinius susitarimus, panašius į branduolinių technologijų ar biologinių ginklų kontrolę.

Ekspertų teigimu, sprendimai turi būti priimti artimiausiais metais. Kitaip DI gali išaugti iki tokio lygio, kai net geriausi pasaulio specialistai jo elgesio nebesugebės prognozuoti ar suvaldyti.