ScanpixMilijardierius magnatas Elonas Muskas ir grupė ekspertų trečiadienį paragino sustabdyti galingų dirbtinio intelekto sistemų kūrimą ir teigė, kad reikia laiko norint įsitikinti jų saugumu.
Atvirą laišką, kurį jau pasirašė daugiau nei 1 000 žmonių, įskaitant E. Muską ir vieną iš „Apple“ įkūrėjų Steve'ą Wozniaką, paskelbti paskatino „Microsoft“ remiamos įmonės „OpenAI“ išleista GPT-4 programinė įranga.
Bendrovė teigia, kad naujausias modelis yra daug galingesnis už ankstesnę versiją, kuri buvo naudojama „ChatGPT“ – botui, galinčiam generuoti teksto fragmentus iš trumpiausių užklausų.
„Su žmogumi konkuruojančios dirbtinio intelekto sistemos gali kelti didžiulę grėsmę visuomenei ir žmonijai“, – sakoma atvirame laiške, pavadintame „Sustabdykite milžiniškus dirbtinio intelekto eksperimentus“.
„Galingos dirbtinio intelekto sistemos turėtų būti kuriamos tik įsitikinus, kad jų poveikis bus teigiamas, o rizika – valdoma“, – teigiama laiške.
E. Muskas buvo vienas pradinių „OpenAI“ investuotojų, ne vienus metus dirbo jos valdyboje, o jo automobilių įmonė „Tesla“ kuria dirbtinio intelekto sistemas, be kita ko, padedančias naudoti autonominio vairavimo technologiją.
Laišką, kurį parengė E. Musko finansuojama organizacija „Future of Life Institute“, pasirašė žinomi kritikai ir „OpenAI“ konkurentai, pavyzdžiui, „Stability AI“ vadovas Emadas Mostaque'as.
Kanados dirbtinio intelekto pradininkas Yoshua Bengio, taip pat pasirašęs laišką, virtualioje spaudos konferencijoje Monrealyje perspėjo, kad „visuomenė nėra pasirengusi“ šiai galingai priemonei ir galimiems piktnaudžiavimams ja.
„Sulėtinkime tempą. Užtikrinkime... geresnes apsaugos priemones“, – sakė jis, ragindamas surengti išsamią tarptautinę diskusiją apie dirbtinį intelektą ir jo pasekmes, „kaip tai darėme branduolinės energijos ir branduolinių ginklų srityje“.
Turėtų būti „patikimesnės ir lojalesnės“
Laiške cituojamas „OpenAI“ įkūrėjo Samo Altmano tinklaraštis, kuriame teigiama, kad „tam tikru metu, prieš pradedant mokyti būsimas sistemas, gali būti svarbi nepriklausoma peržiūra“.
„Todėl raginame visas dirbtinio intelekto laboratorijas nedelsiant bent 6 mėnesiams sustabdyti galingesnių nei GPT-4 dirbtinio intelekto sistemų mokymą“, – rašoma jame.
Jie paragino vyriausybes įsikišti ir paskelbti moratoriumą, jei bendrovės nesutiktų.
Šis pusmetis turėtų būti skirtas saugos protokolams, dirbtinio intelekto valdymo sistemoms kurti ir moksliniams tyrimams siekiant užtikrinti, kad dirbtinio intelekto sistemos būtų tikslesnės, saugesnės, „patikimesnės ir lojalesnės“.
Laiške nebuvo išsamiai aprašyti pavojai, kuriuos atskleidė GPT-4.
Tačiau laišką pasirašę mokslininkai, įskaitant Gary Marcusą iš Niujorko universiteto, jau seniai teigia, kad pokalbių robotai yra puikūs melagiai ir gali tapti itin veiksmingais dezinformacijos skleidėjais.
Kita vertus, rašytojas Cory Doctorow teigia, kad tiek dirbtinio intelekto sistemų potencialas, tiek jų keliama grėsmė yra gerokai pervertinti.
