FreepikKovą Šiaurės Amerikos ir Lietuvos verslo (NALB) forume vykusios diskusijos pradžioje auditorija išvydo vaizdo įrašą. Susirinkusiųjų jis nė kiek nenustebino – jame viena renginio vedėjų, žurnalistė ir „AJ Contrast“ prodiuserė Viktorija Mickutė kvietė visus pasiklausyti dalyvių įžvalgų.
Tik ant scenos užlipus diskusijos moderatoriui, Lietuvos dirbtinio intelekto (DI) asociacijos pirmininkui Deividui Matačiūnui paaiškėjo, kad matytas vaizdo įrašas iš tiesų darytas 2018 m., o V. Mickutė jame sakė visai ką kita – pasitelkiant DI jos žodžiai buvo pakeisti. Kaip juokavo D. Matačiūnas, tam prireikė „penkių minučių ir penkių dolerių“. Auditorijos dalyviai galėjo savo akimis įsitikinti, ką jau dabar sugeba DI.
Vadinamieji deep fake paveikslėliai internete turbūt jau nieko nestebina – jų taikiniais tapo įvairios garsenybės, pradedant Taylor Swift ir Morganu Freemanu, baigiant pačiu popiežiumi Pranciškumi. Deep fake (liet. giluminė klastotė) yra paveiksliukas arba vaizdo įrašas, skaitmeniniu būdu pakeistas taip, kad nebeperteiktų tikrosios informacijos ir vietoj to rodytų ką kita.
XDI apdorotos nuotraukos ar vaizdo įrašai gąsdina, nes jų kokybė sparčiai gerėja ir darosi vis sunkiau pasakyti, ar tai, ką matome, yra tiesa ar melas. Kita vertus, sukurti tokį apgaulingą produktą užtrunka palyginti nedaug laiko – tikrai mažiau, nei įgusti naudotis „Photoshop“ programa. Greitai nebepakaks tik suskaičiuoti, ar matomas žmogus turi visus dešimt rankų pirštų - DI geba atkartoti ne tik žmogaus išvaizdą, bet ir balsą.
Amerikiečių technologijų įmonė „Open AI“, žaibiškai išpopuliarėjusi po to, kai užpernai pristatė savo generatyvinio DI modelį „ChatGPT“, dabar kuria „Sorą“ – įrankį, kuris leis kurti vaizdo įrašus pagal tekstines komandas. Naujasis modelis dar nėra viešai pristatytas, bet jau paleisti reklamos įrašai leidžia suprasti, kad realistiškumas bus itin aukštos kokybės. Toks įrankis už palyginti nedidelį mokestį leis vaizdo turinį kurti bet kam.
Nerimą dėl nevaldomai tobulėjančių ir naudojamų DI įrankių kelia ir tai, kad šiemet yra rinkimų metai. Vieni jų – JAV prezidento ir Europos Parlamento rinkimai. Sunerimti galime ir mes, lietuviai, nors kol kas mūsų šalyje garsesnių piktnaudžiavimo DI atvejų rinkimų kampanijose nepasitaikė – juk rinksime ir prezidentą, ir Seimą.
Bet kokiomis priemonėmis
Kai sausio pabaigoje Naujajame Hampšyre demokratai ruošėsi keliauti į pirminius rinkimus, dalis jų sulaukė prezidento Joe Bideno skambučio. Kiek trūkinėjančiu balsu jis ragino savo rinkėjus neiti balsuoti ir taip mažinti demokratų kandidato palaikymo procentą. Žinoma, skambino ne J. Bidenas – vėliau paaiškėjo, kad netikrą skambutį sukūrė tos pačios partijos kitam kandidatui dirbantis politikos konsultantas.
„Jis [skambutis – IQ past.] buvo sukurtas ne siekiant paveikti žmones balsuoti už vieną ar kitą kandidatą, bet neiti balsuoti pirminiuose rinkimuose, – Vašingtone įsikūrusio „Brookings“ instituto rengtoje diskusijoje apie DI keliamą grėsmę rinkimams kovo 13 d. kalbėjo instituto vyresnysis mokslo darbuotojas, diskusijos moderatorius Darrellas Westas. – Tad nerimauju dėl rinkėjų aktyvumo.“
Pernai rudenį vykusiuose Slovakijos prezidento rinkimuose likus kelioms dienoms iki balsavimo buvo paviešintas vaizdo įrašas, kuriame vienas kandidatų teigė juos suklastojęs. Kandidatas rinkimus pralaimėjo, tačiau kiek tai gali būti susiję su deep fake – sunku pasakyti.
Kovo pradžioje internete pasklido ir juodaodžių apsupto kandidato į JAV prezidentus Donaldo Trumpo nuotraukos. Tradiciškai ši amerikiečių visuomenės grupė balsuoja už Demokratų partijos kandidatus, tad respublikonui nesutrukdytų bent kiek iš jų patraukti į savo pusę. Britų BBC suskubo atkreipti dėmesį, kad ir šios nuotraukos yra netikros, o jas platina kandidato sekėjai. Vienas šių nuotraukų kūrėjų, kalbėdamas su BBC, paprastai nusikratė atsakomybės: „Neteigiu, kad jos tikslios [tiksliai atitinka realybę – IQ past.].“
Vasario 16 d. 20 šiuo metu lyderiaujančių technologijų bendrovių, tokių kaip „Meta“, „Google“, „Microsoft“, „Amazon“, „OpenAI“, „Anthropic“, „TikTok“ ir kt. („X“ tarp jų nebuvo), pasirašė bendrą sutarimą, kuriuo kartu kovos su technologijų keliamomis grėsmėmis rinkimams. Jų taikinys – deep fake. Deja, kol kas patikimos technologijos, kuri galėtų neklysdama visada atskirti realią medžiagą nuo padirbtos, dar nėra. „Midjourney“, viena populiariausių pasitelkiant DI kuriamų paveikslėlių platformų, nusprendė eiti kitu keliu ir iki JAV prezidento rinkimų apskritai uždraudė naudoti J. Bideno ir D. Trumpo nuotraukas.
Kova su vėjo malūnais?
„Blogas veikėjas nepraneš apie savo veiksmus, jis tiesiog ims ir darys, – „Brookings“ instituto diskusijoje teigė JAV federalinės rinkimų komisijos narė Shana M. Broussard. – Ir, mano įsitikinimu, tai stengsis daryti prieš pat rinkimus, kai neturėsime laiko atitinkamai reaguoti.“
Šiuo metu vienas sprendimų, kaip kovoti su internete plintančiais deep fake, – naudoti vandens ženklus bet kokiems DI sukurtiems produktams. Tačiau, diskusijos dalyvio, Marilando universiteto dėstytojo Soheilio Feizi teigimu, tokie tikrinimo mechanizmai turi daug klaidingų teigiamų rezultatų (angl. false positive) – tai reiškia, kad klaidingai žymima ir tikra informacija.
Tokie DI atpažinti galintys mechanizmai yra kelių tipų – matomi vizualiai (pavyzdžiui, nuotraukoje matomam žmogui trūksta pirštų) arba girdimi (balsas skamba nenatūraliai, robotiškai). Kiti mechanizmai palieka tam tikrus ženklus, pavyzdžiui, vandens ženklus, tačiau juos lengva panaikinti. „Nemanau, kad kada nors turėsime savo kompiuteriuose tokias programas, kaip antivirusines, kurios galėtų mums patikimai sakyti, ar čia tikra, ar ne, – teigė S. Feizi. – Generatyvinių modelių kokybė gerėja kiekvieną dieną.“
ScanpixJei bent jau kol kas negalime turėti patikimos ir prieinamos technologijos, kuri nurodytų, ką matome ar girdime, ar galima su DI skleidžiama dezinformacija ar melagienomis kovoti kitaip?
„Google“ priklausančios bendrovės „Jigsaw“ vadovės Yasmin Green teigimu, neabejotinai reikia tikrinti ir nurodyti, kas tiesa, o kas ne, bet iš tiesų reikėtų edukuoti žmones, padėti jiems suprasti patiems, stiprinti jų atsparumą. Y. Green nurodė terminą – „priešpaneigimas“ (angl. pre-bunking). „Tai reiškia užbėgti už akių, – aiškino NALB forumo diskusijos dalyvė. – Kai jau po visko vaikaisi neteisingą informaciją ir neteisingus įsitikinimus, juos sunku išnaikinti. „Priešpaneigimas“ yra formulė, kaip kurti atsparumą įspėjant žmones, nes net ir šiame susiskaldžiusiame pasaulyje mus vienija vienas dalykas – mums nepatinka, kai mumis manipuliuojama.“
„Brookings“ instituto diskusijos dalyviai taip pat sutarė, jog geriausias šiuo metu esantis metodas – visuomenės švietimas. „Manau, kad didžioji dalis žmonių nėra susidūrę su DI ir nesupranta, koks jis pažengęs“, – svarstė S. Feizi. Iki 2024 m. rinkimų būtų galima rengti trumpas informacines kampanijas, tačiau ilguoju laikotarpiu edukacija turėtų nusikelti į vidurines ar pagrindines mokyklas, kur mokiniai būtų mokomi kritiškai mąstyti ir vertinti jiems pateikiamą informaciją. Jis priminė panašią sėkmingą informacinę kampaniją, prieš kelis dešimtmečius paleistą dėl rūkymo keliamos žalos ir kuri iš tiesų suveikė. „Manau, kad tai patikimesnis metodas kovoti su dezinformacija nei kažkokių nepatikimų DI atpažinimo modelių naudojimas“, – sakė jis.
Paminėdamas technologijų bendrovių susitarimą kovoti su neteisinga DI informacija, NALB forumo dalyvis, „Gzero media“ turinio vadovas ir prodiuseris Tony Maciulis atkreipė dėmesį į dar vieną problemą: „Viena valstybė to negali padaryti, tam reikia viso pasaulio, ir reguliacinė aplinka bus kelių artimiausių metų iššūkis.“
Tai ypač aktualu JAV, kur 1-asis Konstitucijos pakeitimas išreiškia amerikiečių teisę į žodžio laisvę. „Jei kokie nors rinkėjai nori sukurti „memus“ apie J. Bideną ar D. Trumpą, ar mes juos turėtume kontroliuoti? Manau, kad ne“, – teigė S. Feizi. Dėl to nereikėtų apskritai drausti galimybės naudotis DI, bet veikiau eiti kitu keliu ir šviesti visuomenę. Maža to, bet kokią reguliaciją, ribojančią asmens žodžio laisvę, atmestų ir JAV teismai.
