Dirbtinis intelektas, „DeepFake“ ir kiti technologijų iššūkiai advokato darbe
Ne kartą teko susidurti su nuomone, kad technologijos advokato darbe („LegalTech“) – tai tik dar viena nauja sritis ant bangos, todėl ja turi domėtis tik technologijų teisės srityje dirbantys profesionalai, o kitiems neva tai neaktualu.
Bet ar šis požiūris neprimena vos nebankrutavusios fotoprodukcijos bendrovės „Kodak“ vadovų pareiškimo, kad „niekas nenorės fotografuoti skaitmeniniu fotoaparatu“? Arba 1998 m. perkamiausio mobiliojo telefono gamintojo „Nokia“ vadovų požiūrio, kad „niekas nenorės naudotis išmaniaisiais telefonais“, lėmusio bankrotą? Šių įmonių noras tęsti tradicinę ir puikiai pasiteisinusią veiklą privedė prie itin skaudžių pasekmių, ir iš jų turime pasimokyti.
Šiandien advokatai ar advokato padėjėjai taip pat negali ignoruoti progreso dėl kelių aspektų. Visų pirma, technologijos iš esmės keičia kasdienį teisininko darbą tiek emociniu, tiek praktiniu atžvilgiu. Be to, jos leidžia spręsti socialines problemas, tokias kaip lyčių, tautinė, turtinė ar kita nelygybė. Nuotolinis darbas iš esmės gali išspręsti ar padidinti neįgalių advokatų ar padėjėjų įsitraukimą, leisti derinti darbą su vaiko priežiūros atostogomis, leisti užsienio advokatams dalyvauti procese. Trečiasis aspektas – technologijos kelia naujus teisinius iššūkius ir reikalauja formuoti naują praktiką.
Perspektyva virto realybe
Technologijos tampa neatskiriama ne tik asmeninio, bet ir profesinio gyvenimo dalimi. Tai ypač pasireiškė per COVID-19 pandemiją, kuri privertė per itin trumpą laiką prisitaikyti ir pakeisti veiklos modelį naudojantis įvairiausiomis platformomis.
Tai, kas kažkada atrodė kaip tolima Richardo Susskindo bestselerio „Rytojaus teisininkai“ („Tomorrow‘s lawyers“) perspektyva, staiga virto realybe. Realybe, kurioje iššūkiais tapo ne tik profesinės žinios, bet ir tai, kaip greitai kasdienėje veikloje sugebame pasitelkti technologijas ir nuspręsti, kokia platforma tinkama klientui, kaip prie jos prisijungti, ar platforma saugi, kaip užtikrinti ryšio kokybę. Ne mažiau svarbūs tapo ir naujieji „minkštieji“ įgūdžiai – gebėjimas adaptuotis pasikeitusioje aplinkoje ir sukoncentruoti dėmesį į svarbiausius iššūkius.
„The 2020 Future Ready Lawyer Survey“ apklausos duomenimis, yra didžiulis atotrūkis tarp technologijų plėtros ir teisininkų pasiruošimo šiems pokyčiams. Nors 78 proc. respondentų pažymėjo didėjančią teisinių technologijų įtaką jų organizacijoms, mažiau nei trečdalis (28 proc.) yra pasiruošę per artimiausius trejus metus įvyksiantiems pokyčiams teisinių paslaugų rinkoje. Kitas įdomus rodiklis – klientų lūkesčiai advokatų kontorų atžvilgiu: apklausos duomenimis, iki 2022 m. net 81 proc. įmonių teisės departamentų reikalaus iš advokatų kontorų apibūdinti naudojamą technologiją (beveik dvigubai nei šiuo metu).
Be to, per pandemiją daugeliui advokatų apnyko „darbas – namai“ riba, o ją dar labiau nutrynė technologijos. Į virtualiąją erdvę persikėlęs bendravimas tarsi atveria galimybę mus pasiekti beveik bet kuriuo paros metu, savaitgaliais ar per atostogas. Juk taip patogu paklausti advokato apie bylos eigą vidurnaktį, kai klientus kankina nemiga. Visa tai skatina mąstyti apie naują poreikį advokatui ne tik būti puikiu teisės ekspertu, bet ir gebėti susikoncentruoti dirbti, atsiribojant nuo klientų ar bendradarbių skambučių, elektroninių laiškų, žinučių socialiniuose tinkluose ir gausybės kvietimų į „Zoom“, „Teams“ ar kitus pokalbius.
Dirbtinio intelekto įsigalėjimas
Technologijų išmanymas advokatui svarbus ir vykdant jo kaip teisės konsultanto praktiką. Tai be galo plati sritis, apimanti beveik visas įmanomas teisės šakas. Šios temos atsiradimą teisėje labai paskatino jų pažanga, ypač kai pradėta kalbėti apie dirbtinį intelektą (DI) ir jo priimamus „savarankiškus“ sprendimus.
Visa tai paskatino 2017 m. įkurti tarptautinę DI priežiūros valdybą, 2018 m. Lietuva pasitvirtino Lietuvos dirbtinio intelekto strategiją, 2019 m. OECD išleido Rekomendacijas dėl DI, G 20 susitikimas patvirtino į žmogų orientuotus DI principus, ES priėmė Patikimo DI etikos gaires, ir galiausiai pristatyta baltoji knyga „Dirbtinis intelektas. Europos požiūris į kompetenciją ir pasitikėjimą“.
Šios ir daugelis kitų iniciatyvų reiškia, kad DI sukuria ne tik puikias galimybes dirbti našiau, per itin trumpą laiką apdoroti didelį informacijos kiekį ir pateikti sprendimą, bet ir kelia nemažai teisinių iššūkių, kuriuos padėti spręsti turės ir advokatai.
DI įsigalėjimas sukels ir poreikį vertinti daugelį kompleksinių teisinių aspektų, tokių kaip renkamų asmeninių duomenų apsauga, priimtų sprendimų paaiškinamumas ir neutralumas, atsakomybė už neteisingai priimtus sprendimus, atsakomybė už kitų asmenų intelektinės nuosavybės panaudojimą, klausimai, susiję su naujai sukurtų kūrinių autoryste ir galiausiai – tiesiogiai ar netiesiogiai dėl DI padarytos žalos atlyginimas.
Visi šie klausimai advokatams sukuria naujų veiklos galimybių, tačiau kartu kyla ir naujų grėsmių.
„DeepFake“ keičia realybę
2019 m. „BuzzFeed News“ paskelbė vaizdo įrašą, kuriame buvęs JAV prezidentas Barakas Obama sako: „Mes žengiame į amžių, kuriame mūsų priešai gali padaryti taip, jog atrodys, kad bet kuris asmuo bet kuriuo metu sako bet kokią žinutę, nors realybėje toks asmuo niekada taip nepasakytų.“ Netrukus nuskamba įžeidimas dabartiniam JAV prezidentui Donaldui Trumpui. Įrašo pabaigoje parodoma, kaip jis buvo sukurtas naudojant „DeepFake“ (gilaus padirbinio) technologiją, leidžiančią DI perkelti vieno žmogaus judesius ir mimikas kitam žmogui (šiuo atveju – vietoj Jordano Peele’o rodyti B. Obamą) ir dirbtiniu būdu atkurti imituojamo žmogaus balsą.
2020 m. pradžioje kartu su bendraautoriais dr. Pauliumi Jurčiu, Julija Kalpokiene ir Aidu Liaudansku Oksfordo universiteto žurnale „Journal of Intellectual Property Law & Practice“ publikavome straipsnį „Regulating deep fakes: legal and ethical considerations“, kur išskyrėme šiuo metu populiariausias „DeepFake“ panaudojimo sritis: tai pornografija, politinės kampanijos, komerciniai tikslai ir kūrybiniai tikslai.
„DeepFake“ panaudojimas geriems kūrybiniams ir komerciniams tikslams neabejotinai pareikalaus advokatų indėlio analizuojant, ar tokie išvestiniai kūriniai nepažeidžia pradinio kūrinio autoriaus intelektinės nuosavybės teisių, ar nėra neteisėtai renkami asmeniniai duomenys, ar nepasinaudojama nesąžininga konkurencija imituojant žinomą reklamą ar asmenį ir kt. Bet šie klausimai tampa dar sudėtingesni, kai „DeepFake“ panaudojama neteisėtai veikai, pavyzdžiui, darant nusikaltimą, bandant pakenkti demokratiniams procesams, klastojant įrodymus ir bandant paveikti teismo procesą.
Internete plinta nusikaltimai, kai pagrobiami svarbūs duomenys, o asmenys ar įmonė verčiama mokėti išpirką už tai, kad jie nebūtų atskleisti viešai. Lietuvoje taip nukentėjo klinika „Grožio chirurgija“ ir jos klientai – iš jų reikalauta 0,5 mln. eurų vertės bitkoinų. JAV programišiai pavogė advokatų kontoros „Grubman Shire Meiselas & Sacks“ (GSMS) garsių klientų duomenis ir pažadėjo juos išplatinti, jeigu negaus 42 mln. dolerių išpirkos.
Šių nusikaltimų esmė – turimų tikrų duomenų atskleidimas. Tačiau kas nutiktų, jeigu nusikalstamą veiką atliekantys asmenys sukurtų kompromituojantį vaizdo įrašą ir grasintų nukentėjusiajam, kad nesumokėjus ar nepasielgus kitu nurodytu būdu šis įrašas bus išplatintas internete arba kolegoms, artimiesiems? Tokio pobūdžio veiksmų motyvai galėtų būti įvairios naudos siekis, tad turėtų būti vertinami pagal skirtingus Lietuvos Respublikos baudžiamojo kodekso (BK) straipsnius.
Kalbant apie finansinio pobūdžio nusikaltimus, tikėtina, kad „DeepFake“ technologija gali būti panaudota ir neteisėtai prisijungti prie mobiliųjų įrenginių ar identifikuoti bandant pasiekti banko sąskaitas, įeiti į patalpas ar valdyti sistemas. Šis veido skenavimo ir balso tikrinimo būdas iki šiol buvo laikomas saugiausiu ir moderniausiu, tačiau, tikėtina, tik laiko klausimas, kada DI sugebės kurti „DeepFake“, neatpažįstamus ne tik žmogui, bet ir atpažinimo programoms. Tai pagrindžia ir 2019 m. nusikaltėlių panaudota DI programa, pamėgdžiojusi Vokietijos energetikos įmonės vadovo balsą ir įtikinusi kontroliuojamos įmonės vadovą pervesti 220 tūkst. eurų nurodytam tiekėjui Vengrijoje.
Aprašytų nusikaltimų atveju iškyla kelios teisinės problemos:
1) tinkamo atsakomybės subjekto nustatymas. Ar baudžiami turėtų būti tik „DeepFake“ įrašus blogiems tikslams sukūrę asmenys, o gal pačios programos, leidžiančios kurti tokius vaizdo įrašus, jeigu vienintelis galimas panaudojimas – neteisėta veika? Jeigu taip, tai kaip praktikoje traktuoti asmenis, kurie išplatino sukurtus, pvz., „DeepFake“, pornografinius nukentėjusio asmens įrašus viešai, ar galiausiai kokia šiuos vaizdus skelbiančių interneto svetainių valdytojų atsakomybė?
2) nusikalstamos veikos kvalifikavimas ir neteisėtai veikiančių asmenų nustatymas. Nukentėjusį asmenį konsultuojantis advokatas gali susidurti su jurisdikcijos nustatymo klausimais ir tinkamų įstatymų taikymu, jeigu nukentėjo Lietuvos pilietis, o nusikalstamoje veikoje dalyvavo asmenys iš skirtingų ES valstybių, neteisėtas įrašas įdėtas ofšoriniuose serveriuose, o neteisėtą programinę įrangą kūrė JAV įmonė. Unifikuoto tarptautinio ar bent ES reguliavimo nebuvimas gali lemti, kad skirtingiems asmenims ar nusikalstamos veikos epizodams bus taikomi skirtingi įstatymai, o tai iš esmės apsunkintų nukentėjusio asmens teisių gynimą. Net ir Lietuvos įstatymų kontekste advokatas turėtų tinkamai nustatyti pažeistas teises, nes jos gali varijuoti nuo civilinių iki administracinių ar baudžiamųjų santykių.
Vertybių išbandymas
Suklastoti vaizdo įrašai kelia grėsmę demokratinėms vertybėms ir laisvėms. Kokia būtų rinkėjų reakcija savo feisbuko paskyroje išvydus žinomo politiko vaizdo įrašą, kuriame dėstomi teiginiai, nesuderinami su jų vertybėmis? „Cambridge Analytica“ skandalas rodo, kad tokią informaciją užsakovai galėtų pateikti žinodami atskirų individų moralines ir politines nuostatas, todėl dezinformacinio pobūdžio žinutė iš „DeepFake“ būdu sukurto politiko galėtų turėti itin neigiamą rezultatą jo rinkimų kampanijai.
2019 m. „Pew Research Center“ tyrimo duomenimis, beveik du trečdaliai JAV gyventojų teigia, kad melagingos žinios kelia didelę sumaištį dėl politinių programų ir pažiūrų. Visuomenės bandymas patikrinti informaciją gali dar paspartinti melagingos informacijos sklaidą, be to, veikia vadinamoji „confirmation bias“ teorija: žmonės yra linkę patikėti tam tikrais faktais, jeigu jie išgirsta ar pamato jų įsitikinimus pagrindžiančius naujus įrodymus.
Tačiau politiko pralaimėjimas rinkimuose ir manipuliacija rinkėjais nėra didžiausia galima žala. Įsivaizduokite, kas nutiktų, jeigu kurios nors didžiosios valstybės tariamas lyderis suklastotame įraše paskelbtų apie ketinimą paleisti branduolinę raketą į kitą supervalstybę. Tikėtina, kad reakcija varijuotų nuo politinių ar ekonominių sankcijų, diplomatinių ryšių nutraukimo iki intervencinių karo veiksmų ar branduolinio atsako.
Advokatai turėtų darbo konsultuodami tiek nukentėjusiuosius, tiek galbūt nusikaltimą padariusius asmenis:
1) analizuoti galimą žalą konkrečių politikų reputacijai, žalą visuomenei, kuri buvo suklaidinta ir nubalsavo ne už norimus kandidatus, ir net galimą ekonominę žalą visai valstybei, prieš kurią kitos šalys tarytum pagrįstai nukreipė sankcijas. Taip pat kiltų klausimas, ar tokią žinią paskelbę naujienų portalai neturėtų prisiimti dalies atsakomybės, kad neįgyvendino techninių sprendimų, leidžiančių išvengti neteisėtos informacijos paskleidimo? Jeigu tokia pareiga būtų, ar pagrįsta visą finansinę tokios įrangos ar programos diegimo naštą užkrauti ant verslo pečių? Ar tai neiškraipytų rinkos ir galimybės mažiems portalams varžytis su didžiaisiais ar su socialinėmis platformomis?
2) patarti politikams ar žurnalistams, į kurių rankas pateko „galbūt kompromituojanti“ vaizdo medžiaga, galinti nulemti rinkimų eigą, apie galimas teisines pasekmes. Labai tikėtina, kad JAV prezidento rinkimuose dalyvaujantys kandidatai mielai į viešumą paskleistų gautą kompromituojantį vaizdo įrašą, tačiau galbūt šis įrašas buvo sukurtas nedraugiškos valstybės programuotojų, kurių tikslas – destabilizuoti rinkimus?
Pasaulio ekonomikos forumas straipsnyje „Deepfake democracy: here‘s how modern elections could be decided by fake news“ įspėja apie poreikį rimtai vertinti galimą infodemijos reikšmę demokratiniams rinkimams. Brukingso instituto ataskaitoje matoma grėsmė dėl įtakos ne tik atskirų politikų rinkimų kampanijai, bet ir dėl galimo mėginimo sukelti visuomenės nepasitikėjimą pačiomis valstybės institucijomis. Tarkime, nuteikti visuomenę, kad ji nepasitikėtų Sveikatos apsaugos ministerijos rekomendacijomis dėl pandemijos, ar pakirsti pasitikėjimą saugumo žinybomis. Pavyzdžių jau yra: Gabono valstybėje armija bandė sukelti perversmą suklastojusi įrašą, kuriame valstybės prezidentas tariamai praneša apie negalėjimą vykdyti savo pareigų dėl sunkios sveikatos būklės. Belgijoje politinė grupė suklastojo ministro pirmininko pranešimą, kuriame tariamai skelbiama apie aplinkosaugos žalos įtaką COVID-19 protrūkiui ir poreikį imtis skubių veiksmų dėl klimato kaitos.
Taigi technologijos gali sukelti žalą ne tik dėl paties vaizdo įrašo ir sakomos kalbos, bet ir paties būdo, kaip įraše pateikiamas tam tikras asmuo. Tokie atvejai pareikalaus dar didesnių advokato pastangų teisme įrodinėjant, kad žala atsirado ne dėl šmeižto ar įžeidžiančių žodžių, bet dėl to, kaip šie žodžiai buvo pasakyti ar kokiame kontekste.
Skaitmeninių įrodymų klastotės
Galimybė suklastoti garso ir vaizdo įrašą, taip pat tikimybė, kad jais bus padaroma nusikalstama veika, didėja eksponentiniu greičiu. Šie suklastoti duomenys gali būti pasitelkiami ne tik siekiant asmeninės nusikaltėlių naudos ar norint paveikti rinkimų eigą, bet ir siekiant palankios bylos baigties – įrodyti asmens nekaltumą ar, priešingai, siekiant neteisėto kito asmens nuteisimo, garbės ir orumo įžeidimo, taip pat siekiant padaryti žalą konkuruojančios įmonės reputacijai, eliminuoti konkurentus iš viešųjų pirkimų konkurso.
Kasacinio teismo praktika įrodymų tyrimo ir vertinimo klausimais yra išplėtota ir nuosekli: įrodymų vertinimas pagal CPK 185 str. reiškia, jog bet kokios informacijos įrodomąją vertę nustato teismas pagal vidinį savo įsitikinimą, pagrįstą visapusišku ir objektyviu aplinkybių, kurios buvo įrodinėjamos proceso metu, išnagrinėjimu. Vienas pagrindinių tokios praktikos akcentų – teismo „vidinis“ įsitikinimas dėl egzistuojančių įrodymų. Ir nors praktika išklausyti garso ar peržiūrėti vaizdo įrašą posėdžių salėje yra įprasta ir dažniausiai užtenka tik teisėjų kompetencijos, ateityje vis dažniau gali tekti pasitelkti ekspertus. Jų užduotis būtų ne tik nustatyti įraše matomo asmens tapatybę, pinigų perdavimo faktą ar kitą realų veiksmą, bet ir apskritai patvirtinti, ar byloje pateikti garso ir vaizdo įrašai, kaip skaitmeniniai įrodymai, yra tikri.
Techninės galimybės leidžia itin tiksliai suklastoti tai, ką matome ar girdime, todėl bylos dalyvių įrodymų išklausymas ar peržiūra gali tapti iš esmės nebereikšminga. Žmonės tiesiog bus nepajėgūs identifikuoti, ar tai, ką jie mato ir girdi, yra tikra. Autentiškumui nustatyti galbūt teks naudoti specialią įrangą, kuri sugebės atsekti vadinamąjį skaitmeninį piršto atspaudą ar kitą žymenį, išduodantį klastojimo faktą. Apie tokios autentifikavimo sistemos, naudojančios skaitmeninius pirštų atspaudus, sukūrimą pranešė „Microsoft“. Visgi, skeptikų nuomone, panašiai kaip ir su kompiuteriniais virusais ar biologiniais ginklais, „DeepFake“ grėsmė nuo šiol visada bus šalia. Pasak Pietų Kalifornijos universiteto profesoriaus Hao Li, „bet kokia „DeepFake“ aptikimo technologija veiks tik tam tikrą laiką. Tam tikru momentu vėl nebus galimybės aptikti DI sukurtus padirbinius, tad reikės naujų sprendimų“ („Deepfake detection algorithms will never be enough“, The Verge, 2019).
Tai pripažinus, kyla didelė rizika, kad reikšmingose bylose gali būti pateikti skaitmeniniai įrodymai, kurių teisingumą įrodyti būtų itin sudėtinga ar net neįmanoma. Tai iš esmės paneigtų galimybę teisingai spręsti bylą tuomet, kai asmens kaltė ar nekaltumas yra grindžiamas tik šiais skaitmeniniais įrodymais, pavyzdžiui, sprendžiant garsaus Rusijos politiko Boriso Nemcovo nužudymo bylą ant tilto. Be to, rizikingi tampa atvejai, kai bandoma nuotoliniuose teismo posėdžiuose dalyvauti kaip tariamam ieškovui, atsakovui, advokatui, ekspertui ar kitam svarbiam proceso dalyviui. Nenustačius tokio su „DeepFake“ technologija sukurto „sintetinio“ asmens, nusikaltėliai galėtų prašyti teismo atsiimti ieškinį, pateikti melagingus liudijimus ar ekspertinę išvadą, panaikinti kaltinimus ar atlikti kitus neteisėtus veiksmus, kurie galėtų nulemti bylos baigtį.
Kaip pasiruošti naujiems iššūkiams?
Gyvename įdomiu laiku, kai aplinkybės ir itin greita technologinė plėtra verčia kiekvieną teisės profesionalą mokytis naujų įgūdžių. Tik suvokdami naujųjų technologijų panaudojimo galimybes advokato darbe ir rizikas bei jų valdymą galėsime užtikrinti tinkamą atstovavimą klientams teismuose, gebėjimą konsultuoti ir užtikrinti tinkamą teisių gynybą.
Aprašytosios rizikos turėtų būti paskata teisėjams, prokurorams ir antstoliams įsivertinti turimas priemones, leidžiančias rizikas eliminuoti ar sumažinti. Galbūt tokioms rizikoms suvaldyti reikalingas net naujas įstatyminis reguliavimas, kuris pakoreguotų teisme naudojamų elektroninių įrodymų bei asmenų autentifikavimo nuotoliniu būdu saugumo taisykles. Šios taisyklės galėtų remtis ES baltosios knygos dėl DI idėja vertinti rizikas per dvi kategorijas: „kritinį sektorių“ ir „kritinį naudojimą“. Kitaip sakant, įvertinti, kur elektroninių įrodymų panaudojimas ar nuotolinis asmenų autentifikavimas galėtų kelti daugiausia grėsmės teisingai bylos baigčiai.
Taigi technologinė plėtra neabejotinai paliečia ir teisės sferą. Tiek advokatai, tiek ir visa teismų sistema turi atitinkamai reaguoti ir prisitaikyti prie naujų rizikų, kartu išnaudoti naujas galimybes dirbti greičiau, įdomiau ir patogiau, taip pat atrasti naujų teisės sferų, kurias mums atneša „DeepFake“, „smart“ susitarimai, blockchainai ir apskritai technologijos.
Gebėjimas prisitaikyti prie besikeičiančių aplinkybių gali būti vienas advokato veiklos garantų, leidžiančių toliau sėkmingai teikti teisines paslaugas ateities verslui. Technologijos turi tapti įprasta kiekvieno advokato kasdienės veiklos dalimi.
