Uz malo umjetne inteligencije, odnosno tehnologije ‘deepfake‘, i pokojni će progovoriti u dokumentarcima, propjevati po servisima za ‘streaming‘, a i mnogi bi živi mogli pocrvenjeti od muke jer snimke na kojima su u glavnim ulogama nisu stvarne, nego montirane s pomoću umjetne inteligencije. No neki su ‘deepfakeovi‘, tj. programirane snimke, već postali dio pop-kulture propitkujući gdje su granice dobrog ukusa, a i autorskih prava
Bruce Willis u oglasu ruskoga telekomunikacijskog diva MegaFona u kojem govori ruski kao da mu je materinski zapravo nije nimalo nezamisliva mogućnost, ali ono što je u stvarnosti taj uradak, čini se pomalo nestvarnim. Ruski je Willis, naime, lažni Willis, napravljen za potrebe oglašavanja i uz dozvolu holivudskoga glumca prema njegovu izgledu iz 2010. godine. Ruska tvrtka Deepcake koja stoji iza uratka tvrdi da s pomoću umjetne inteligencije, korisničkih podataka, izgleda i glasa osobe izrađuje stvarne videozapise ujedno smanjujući troškove oglašavanja. Automatski i vrlo vjerno prenosi lice s videa na video te poručuje da je to samo početak. No njezin Willis ipak je pomalo drven i čudan te se u nekim prizorima jasno vidi da nešto 'nije u redu' s njim, ali zvijer je, očito, puštena s lanca. Zahvaljujući deepfakeu tako su, primjerice, oživjeli Anthony Bourdain, u dokumentarcu u kojem je upotrijebljen njegov glas, ili bivši američki predsjednik Richard Nixon u televizijskoj izjavi za javnost 'nakon stradavanja' astronauta Neila Armstronga i Buzza Aldrina na Mjesecu, a Tom Cruise pak svira gitaru i izvodi trik s novčićem. Deepfake se pojavio prije četiri godine kad je Redditov korisnik zamijenio lica glumica u pornofilmovima s licima glumica poput Gal Gadot i Maisie Williams.
Lažirani porno
Za stratešku direktoricu u Libri Emiru Brkić Karninčić deepfake je kao i mnoge druge tehnologije za manipulaciju sadržajem temeljene na umjetnoj inteligenciji (engl. artificial intelligence – AI) počeo kao prilično bezazlena zabava, slično kao Instagramovi i TikTokovi filtri te razni alati za mijenjanje izgleda. Alati za izradu deepfake-videa malo su zahtjevniji, rekla je, iako već postoje aplikacije kao što su Zao, Fake App ili DeepFaceLab koje korisnicima nude da svoje ili tuđe lice montiraju u prizore iz filmova. Prema njezinu mišljenju, deepfake omogućuje videomontažu i audiomontažu potpuno lažiranog sadržaja sa stvarnom osobom u glavnoj ulozi, a osim videosadržaja, koji je, sigurno, najzanimljiviji, uspješno se može manipulirati i audiosadržajem i fotografijama.
– Tehnologija deepfakea može biti regulirana tako da softver za izradu takvih videa ne bude široko dostupan ili da za njega treba posebna licencija: svaki korisnik mora biti registriran. Moguće je regulirati djelatnosti koje smiju baratati takvim softverom, poput filmske industrije i industrije igara te marketinga. Naravno, kao i kod svih ograničenja pojavit će se i sivo i crno tržište, ali barem će biti omogućena kontrola. Također je logično da se potegne i pitanje autorskih prava ako netko vaš lik, glas ili djelo upotrijebi za kreiranje sadržaja koji niste odobrili ili se njime koristi za širenje lažnih informacija i informacija s kojima se ne slažete. Štoviše, uz pitanje autorskih prava tu se, ovisno o sadržaju, nameće i pitanje ugrožavanja ugleda osobe i nanošenja duševnih boli. Najviše deepfakeova upotrebljava se u pornoindustriji: 2019. je od 15.000 pronađenih deepfake-videa 96 posto bilo u pornoindustriji – lica poznatih glumica montirana su u pornouratke. Ako korištenje tehnologije deepfakea nije zakonski regulirano, onda se i ganjanje tužbi za autorska prava pretvara u skupe i često neefikasne sudske procese jer je šteta nekoj osobi već nanesena – iznosi Brkić Karninčić.
Manje zlokobni 'rebranding'
Pita se zašto ljudi radije čitaju crnu kroniku i skandale u medijima, odnosno možda im se iz nekog razloga nude baš takve teme. Prema njezinu mišljenju, odgovor je prilično jednostavan u dvojbi je li zanimljiviji i viralniji deepfake Marka Zuckerberga koji govori da ima potpunu kontrolu nad ukradenim privatnim podacima bilijuna ljudi ili ako netko bivšeg američkog predsjednika Baracka Obamu prikaže kako se rukuje s dobitnikom Nobelove nagrade za mir.
Deepfake kao i svaka napredna tehnologija zasigurno ima dobre strane, no Brkić Karninčić smatra da se dvaput moglo razmisliti o nazivu jer postojeći zvuči zlokobno, stoga predlaže rebranding.
– Korištenje deepfakea vjerojatno bi moglo smanjiti produkcijske troškove u nekim djelatnostima, možda bi mogao funkcionirati u kombinaciji sa zalihama video-, audio- i fotomaterijala. Sve to, naravno, uz poštovanje zakonske regulacije i autorskih prava. Deepfake znatno utječe na javnost sadržajem koji se u sklopu njega kreira, i to, nažalost, barem za sada, negativno. Tehnologija se pojavila prije otprilike dvije godine. U tom razdoblju baš nije napravljeno mnogo da bi se podvrgnula kontroli. Realno ju je najbolje iskoristilo tržište mobilnih aplikacija za zabavu korisnika. Nadamo se da će na tome i ostati te da će se nakon toga deepfake uglavnom upotrebljavati u pozitivnom smislu. A do tada se možemo samo nadati da nam se lice neće naći u nekom opscenom filmiću. Koliko god deepfake postaje sve učestaliji, na njega se nikako ne bismo trebali naviknuti – poručuje Brkić Karninčić.
Zahtjevno pravno pitanje
Riječ je o potencijalno veoma opasnoj tehnologiji koja u vrijeme silno aktivnih društvenih mreža i online svijeta može utjecati na kreiranje javnog mišljenja, često s ozbiljnim posljedicama. S time se slaže Sanija Hasanić, direktorica agencije za odnose s javnošću Ponto. Naime, tehnologija je danas toliko napredovala i kvaliteta videa izrazito je visoka, zbog čega izgledaju vjerodostojno. Zato tvrdi da u svijetu takvi materijali, osim što mogu nanijeti veliku štetu imidižu pojedinca ili organizacije, mogu biti povodom i za društvene i političke nemire. Čini joj se da nema jednostavna rješenja u nošenju s deepfakeom, ali prvi korak trebao bi biti provjera podataka iz više izvora, korištenje što više medija i nevjerovanje materijalima koji se često šire munjevito.
– Naime, broj pregleda ili dijeljenja sadržaja nikako nije jamstvo njegove istinitosti. Također treba osvijestiti individualnu odgovornost i ne dijeliti materijale i vijesti za koje nismo sigurni jesu li istiniti. Kad god se spomene zakonsko ograničavanje, teško je izbjeći da se ulazi u domenu slobode izražavanja i kreiranja. Riječ je o zaista zahtjevnu pravnom pitanju, a koliko sam upućena, nisu doneseni jasan sud i smjernice kako bi se trebalo postupati. I autorska prava složeno su pitanje. S komunikacijskoga stajališta osoba na udaru deepfakea mora odmah reagirati i naglasiti da materijal nije autentičan te što prije osvijestiti da je znatno narušen njezin ugled. Ta šteta ublažit će se kvalitetnom komunikacijom i jasnim porukama, no osobe se u takvim okolnostima često potpuno povuku iz javnosti, što nije uvijek najpametniji potez. Loše strane prevladaju prije svega zbog toga što smo imali prilike vidjeti negativne posljedice. Kad je riječ o mogućim dobrim stranama, ponajprije se možemo osvrnuti na razvoj tehnologije koja je svakako olakšala život. A tu je onda pitanje što je zapravo deepfake: je li to, primjerice, i ponovno montirana scena s glumicom koja nešto izgovara, a to nije iskorišteno u prvotnoj sceni u kojoj je ona zapravo glumila? Čini mi se da su tu granice nejasne, zbog čega je onda, zapravo, i teško procijeniti njegove potencijalno dobre strane – procjenjuje Hasanić.
Moguće zloupotrebe
Deepfake brzo napreduje i postaje sve povoljniji i pristupačniji alat koji mijenja naš način komunikacije istodobno otvarajući prostor stvaranju neistinita sadržaja koji može nanijeti reputacijsku štetu, također uviđa Ivana Jeleč, savjetnica u agenciji Media Val, i upozorava da je ta relativno nova tehnologija pod posebnim povećalom i zbog brojnih zloupotreba usmjerenih prema nekima od najpoznatijih ljudi današnjice, kao što je Barack Obama. Stoga savjetuje da nije dovoljno osvijestiti da deepfake postoji, nego se treba educirati i o njegovim štetnim posljedicama i uključiti ga u krizni komunikacijski plan jer je on promijenio i način odgovaranja na kriznu situaciju.
– Više nije dovoljno pokušati kontrolirati narativ, postavlja se pitanje i kako ga kontrolirati u krizi kad je iznimno teško utvrditi identitet osobe. U suzbijanju negativnog utjecaja deepfakea i lažnih vijesti treba uložiti moralni i etički napor, a napredak tehnologije i društva od nas komunikacijskih stručnjaka zahtijevat će spremnost za suočavanje i s najgorim. Nitko nije pošteđen zloupotrebe deepfakea, od političara i poznatih i slavnih osoba pa sve do običnih ljudi i kompanija. Zbog manipulativnog aspekta ta se tehnologija usko povezuje s klevetom i lažnim predstavljanjem, stoga nema dvojbe u tome da je treba zakonski ograničiti. Zbog tehnološke prirode deepfakea vjerujem da će se nacionalnom strategijom za AI upozoriti i na odgovarajuću primjenu, posebno na korist od njega. Važno je ograničiti širenje lažnog sadržaja, postrožiti manipulaciju čiji je cilj dezinformiranje javnosti i stvaranja teorija zavjere te dodatno upozoriti na zaštitu prikupljenih osobnih podataka – naglašava Jeleč.
Dobre strane
Kad je riječ o zaštiti autorskih prava, ističe, autor deepfake-sadržaja trebao bi imati dopuštenje vlasnika originalnog sadržaja, što najčešće nije slučaj. Pri tome su slike, videosnimke i drugi sadržaji podložni manipulacijama, dodaje Jeleč, pa zbog očuvanja vlastitog djela autori mogu podnijeti tužbu.
– Tko god ima pametni telefon, bio je u prilici iskoristiti neku od prednosti deepfake-tehnologije. Filtri koji mijenjaju naše lice i prilagodba tona glasa ili frekvencije zvukova radi stvaranja zabavnog sadržaja samo su neki od primjera koje je svatko od nas barem jednom upotrijebio u privatne svrhe. U stvaranju što boljeg i kvalitetnijeg sadržaja profesionalci se deepfakeom koriste i za audiovideoprodukciju, kvalitetniju interakciju između strojeva i ljudi radi unaprjeđenja digitalnog iskustva, održavanje videokonferencija ili čak u medicinske svrhe, primjerice za različite tjelesne rekonstrukcije. Nažalost, zbog snažna utjecaja na ugled pojedinaca i organizacija te na društvo općenito, koji je nastao kao posljedica manipulacije sadržajem, mnogo se intenzivnije raspravlja o njegovim negativnim stranama. Na svakome je od nas da odluči hoće li deepfakeom mijenjati društvo nabolje ili se njime koristiti kako bi manipulacijom širio paniku i nezadovoljstvo – kaže Jeleč.