Sú deepfake len zábavou alebo nástroj na krádež identity, manipuláciu či pomstu?  (VIDEO)

Sú deepfake len zábavou alebo nástroj na krádež identity, manipuláciu či pomstu? (VIDEO)

24.09.2019 23:19 | Blog | Miroslava Kernová

Slovenský vývojár žijúci v ČR vyvolal vo svete pozornosť svojimi deepfake videami, v ktorých vymieňa tváre rôznym celebritám.

Jeho video, v ktorom sa komik Bill Hader v jednom momente mení na známeho herca Toma Cruisa, videlo za prvý mesiac od zverejnenia už takmer 6 miliónov ľudí. Komik mal nielen tvár, ale aj mimiku, gestá herca Cruisa.

Slovenský vývojár, ktorý nechce prezradiť svoju identitu a vystupuje ako Tom, na svojom kanály youtube s názvom Ctrl Shift Face neobjavil nič nové. Využíva program DeepFaceLab, ktorý funguje na báze otvoreného zdrojového kódu a pomocou ktorého tváre známych ľudí pridáva do rôznych vídeí.

Nedávno zverejnil ďalšie video, v ktorom sa tvár herca Rami Maleka z filmu Bohemian Rhapsody mení na skutočného Freddieho Mercuryho.

V ďalšom videu ukázal, ako deepfake vzniká.

V obehu sú aj mnohé videá, ktoré zmiatli divákov, vyzerali natoľko realisticky, že im mnoho ľudí uverilo.

Čo je deepfake?

Využíva techniku digitálnej syntézy ľudského obrazu založenej na umelej inteligencii, kde sa prekrývajú existujúce snímky. Vytvárajú sa tým falošné videá, na ktorých v skutočnosti nie sú osoby, ktoré divák vidí, ale boli tam dodatočne pridané.

Jedno z najznámejších je video z roku 2017 s Barackom Obamom, na ktorom je upravená mimika tváre bývalého amerického prezidenta tak, aby bola zhodná s doplnenou zvukovou stopou. Autormi videa sú vedci z Washingtonskej univerzity, ktorí chceli cez „synthetics Obama“ ukázať, že sa politikovi dajú vložiť do úst akékoľvek slová, ktoré nikdy nepovedal.

Názov deepfake sa začal častejšie používať v roku 2017 hlavne na označenie erotických videí, do ktorých boli vkladané tváre známych celebrít.

Jednou z najčastejších obetí bola herečka Scarlett Johansson. Ďalšie rozšírené a nie vždy vydarené deepfake si zas obľúbili tvár herca Nicolasa Cage, ktorú zasadili do rôznych filmov.

Deepfakes sa s obľubou využíva aj v rôznych satirických videách zosmiešňujúcich politikov. Napríklad, keď tvár Angely Merkelovej nahradili tvárou Donalda Trumpa.

To, že deepfake vie poslúžiť aj na manipuláciu, ukázalo video z mája tohto roku, na ktorom prejav Nancy Pelosi zo Snemovne reprezentantov Spojených štátov vyzerá, akokeby bola politička opitá. V skutočnosti tento dojem sa docielil len spomalením videa o 75 percent.

Vážne obavy zo zneužívania tohto internetového hitu vyslovila herečka Scarlett Johansson, ktorá už rezignovala na boj s autormi vídeí, v ktorých je doplnená jej tvár. Vo vyjadrení pre The Washington Post povedala, že si myslí, že deepfake jej verejný imidž neohrozia, lebo ako celebrita je dostatočne známa. No sú podľa nej vážnou hrozbou pre ženy, ktoré žijú bežný život, a také videá, vyrobené napríklad z pomsty, im môžu veľmi poškodiť.

Deepfake si už pritom môže vyrobiť ktokoľvek. Nová aplikácia s názvom Zao, ktorá prišla nedávno z Číny, umožňuje vytvoriť takéto video za pár sekúnd.

Podobne ako pri aplikácii FaceApp, aj v prípade Zao sa šíria pochybnosti o jej bezpečnosti. V pravidlách na používanie sa píše, že užívateľ poskytuje tvorcom „voľné, nemenné a permanentné“ práva na použitie v ďalších odvetviach. Spoločnosť Changsha Shenduronghe Network Technology, ktorá aplikáciu vyvinula, ale tvrdí, že všetky užívateľské fotografie a videá bude využívať výlučne na vylepšenie umelej inteligencie.

Slovák Tom, ktorého sme v úvode spomínali, si myslí, že deepfake nie sú ďalšou hrozbou pre svet dezinformácií. Oveľa horšie sú podľa neho vymyslené články. „Keď niekto napíše vymyslený článok, ktorý je neoveriteľný, a teda sa dá len ťažko vyvrátiť, je to podľa mňa nebezpečnejšie. Hlavne preto, že takýto článok sa dá napísať veľmi ľahko. Zato vytvoriť kvalitný deepfake je oveľa náročnejšie,“ povedal Tom pre denikn.cz.

Podľa nemeckého IT odborníka Alexa Champandarda manipulácia s obrázkami a videami pomocou umelej inteligencie by sa mohla stať nebezpečným masovým javom, preto je podľa neho dôležité, aby sa upevňovala dôvera v žurnalistiku, povedal pre Auergauer Zeitung.

Kybernetik Michael Šebek upozorňuje, že mnoho ľudí ani po odhalení podvrhu nemusí veriť, že video bolo upravené. Riešenie je podľa neho inde: „Rozvíjať kritické a logické myslenie a vychovávať ľudí, aby hneď neverili všetkému, čo uvidia. Aby si všetko overovali, o všetkom premýšľali. Čo vedie k mojej obľúbenej téme: nutnej zmene vzdelávania a škôl.“ povedal Šebek pre denikn.cz.

Článok vznikol v spolupráci s Férovou nadáciou O2.

 

pošli na vybrali.sme.sk


Wanda Adamík Hrycová sa stala opäť prezidentkou filmovej a televíznej akadémie

Wanda Adamík Hrycová sa stala opäť prezidentkou filmovej a televíznej akadémie

Valné zhromaždenie Slovenskej filmovej a televíznej akadémie (SFTA) si zvolilo nových členov prezídia. Tí následne jednohlasne potvrdili v pozícii prezidentky SFTA Wandu Adamík Hrycovú a zvolili dvojicu nových viceprezidentov Katarínu Krnáčovú a Tibora Búzu.

Křetinský a Tkáč vlastnia podiel v nemeckej ProSiebenSat.1

Křetinský a Tkáč vlastnia podiel v nemeckej ProSiebenSat.1

Skupina Czech Media Invest (CMI), ktorú spoluvlastní český podnikateľ Daniel Křetínský a má v nej podiel aj Patrik Tkáč, kúpila podiel zhruba 4,07 percenta v nemeckej televíznej a rozhlasovej spoločnosti ProSiebenSat.1 Media.

Jeden z obvinených z vraždy Kuciaka sa dohodol na znížení trestu

Jeden z obvinených z vraždy Kuciaka sa dohodol na znížení trestu

Dohodu o vine a treste dnes s prokurátorom uzavrel Zoltán Andrusko, sprostredkovateľ minuloročnej vraždy Jána Kuciaka a Martiny Kušnírovej.

Kočnerova Threema: Novinárka Ruttkayová si vypýtala od Kočnera na dovolenku. Z médií sa teraz sťahuje

Kočnerova Threema: Novinárka Ruttkayová si vypýtala od Kočnera na dovolenku. Z médií sa teraz sťahuje

Pokrivený imidž štátnej tajomníčky ministerstva spravodlivosti Moniky Jankovskej mala na žiadosť Mariana Kočnera v médiách napravovať redaktorka Martina Ruttkayová. Od Kočnera si podľa komunikácie z Kočnerovej Threemy vypýtala peniaze na dovolenku za pomoc pri odchode ministerky Lucie Žitňanskej.

České médiá sú pod tlakom, uvádza Európska novinárska federácia

České médiá sú pod tlakom, uvádza Európska novinárska federácia

Česká média jsou pod tlakem veřejnosti a politiků, část mediálního trhu navíc stále nepřímo ovládá premiér Andrej Babiš, uvádí zpráva Evropské novinářské federace (EJF), na kterou upozornil zpravodajský server iRozhlas.

Kvôli škandalóznej stopke odvolali šéfa bulharského rádia

Kvôli škandalóznej stopke odvolali šéfa bulharského rádia

Odvolanie generálneho riaditeľa bulharského verejnoprávneho rozhlasu BNR Svetoslava Kostova dnes schválila bulharská Rada pre elektronické médiá (SEM).

Dano Dangl o novej Mall.tv: Vyrábame necenzurovaný obsah, nepozeráme sa na to, či sa niekto urazí (VIDEO)

Dano Dangl o novej Mall.tv: Vyrábame necenzurovaný obsah, nepozeráme sa na to, či sa niekto urazí (VIDEO)

Už mesiac na Slovensku vysiela nová internetová televízna platforma Mall.tv. Má veľké ambície, chce "dobyť slovenský trh".

Markíza kvôli násiliu nečakane vylúčila z Farmy jedného súťažiaceho (VIDEO)

Markíza kvôli násiliu nečakane vylúčila z Farmy jedného súťažiaceho (VIDEO)

Televízia Markíza dnes oznámila, že z reality šou Farma vylúčila jedného zo súťažiacich - Mateja Jurkoviča.

Marocký kráľ omilostil novinárku odsúdenú za interrupciu

Marocký kráľ omilostil novinárku odsúdenú za interrupciu

Marocký kráľ včera omilostil novinárku Hadžáru Rajsúníovú, ktorá bola minulý mesiac odsúdená k ročnému väzenia za nemanželský sex a interrupciu spolu so svojím snúbencom, lekárom a dvoma jeho kolegami.

Kontroverznej piesni Elánu dali viaceré rádiá stopku, čo hovorí na kritiku skupina Elán? (VIDEO)

Kontroverznej piesni Elánu dali viaceré rádiá stopku, čo hovorí na kritiku skupina Elán? (VIDEO)

Najnovší počin skupiny Elán videoklip Bulvárne krysy vyvolal nielen medzi novinármi ale aj mnohými fanúšikmi skupiny pobúrenie a kritiku.

Najčítanejšie