Sú deepfake len zábavou alebo nástroj na krádež identity, manipuláciu či pomstu?  (VIDEO)

Sú deepfake len zábavou alebo nástroj na krádež identity, manipuláciu či pomstu? (VIDEO)

24.09.2019 23:19 | Blog | Miroslava Kernová

Slovenský vývojár žijúci v ČR vyvolal vo svete pozornosť svojimi deepfake videami, v ktorých vymieňa tváre rôznym celebritám.

Jeho video, v ktorom sa komik Bill Hader v jednom momente mení na známeho herca Toma Cruisa, videlo za prvý mesiac od zverejnenia už takmer 6 miliónov ľudí. Komik mal nielen tvár, ale aj mimiku, gestá herca Cruisa.

Slovenský vývojár, ktorý nechce prezradiť svoju identitu a vystupuje ako Tom, na svojom kanály youtube s názvom Ctrl Shift Face neobjavil nič nové. Využíva program DeepFaceLab, ktorý funguje na báze otvoreného zdrojového kódu a pomocou ktorého tváre známych ľudí pridáva do rôznych vídeí.

Nedávno zverejnil ďalšie video, v ktorom sa tvár herca Rami Maleka z filmu Bohemian Rhapsody mení na skutočného Freddieho Mercuryho.

V ďalšom videu ukázal, ako deepfake vzniká.

V obehu sú aj mnohé videá, ktoré zmiatli divákov, vyzerali natoľko realisticky, že im mnoho ľudí uverilo.

Čo je deepfake?

Využíva techniku digitálnej syntézy ľudského obrazu založenej na umelej inteligencii, kde sa prekrývajú existujúce snímky. Vytvárajú sa tým falošné videá, na ktorých v skutočnosti nie sú osoby, ktoré divák vidí, ale boli tam dodatočne pridané.

Jedno z najznámejších je video z roku 2017 s Barackom Obamom, na ktorom je upravená mimika tváre bývalého amerického prezidenta tak, aby bola zhodná s doplnenou zvukovou stopou. Autormi videa sú vedci z Washingtonskej univerzity, ktorí chceli cez „synthetics Obama“ ukázať, že sa politikovi dajú vložiť do úst akékoľvek slová, ktoré nikdy nepovedal.

Názov deepfake sa začal častejšie používať v roku 2017 hlavne na označenie erotických videí, do ktorých boli vkladané tváre známych celebrít.

Jednou z najčastejších obetí bola herečka Scarlett Johansson. Ďalšie rozšírené a nie vždy vydarené deepfake si zas obľúbili tvár herca Nicolasa Cage, ktorú zasadili do rôznych filmov.

Deepfakes sa s obľubou využíva aj v rôznych satirických videách zosmiešňujúcich politikov. Napríklad, keď tvár Angely Merkelovej nahradili tvárou Donalda Trumpa.

To, že deepfake vie poslúžiť aj na manipuláciu, ukázalo video z mája tohto roku, na ktorom prejav Nancy Pelosi zo Snemovne reprezentantov Spojených štátov vyzerá, akokeby bola politička opitá. V skutočnosti tento dojem sa docielil len spomalením videa o 75 percent.

Vážne obavy zo zneužívania tohto internetového hitu vyslovila herečka Scarlett Johansson, ktorá už rezignovala na boj s autormi vídeí, v ktorých je doplnená jej tvár. Vo vyjadrení pre The Washington Post povedala, že si myslí, že deepfake jej verejný imidž neohrozia, lebo ako celebrita je dostatočne známa. No sú podľa nej vážnou hrozbou pre ženy, ktoré žijú bežný život, a také videá, vyrobené napríklad z pomsty, im môžu veľmi poškodiť.

Deepfake si už pritom môže vyrobiť ktokoľvek. Nová aplikácia s názvom Zao, ktorá prišla nedávno z Číny, umožňuje vytvoriť takéto video za pár sekúnd.

Podobne ako pri aplikácii FaceApp, aj v prípade Zao sa šíria pochybnosti o jej bezpečnosti. V pravidlách na používanie sa píše, že užívateľ poskytuje tvorcom „voľné, nemenné a permanentné“ práva na použitie v ďalších odvetviach. Spoločnosť Changsha Shenduronghe Network Technology, ktorá aplikáciu vyvinula, ale tvrdí, že všetky užívateľské fotografie a videá bude využívať výlučne na vylepšenie umelej inteligencie.

Slovák Tom, ktorého sme v úvode spomínali, si myslí, že deepfake nie sú ďalšou hrozbou pre svet dezinformácií. Oveľa horšie sú podľa neho vymyslené články. „Keď niekto napíše vymyslený článok, ktorý je neoveriteľný, a teda sa dá len ťažko vyvrátiť, je to podľa mňa nebezpečnejšie. Hlavne preto, že takýto článok sa dá napísať veľmi ľahko. Zato vytvoriť kvalitný deepfake je oveľa náročnejšie,“ povedal Tom pre denikn.cz.

Podľa nemeckého IT odborníka Alexa Champandarda manipulácia s obrázkami a videami pomocou umelej inteligencie by sa mohla stať nebezpečným masovým javom, preto je podľa neho dôležité, aby sa upevňovala dôvera v žurnalistiku, povedal pre Auergauer Zeitung.

Kybernetik Michael Šebek upozorňuje, že mnoho ľudí ani po odhalení podvrhu nemusí veriť, že video bolo upravené. Riešenie je podľa neho inde: „Rozvíjať kritické a logické myslenie a vychovávať ľudí, aby hneď neverili všetkému, čo uvidia. Aby si všetko overovali, o všetkom premýšľali. Čo vedie k mojej obľúbenej téme: nutnej zmene vzdelávania a škôl.“ povedal Šebek pre denikn.cz.

Článok vznikol v spolupráci s Férovou nadáciou O2.

 

pošli na vybrali.sme.sk


Výtvarník Kalmus jedol počas Haščákovho brífingu banán (VIDEO)

Výtvarník Kalmus jedol počas Haščákovho brífingu banán (VIDEO)

Výtvarníkovi Petrovi Kalmusovi sa počas brífingu šéfa Penty Jaroslava Haščáka podaril neobvyklý performance.

Haščák sa zastal novinárky Ruttkyovej, ktorá si od Kočnera vypýtala na dovolenku (VIDEO)

Haščák sa zastal novinárky Ruttkyovej, ktorá si od Kočnera vypýtala na dovolenku (VIDEO)

Dnes na Špecializovanom trestnom súde v Pezinku pokračovalo pojednávanie v prípade vraždy Jána Kuciaka a Martiny Kušnírovej, na súde vypovedal Norbert Bödör a Jaroslav Haščák, spolumajiteľ Penty.

Chcete zbohatnúť? Musíte si opakovať: Mám na to!

Chcete zbohatnúť? Musíte si opakovať: Mám na to!

Mnohých z nás v súčasnosti trápi finančná neistota a to bez ohľadu na sumu, aká sa nám mesačne pripisuje na účet. Máme pocit, akoby na nás svet kričal: „Nemáš dosť peňazí.“

Zomrel syn spisovateľa Tolkiena, ktorý sa staral o otcov odkaz

Zomrel syn spisovateľa Tolkiena, ktorý sa staral o otcov odkaz

Vo veku 95 rokov zomrel Christopher Tolkien, ktorý sa posledných niekoľko desiatok rokov venoval literárnemu odkazu svojho otca J. R. R. Tolkiena.

Mobilná aplikácia dokáže rozpoznávať huby a mapovať ich

Mobilná aplikácia dokáže rozpoznávať huby a mapovať ich

Študent Fakulty aplikovaných vied Západočeskej univerzity (ZČU) Lukáš Picek sa podieľal na vývoji mobilnej aplikácie Svampeatlas, ktorá vie rozpoznávať huby, mapovať ich a zdieľať súradnice s ostatnými užívateľmi. Aplikácia je výstupom rovnomenného projektu s dánskymi kolegami z kodanskej univerzity, dokáže rozpoznať 1400 druhov húb.

Študenti lekárskych fakúlt posielajú Ficovi otvorený list (VIDEO)

Študenti lekárskych fakúlt posielajú Ficovi otvorený list (VIDEO)

Študenti lekárskych fakúlt zverejnili vyhlásenie, v ktorom reagujú na prejav predsedu Smeru Roberta Fica na dnešnej programovej konferencii strany. 

Negatívnych článkov o Meghan je viac než pozitívnych (VIDEO)

Negatívnych článkov o Meghan je viac než pozitívnych (VIDEO)

O manželke britského princa Harryho Meghan vychádzalo dvakrát viac negatívnych článkov než pozitívnych.

Producentka Bonda vylúčila špekulácie, že agentom 007 bude žena (VIDEO)

Producentka Bonda vylúčila špekulácie, že agentom 007 bude žena (VIDEO)

Budúcim Jamesom Bondom bude opäť muž, a nie žena. Potvrdila to v rozhovore s magazínom Variety filmová producentka Barbara Broccoliová, ktorá stojí aj za najnovšou bondovkou, v ktorej hlavnú úlohu stvárnil opäť Daniel Craig.

Na twitteri bolo možné zacieliť reklamy na nenávistné skupiny

Na twitteri bolo možné zacieliť reklamy na nenávistné skupiny

Sociálna sieť Twitter umožňovala cieliť reklamy na používateľov aj podľa kľúčových slov ako "neonacista", "zástancovia belošskej nadradenosti" či "islamofob". Ukázal to nedávny experiment spravodajskej spoločnosti BBC, ktorej sa podarilo opakovane spustiť platené oznámenia s problematicky definovanou cieľovou skupinou. Platforma sa po upozornení redakcie ospravedlnila a uviedla, že problém odstránila.

Šéf maltskej polície rezignoval kvôli kauze zavraždenej novinárky

Šéf maltskej polície rezignoval kvôli kauze zavraždenej novinárky

Veliteľ maltskej polícii Lawrence Cutajar v piatok podal demisiu v súvislosti s prípadom zavraždenia novinárky Daphne Caruanaovej Galiziovej v roku 2017.

Najčítanejšie