Sú deepfake len zábavou alebo nástroj na krádež identity, manipuláciu či pomstu?  (VIDEO)

Sú deepfake len zábavou alebo nástroj na krádež identity, manipuláciu či pomstu? (VIDEO)

24.09.2019 23:19 | Blog | Miroslava Kernová

Slovenský vývojár žijúci v ČR vyvolal vo svete pozornosť svojimi deepfake videami, v ktorých vymieňa tváre rôznym celebritám.

Jeho video, v ktorom sa komik Bill Hader v jednom momente mení na známeho herca Toma Cruisa, videlo za prvý mesiac od zverejnenia už takmer 6 miliónov ľudí. Komik mal nielen tvár, ale aj mimiku, gestá herca Cruisa.

Slovenský vývojár, ktorý nechce prezradiť svoju identitu a vystupuje ako Tom, na svojom kanály youtube s názvom Ctrl Shift Face neobjavil nič nové. Využíva program DeepFaceLab, ktorý funguje na báze otvoreného zdrojového kódu a pomocou ktorého tváre známych ľudí pridáva do rôznych vídeí.

Nedávno zverejnil ďalšie video, v ktorom sa tvár herca Rami Maleka z filmu Bohemian Rhapsody mení na skutočného Freddieho Mercuryho.

V ďalšom videu ukázal, ako deepfake vzniká.

V obehu sú aj mnohé videá, ktoré zmiatli divákov, vyzerali natoľko realisticky, že im mnoho ľudí uverilo.

Čo je deepfake?

Využíva techniku digitálnej syntézy ľudského obrazu založenej na umelej inteligencii, kde sa prekrývajú existujúce snímky. Vytvárajú sa tým falošné videá, na ktorých v skutočnosti nie sú osoby, ktoré divák vidí, ale boli tam dodatočne pridané.

Jedno z najznámejších je video z roku 2017 s Barackom Obamom, na ktorom je upravená mimika tváre bývalého amerického prezidenta tak, aby bola zhodná s doplnenou zvukovou stopou. Autormi videa sú vedci z Washingtonskej univerzity, ktorí chceli cez „synthetics Obama“ ukázať, že sa politikovi dajú vložiť do úst akékoľvek slová, ktoré nikdy nepovedal.

Názov deepfake sa začal častejšie používať v roku 2017 hlavne na označenie erotických videí, do ktorých boli vkladané tváre známych celebrít.

Jednou z najčastejších obetí bola herečka Scarlett Johansson. Ďalšie rozšírené a nie vždy vydarené deepfake si zas obľúbili tvár herca Nicolasa Cage, ktorú zasadili do rôznych filmov.

Deepfakes sa s obľubou využíva aj v rôznych satirických videách zosmiešňujúcich politikov. Napríklad, keď tvár Angely Merkelovej nahradili tvárou Donalda Trumpa.

To, že deepfake vie poslúžiť aj na manipuláciu, ukázalo video z mája tohto roku, na ktorom prejav Nancy Pelosi zo Snemovne reprezentantov Spojených štátov vyzerá, akokeby bola politička opitá. V skutočnosti tento dojem sa docielil len spomalením videa o 75 percent.

Vážne obavy zo zneužívania tohto internetového hitu vyslovila herečka Scarlett Johansson, ktorá už rezignovala na boj s autormi vídeí, v ktorých je doplnená jej tvár. Vo vyjadrení pre The Washington Post povedala, že si myslí, že deepfake jej verejný imidž neohrozia, lebo ako celebrita je dostatočne známa. No sú podľa nej vážnou hrozbou pre ženy, ktoré žijú bežný život, a také videá, vyrobené napríklad z pomsty, im môžu veľmi poškodiť.

Deepfake si už pritom môže vyrobiť ktokoľvek. Nová aplikácia s názvom Zao, ktorá prišla nedávno z Číny, umožňuje vytvoriť takéto video za pár sekúnd.

Podobne ako pri aplikácii FaceApp, aj v prípade Zao sa šíria pochybnosti o jej bezpečnosti. V pravidlách na používanie sa píše, že užívateľ poskytuje tvorcom „voľné, nemenné a permanentné“ práva na použitie v ďalších odvetviach. Spoločnosť Changsha Shenduronghe Network Technology, ktorá aplikáciu vyvinula, ale tvrdí, že všetky užívateľské fotografie a videá bude využívať výlučne na vylepšenie umelej inteligencie.

Slovák Tom, ktorého sme v úvode spomínali, si myslí, že deepfake nie sú ďalšou hrozbou pre svet dezinformácií. Oveľa horšie sú podľa neho vymyslené články. „Keď niekto napíše vymyslený článok, ktorý je neoveriteľný, a teda sa dá len ťažko vyvrátiť, je to podľa mňa nebezpečnejšie. Hlavne preto, že takýto článok sa dá napísať veľmi ľahko. Zato vytvoriť kvalitný deepfake je oveľa náročnejšie,“ povedal Tom pre denikn.cz.

Podľa nemeckého IT odborníka Alexa Champandarda manipulácia s obrázkami a videami pomocou umelej inteligencie by sa mohla stať nebezpečným masovým javom, preto je podľa neho dôležité, aby sa upevňovala dôvera v žurnalistiku, povedal pre Auergauer Zeitung.

Kybernetik Michael Šebek upozorňuje, že mnoho ľudí ani po odhalení podvrhu nemusí veriť, že video bolo upravené. Riešenie je podľa neho inde: „Rozvíjať kritické a logické myslenie a vychovávať ľudí, aby hneď neverili všetkému, čo uvidia. Aby si všetko overovali, o všetkom premýšľali. Čo vedie k mojej obľúbenej téme: nutnej zmene vzdelávania a škôl.“ povedal Šebek pre denikn.cz.

Článok vznikol v spolupráci s Férovou nadáciou O2.

 



Apple a Google stiahli hru Fortnite z databázy

Apple a Google stiahli hru Fortnite z databázy

Technologickí giganti Apple a Google vo štvrtok odstránili úspešnú hru Fortnite zo svojich ponúk mobilných aplikácií kvôli aktualizácii, ktorá údajne porušuje ich pravidlá o platbách vnútri aplikácií. Herné štúdio Epic Games reagovalo podaním žalôb proti obom spoločnostiam, ktoré obviňuje z monopolistického správania. Informovala o tom agentúra Reuters.

Postoj chystá vlastnú televíziu, propaguje ju aj moderátor JOJ (VIDEO)

Postoj chystá vlastnú televíziu, propaguje ju aj moderátor JOJ (VIDEO)

Konzervatívny web Postoj.sk sa rozširuje - v septembri chce spustiť vlastnú TV Postoj.

Spotreba narastá. Častejšie chodíme do reštaurácií aj do potravín. Dovolenkujeme doma

Spotreba narastá. Častejšie chodíme do reštaurácií aj do potravín. Dovolenkujeme doma

Letné mesiace patria vo všeobecnosti k tým obdobiam, kedy viac míňame. Takýto trend sa potvrdzuje aj tento rok, a to aj napriek pretrvávajúcej pandémii koronavírusu. Aj keď obavy zo straty príjmu mala v apríli polovica populácie, dnes sa situácia stabilizuje, čo môžeme sledovať na narastajúcej spotrebe a výdavkoch.

Formula 1 bude exkluzívne na SPORT1 A SPORT2

Formula 1 bude exkluzívne na SPORT1 A SPORT2

Spoločnosť AMC Networks International - Central and Northern Europe predĺžila svoj kontrakt na vysielanie Formuly 1 na Slovensku a v Českej republike o ďalšie tri sezóny.

RTVS pripravila špeciálne vysielanie k SNP (VIDEO)

RTVS pripravila špeciálne vysielanie k SNP (VIDEO)

76. výročie Slovenského národného povstania si RTVS v televíznom a rozhlasovom vysielaní bude pripomínať už od polovice augusta. RTVS zaradila do vysielania dokumenty, filmy, diskusie, ale aj priame prenosy z osláv v Banskej Bystrici.

Telekom spustil kampaň s päťnásobnou držiteľkou GRAMMY (VIDEO)

Telekom spustil kampaň s päťnásobnou držiteľkou GRAMMY (VIDEO)

Telekom odštartoval v spolupráci s päťnásobnou držiteľkou GRAMMY Billie Eilish globálnu kampaň, v ktorej poukazuje na úspechy a potenciál mladých ľudí.

Česká vláda pripravuje zákon o službách ako je YouTube

Česká vláda pripravuje zákon o službách ako je YouTube

 Lepší ochranu dětí před nevhodným obsahem či obecně ochranu veřejnosti před projevy násilí a nenávisti i před nežádoucí reklamou má zajistit navrhovaný zákon o službách platforem pro sdílení videonahrávek. Zákon předkládaný ministerstvem kultury do českého právního řádu zavádí evropskou směrnici z roku 2018, členské státy se k ní mají připojit do 19. září. V pondělí se návrhem zákona, který mimo jiné zavádí i povinnost pevného podílu evropských děl v nabídce služeb videoték na vyžádání, bude zabývat vláda.

Bývalý redaktor Trendu o spôsoboch Penty: Drž hubu a krok, šúchaj nohami o zem a bude pokoj. Ak sa ozveš, dostaneš cez držku

Bývalý redaktor Trendu o spôsoboch Penty: Drž hubu a krok, šúchaj nohami o zem a bude pokoj. Ak sa ozveš, dostaneš cez držku

„Žralokov z deväťdesiatych rokov si pamätám len zbežne. Nátlakové vyjednávania s hrubými krkmi poznám vlastne len z románov a filmov. Ale to, čo sa dialo v Rosume (sídlo vydavateľstva Trendu - pozn.red.) krátko po tom, ako som dostal výpoveď, mi deväťdesiatky v niečom pripomínalo.“

Zdravý olovrant je pre deti základom popoludnia

Zdravý olovrant je pre deti základom popoludnia

Deti na svoj správny vývin potrebujú rozmanitú a zdravú stravu, ktorá by mala byť rozdelená do viacerých porcií počas dňa. Hoci raňajky, obed či večera sú pre väčšinu rodín samozrejmosťou, to isté sa už nedá povedať o olovrante. Ide pritom o dôležitú súčasť jedálnička detí vo vývoji. Potvrdzuje to aj odborník na výživu MUDr. Boris Bajer, ktorý pre BILLA navrhol päť jednoduchých tipov na zdravý detský olovrant.

Walt Disney končí s jednou z najznámejších značiek

Walt Disney končí s jednou z najznámejších značiek

Americká spoločnosť Walt Disney končí so značkou 20th Century Fox, ktorá je jedným z najznámejších mien v zábavnom priemysle.

Najčítanejšie