Kultúra Deepfakes

  Deepfakes

O

Deepfakes sú videá, v ktorých je predmet tvár vymenená pomocou algoritmov strojového učenia. Prax bola vytvorená o Redditor Deepfakes, ktorý v novembri 2017 spustil špeciálny subreddit na zdieľanie videí. V januári 2018 bola vydaná desktopová aplikácia FakeApp ako nástroj na vytváranie digitálne upravených videí.

História

Dňa 2. novembra 2017 Redditor deepfakes vytvoril /r/deepfakes [1] subreddit ako miesto na zdieľanie svojich digitálne upravených sexuálne explicitných videí, v ktorých bola tvár subjektu zamenená s celebritou alebo verejnou osobou. Podľa Redditor technológia využíva open-source knižnice Keras a TensorFlow na vykonávanie výmeny tváre.

Zvýraznenie

Falošná aplikácia

8. januára 2018 účet deepfakeapp Reddit oznámil spustenie aplikácie FakeApp, ktorá je opísaná ako „nástroj pre stolné počítače na vytváranie deepfakes“. [dva] Ten mesiac, /r/fakeapp [3] subreddit venovaný diskusiám o softvéri zhromaždil viac ako 2 500 predplatiteľov. 30. januára /r/facesets [7] Subreddit bol spustený pre používateľov na zdieľanie súborov obrázkov tvárí extrahovaných na vytvorenie deepfakes.

Videá Nic Cage

Dňa 25. januára 2018 Redditor [8] pokles fakes zverejnil video v /r/deepfakes subreddit, komunite, v ktorej ľudia používajú aplikáciu na hlboké učenie s názvom FakeApp na nahradenie tvárí ľudí vo videách, Andyho Samberga nahradený Nicolasa Cagea . Video (zobrazené nižšie) získalo viac ako 600 hlasov za (97 % hlasov) a 20 komentárov.


  gif víkendovej aktualizácie skice andyho samberga s nicolasovou klietkou's face

O niekoľko dní neskôr derpfakes prilepili Cageovu tvár na Amy Adamovú z filmu Muž z ocele . Príspevok (zobrazený nižšie vľavo) získal viac ako 2 000 bodov (98 % hlasovalo za) a 90 komentárov. Navyše, 26. januára derpfakes vo filme nasadil Cageovu hlavu na Harrisona Forda Dobyvatelia stratenej archy (zobrazené nižšie vpravo).


  Gif Man of Steel Nicolasa Cagea ako Lois Lane   Gif Raiders of the Lost Ark s Nicolasom Cageom ako Indianom Jonesom

Recepcia

Dňa 11. decembra 2017 sa Vice technologické novinky základná doska [4] uverejnil článok s názvom ' AI – Assisted Fake Porn Is Here and We’re All Fucked,“ ktorý obsahoval rozhovory s rôznymi odborníkmi o etických dôsledkoch technológie deepfakes. Dňa 24. januára Motherboard [5] publikoval nasledujúci článok o programe FakeApp s názvom „Sme skutočne v prdeli: Všetci teraz vyrábajú falošné porno generované AI“. Dňa 31. januára 2018 YouTuber Philip DeFranco odovzdal video o DeepFakes a FakeApp.



Derpfakes

27. januára 2018 bol vydaný kanál YouTube Derpfakes, ktorý obsahuje videá bezpečné pre prácu vytvorené pomocou softvéru deepfakes. Za jeden mesiac kanál získal viac ako 400 000 videní videa a 1 300 odberateľov.



Odstránenie Gfycat

31. januára 2018 začala mediálna hostiteľská stránka Gfycat odstraňovať všetky médiá súvisiace s deepfakes. V ten deň, základná doska [6] publikoval článok o čistke, ktorý obsahoval vyhlásenie hovorcu Gfycat, ktorý odhalil, že spoločnosť „aktívne odstraňuje tento obsah“.

/r/Zákaz Deepfakes

Dňa 7. februára 2018 bol /r/deepfakes subreddit zakázaný zamestnancami Redditu za porušenie pravidiel pre obsah stránky „proti nedobrovoľnej pornografii“ (uvedené nižšie). Okrem toho Reddit odstránil aj subreddity /r/deepfakensfw, /r/youtubefakes, /r/CelebFakes, /r/doppelbangher, /r/facesets a /r/xray.


  Táto komunita bola zakázaná Tento subreddit bol zakázaný z dôvodu porušenia našich zásad pre obsah, konkrétne našich zásad proti nedobrovoľnej pornografii Zakázaná pred 1 hodinou. SPÄŤ NA REDDIT písmo textu

Vo vyhlásení pre technologickú stránku Vice Motherboard, [13] Hovorca Redditu vysvetlil dôvody nového obmedzenia na celom webe:

'Reddit sa snaží byť vítanou, otvorenou platformou pre všetkých tým, že dôveruje našim používateľom, že udržujú prostredie, ktoré kultivuje skutočnú konverzáciu. Od 7. februára 2018 sme vykonali dve aktualizácie našich zásad pre celú stránku, ktoré sa týkajú nedobrovoľnej pornografie a sexuálneho alebo obscénneho obsah zahŕňajúci neplnoletých. Tieto pravidlá boli predtým spojené do jedného pravidla; teraz budú rozdelené do dvoch odlišných pravidiel. Komunitám zameraným na tento obsah a používateľom, ktorí uverejnia takýto obsah, bude na stránku zakázaný prístup.“

V ten deň sa vlákno o zákaze dostalo na titulnú stránku /r/KotakuInAction. [9] Redditor admin landoflobsters medzitým poslal príspevok do /r/announcements [14] o aktualizácii pravidiel pre celú lokalitu. Aj 7. februára niekoľko spravodajských stránok uverejnilo články o zákaze, vrátane The Verge, [10] Inverzne [jedenásť] a BoingBoing . [12]

Voat a 8chan

Po zákaze sa mnohí používatelia presunuli na nástenku /deepfakes/ 8kanál [18] a komunita /v/DeepFakes na Voat . [17]

/r/FakeApp Zákaz

Dňa 16. februára 2018 Reddit zakázal /r/FakeApp subreddit, komunitu venovanú videám bezpečným pri práci vytvoreným pomocou softvéru Fake App, pričom zanechala oznámenie, že bola zakázaná pre porušenie ich pravidiel proti „nedobrovoľnej pornografii“. Ten deň, Denná bodka [pätnásť] zverejnil článok o zákaze s poznámkou, že nedávna keška [16] na titulnej stránke subredditu 'prevládala technická diskusia o softvéri, zmiešaná s niektorými nepornografickými falzifikátmi.'

Obama BuzzFeed PSA

Dňa 17. apríla 2018 BuzzFeed tweetoval [19] hlboké falošné video bývalého prezidenta Barack Obama hraný Vypadni riaditeľ Jordan Peele . Príspevok získal za 24 hodín viac ako 13 000 retweetov a 29 000 lajkov. V ten deň bolo video zverejnené aj na YouTube [27] (zobrazené nižšie), kde získalo viac ako 100 000 zobrazení za menej ako 24 hodín.



Video varuje pred technológiou, ktorá sa dá použiť na oklamanie divákov. Peele v tomto diele hovorí: 'Toto je nebezpečné obdobie. Keď sa posunieme vpred, musíme byť ostražití voči tomu, čomu dôverujeme internet .' [dvadsať]

@BuzzFeedNews nasledoval príspevok tweetovaním [dvadsaťjeden] tipy na identifikáciu týchto druhov falzifikátov. Napísali: „Tu je návod, ako sa vyhnúť falošným videám, ako je toto: 1) Nerobte unáhlené závery 2) Zvážte zdroj 3) Skontrolujte, kde inde je (a nie je) online 4) Pozrite sa pozorne na rečníka ústa 5) Spomaľte video.' Príspevok (zobrazený nižšie) získal za 24 hodín viac ako 350 retweetov a 750 označení páči sa mi.

V ten deň, Twitter [22] zverejnil stránku Moments o videu.

Video pokrylo niekoľko médií vrátane Business Insider, [23] AV klub, [24] Fox News , [25] Mary Sue [26] a viac.


  NOVINKY BuzzFeed Novinky BuzzFeed @BuzzFeedNews tu's how to avoid falling for fake videos like this one: 1) Don't jump to conclusions 2) Consider the source 3) Check where else it is (and isn't) online 4) Look closely at the speaker's mouth 5) Slow the video down How To Spot A DeepFake Like The Barack Obama-Jordan Peele Video This "deepfake" video starring Jordan Peele as Barack Obama shows how easy it's getting to create convincing audio and video fakes. Here's how to buzzfeed.com text

Správa spravodajskej komunity

Dňa 13. septembra 2018 poslali traja zákonodarcovia list riaditeľovi národnej spravodajskej služby, v ktorom požadovali správu o deepfakes do polovice decembra 2018. Adam Schiff (D-Kalifornia), Stephanie Murphy (D-Fla.) a Carlos Curbelo (R -Fla.), autori listu, napísali riaditeľovi Danielovi Coatsovi a vyzvali ho, aby vyšetril Deep Fakes, čo by podľa nich mohlo byť problémom národnej bezpečnosti a mohli by ho využiť nepriateľské cudzie národy alebo iní hanební aktéri. [28]

V liste sa píše:

Falošné videá, obrázky alebo zvuk by sa mohli použiť na cielenie jednotlivcov na vydieranie alebo na iné nekalé účely, ktoré sú pre národnú bezpečnosť väčšie, a mohli by ich použiť aj zahraniční alebo domáci aktéri na šírenie dezinformácií. Keďže sa hlboko falošná technológia stáva pokročilejšou a dostupnejšou, môže predstavovať hrozbu pre verejný diskurz Spojených štátov a národnú bezpečnosť so širokými a znepokojujúcimi dôsledkami pre kampane ofenzívnych aktívnych opatrení zameraných na Spojené štáty.

Externé referencie

[1] Reddit – /r/deepfakes (stránka je nedostupná)

[dva] Reddit – príspevok falošnej aplikácie (stránka je nedostupná)

[3] Reddit – /r/fakeapp (stránka je nedostupná)

[4] základná doska - AI-Assisted Fake Porn Is Here and Were All Fucked

[5] základná doska - Sme naozaj v prdeli

[6] základná doska - AI-Generated Fake Porno Makers have been Kicked Off their Favorite Host

[7] Reddit (cez Wayback Machine) – /r/facesets

[8] Reddit – r/deepfakes bol zakázaný

[9] Reddit – r/deepfakes bol zakázaný

[10] The Verge – Reddit zakazuje deepfakes AI pornografické komunity

[jedenásť] Inverzná – Reddit práve zakázal r/Deepfakes

[12] BoingBoing – Reddit vypne subreddit Deepfakes

[13] základná doska - Reddit Stačí vypnúť Deepfakes Subreddit

[14] Reddit – Aktualizácia pravidiel týkajúcich sa nedobrovoľnej pornografie a sexualizácie neplnoletých na celom webe

[pätnásť] Denná bodka – Reddit zakročil proti FakeApp

[16] Webový archív – Archív falošných aplikácií

[17] Voat (cez Wayback Machine) – /v/DeepFakes

[18] 8chan – /deepfakes/

[19] Twitter – Príspevok používateľa @BuzzFeed

[dvadsať] BuzzFeed – Toto PSA o falošných správach od Baracka Obamu nie je to, čo sa zdá

[dvadsaťjeden] Twitter – Tweet @BuzzFeedNews

[22] Twitter – Neuveríte, čo hovorí Obama v tomto videu 😉

[23] Business Insider – Vírusové video, ktoré zrejme ukazuje, že Obama nazýva Trumpa „poklesom---“, ukazuje znepokojujúci nový trend nazývaný „deepfakes“

[24] AV klub - Jordan Peele núti Obamu nazvať Trumpa „úplným hlupákom“ v PSA o technológii falošného videa

[25] Fox News – Jordan Peele sa spojil s BuzzFeedom, aby vytvoril video s falošnými správami o Obamovi

[26] Mary Sue - Jordan Peele vytvoril falošný Obama PSA, aby ukázal, aké je to ľahké

[27] YouTube - Neuveríte, čo hovorí Obama v tomto videu! 😉

[28] House.gov – List riaditeľovi