Hogyan viselkedni kell egy „mély hamis” arccserélő videóra

A közelmúltban a Reddit újból híreket készített egy olyan subreddit-tel, amelyben az emberek egy „Deep Fake” nevű gépi tanulási eszközt használnak, hogy egy személy arcát egy videóban automatikusan kicseréljék. Nyilvánvaló, hogy mivel ez az internet, az emberek két dolgot használnak: hamis híresség pornó és Nicolas Cage véletlenszerű filmekbe való beillesztése.

Bár valaki arcának cseréje egy fényképen mindig viszonylag egyszerű volt, valaki arcának cseréje egy videónál időigényes és nehéz volt. Eddig a VFX-stúdiók nagyrészt csak nagy költségvetésű hollywoodi filmekre tettek szert, ahol egy színész arcát kettősre cserélték. De most, a Deep Fake-el, bárki, aki számítógéppel rendelkezik, gyorsan és automatikusan megteheti.

Mielőtt továbblépnénk, tudnod kell, hogy néz ki egy Deep Fake. Nézze meg az alábbi SFW videót, amely különböző híresség-arc-csereügyletek összeállítását tartalmazza, főleg Nic Cage-t.

A Deep Fake szoftver gépi tanulással működik. Először célzott arccal képzett. A cél torzított képei az algoritmuson keresztül futnak, és megtanulják, hogyan kell kijavítani őket a változatlan célfelülethez hasonlóan. Amikor az algoritmust egy másik személy képei látják el, feltételezi, hogy torzított képek a célból, és megpróbálják kijavítani azokat. A videó megszerzéséhez a Deep Fake szoftver minden kereten külön működik.

Az a tény, hogy a Deep Fakes nagyrészt csak az érintett szereplőkből áll, az, hogy rengeteg felvétel áll rendelkezésre a különböző szögekből, ami hatékonyabbá teszi a képzést (Nicolas Cage-nek 91 felvevője van az IMDB-nek). Tekintettel azonban arra, hogy mennyi fotót és videót szeretne közzétenni az interneten, és hogy valóban csak körülbelül 500 képre van szüksége az algoritmus kiképzéséhez, nincs ok arra, hogy a hétköznapi emberek nem célozhatók, bár valószínűleg kevésbé sikerül.

Hogyan kell helyszíni mélyhamisítást

Most, a Deep Fakes nagyon könnyen észrevehető, de nehezebb lesz, ha a technológia egyre jobb lesz. Íme néhány ajándék.

Furcsa látszó arcok. Egy csomó Deep Fake-ben az arcok csak furcsaak. A funkciók nem egyeznek meg tökéletesen, és minden csak egy kicsit viaszosnak tűnik, mint az alábbi képen. Ha minden más normálisnak tűnik, de az arca furcsanak tűnik, talán egy Deep Fake.

Pislákoló. A rossz Deep Fake videók közös jellemzője, hogy az arca villogni kezd, és az eredeti funkciók néha megjelennek. Ez általában nyilvánvalóbb az arc szélén, vagy amikor valami elhalad előtte. Ha furcsa villogás történik, egy Deep Fake-et nézel.

Különböző testületek. A Deep Fakes csak az arcváltás. A legtöbb ember megpróbálja megkapni a jó testet, de ez nem mindig lehetséges. Ha úgy tűnik, hogy a személy észrevehetően nehezebb, könnyebb, magasabb, rövidebb, vagy tetoválással nem rendelkezik a valós életben (vagy nincs tetoválásuk a való életben), jó eséllyel hamis. Láthatsz egy igazán nyilvánvaló példát, ahol Patrick Stewart arcát J.K.-vel cserélték. Simmons egy jelenetben a Whiplash filmről. A Simmons lényegesen kisebb, mint a Stewart, így csak furcsa.

Rövid klipek. Most, még akkor is, ha a Deep Fake szoftver tökéletesen működik, és szinte megkülönböztethetetlen arcváltást hoz létre, csak nagyon rövid időre képes. Mielőtt túl hosszú, a fentiek egyik problémája megkezdődik. Ezért a legtöbb Deep Fake klip, amit az emberek megosztanak, csak néhány másodpercig tart, a többi felvétel nem használható. Ha nagyon rövid klip látható egy hírességről, ami valamit tesz, és nincs jó oka annak, hogy olyan rövid, ez egy ötlet, hogy ez egy mély hamis.

Nincs hang vagy rossz szinkronizálás. A Deep Fake szoftver csak az arc jellemzőit állítja be; nem varázslatosan teszi, hogy egy személy úgy hangzik, mint egy másik. Ha nincs hang a klipszel, és nincs ok arra, hogy ne legyenek hangok, ez egy újabb ötlet, amit egy Deep Fake-re nézel. Hasonlóképpen, még ha van hang is, ha a beszélt szavak nem egyeznek meg megfelelően a mozgó ajkakkal (vagy ha az ajkak furcsának tűnnek, miközben a személy az alábbi klipben beszél), akkor lehet, hogy mélyen hamis.

Hihetetlen klipek. Ez egyfajta magától értetődő, de ha igazán hihetetlen klipet mutat, jó esély van arra, hogy ne higgye el. Nicolas Cage sosem játszotta Loki-t Marvel filmben. Ez jó lenne.

Kétes források. A hamis fotókhoz hasonlóan, ahol a videó állítólag származik, gyakran nagyszerű ötlet a hitelességéről. Ha a New York Times történetet futtat, akkor sokkal valószínűbb, hogy igaz, hogy valami, amit Reddit véletlenszerű sarkában fedez fel.

Jelenleg a Deep Fakes inkább rettenetes kíváncsiság, mint egy nagy probléma. Az eredményeket könnyű észrevenni, és bár nem lehet eldönteni, hogy mi történik, senki sem próbálkozik tovább a Deep Fakes mint eredeti videók.

Mivel a technológia egyre jobb lesz, valószínűleg sokkal nagyobb probléma lesz. Például Kim Jong Un-tól való meggyőző hamis felvétel, amely az Egyesült Államok háborút hirdet, jelentős pánikot okozhat.