„Tato osoba neexistuje“ Stvořitel odhaluje svůj strašidelný příběh

Phillip Wang je 33-letý softwarový inženýr zodpovědný za vytváření webových stránek s umělou inteligencí. Pokaždé, když je stránka obnovena, algoritmus známý jako generativní adversarial síť (GAN) (původně kódovaný Nvidia) poskytuje hyper-realistické portréty naprosto falešných lidí.

Stunt byl navržen tak, aby upozornil na stále se zvyšující sílu A.I. Ale jak říká Wang Inverzní, tento kaskadér má důsledky, které se šíří daleko za hranice, „hele, podívej se na tuto skutečně vypadající falešnou osobu.“ Ve společnosti, ve které jsou obrazy a obrázky standardními náhradami za „důkaz“, GANs - automatizací práce, která kdysi vyžadovala náročnou práci část odborníků na zobrazování - brzy umožní komukoli poskytnout „důkaz“, který každá představitelná osoba udělala jakoukoli představitelnou věc.

„Jsem v zásadě v místě, kde budu připouštět, že super-inteligence bude skutečná a musím věnovat svůj zbývající život,“ vysvětluje. „Reakce hovoří o tom, kolik lidí je ve tmě o A.I. a jeho potenciál. “

Místo narazilo na akord. Bývalý Uber-softwarový inženýr říká, že od jeho spuštění, tato osoba neexistuje, byla navštívena asi 4,2 milionu krát, není špatné pro jednorázové stránky původně zaslané do uzavřené Facebook Group. Wang ji původně použil jako způsob, jak přesvědčit několik přátel, aby se připojili k nezávislému A.I. výzkum, na kterém v současné době pracuje. Ale během jednoho dne se rozhodl, že širší publikum by mohlo těžit z učení o potenciálu GAN. Řekl, že reakce, jak důležité je informovat lidi o tom, jak by tento typ technologie mohl být revoluční i nebezpečný.

Proč Falešné tváře představují děsivý průlom

Web společnosti Wang využívá algoritmus StyleGAN společnosti Nvidia, který byl publikován v prosinci loňského roku. Potenciál, podle jeho názoru, sahá od užitečného, ​​ale všedního (přemýšlení: zeštíhlení implantátu zubní korunky) až k daleko vzdálenějším, například umožnění představivosti zcela nových molekul sloužit v budoucích lécích. Tato revoluční technologie však také usnadní podvody a dezinformace než kdy jindy.

Důvod, proč jsou případy použití tak mnohostranné, je mnoho, mnoho způsobů, jak aplikovat GANy, které jsou trénovány tak, že proti sobě postaví dvě sítě: generátor a diskriminátor. Generátoru jsou dány skutečné obrazy, které se snaží co nejlépe vytvořit, zatímco se diskriminátor naučí rozlišovat mezi falešnými obrazy a originály. Po miliónech miliónů tréninků algoritmus vyvíjí nadlidské schopnosti pro vytváření kopií obrazů, na kterých byl trénován.

Je to stejná metoda, která vytváří hluboké souboje, nebo počítačem generované obrazy, které jsou umístěny na existujících obrázcích nebo videích, a které jsou často používány k vytlačování falešných zpráv nebo jiných falešných zpráv.

A zatímco Wang je fascinován inovacemi, které přinese v mnoha podnicích, také chce, aby si lidé byli více vědomi možných škod, které by to mohlo způsobit.

Jako příklad, zločinný herec mohl šířit GAN-generoval video nebo obraz líčit falešnou událost podněcovat vzpoury, protesty nebo jiné potenciálně násilné reakce online.

Vzhledem k tomu, že tento proces je automatizován, všichni, kdo by potřebovali, by měli přístup k řadě grafických procesorových jednotek (GPU) nebo grafických karet - což je učení se stroji - a datové sady obrazů, které začnou vyrazit jako padáky.

V delším časovém horizontu, zatímco StyleGAN jsou schopny vytvářet statické obrazy lidí, kteří nikdy neexistovali, takže tyto obrazy přirozeně mluví a pohybují se jen pár kroků za tím. Wang naštěstí poznamenává, že pouhé informování o GAN bude pro lidi méně náchylné k tomu, aby se jich oklamali. Zvýšené povědomí nám všem usnadní snazší vylepšení 3D grafiky a medicíny.

„Jen doufám, že moje demonstrace zvýší povědomí. Ti, kteří nevědí, jsou touto technologií nejzranitelnější, “řekl Wang. „Na druhé straně, A.I. skutečně přinese hodně dobrého tomuto světu. “

Email autora: [email protected]