Apple iPhone X nemůže říct kromě čínských tváří, vrácení peněz

Minulý týden, v Nanjingu, hlavním městě na východě Číny, byla žena jménem Yan dvakrát nabídnuta náhrada od společnosti Apple za její vadný iPhoneX, který její kolega odemkl pomocí technologie rozpoznávání obličeje. Obě ženy jsou etnicky čínské.

Yan řekl místní zprávě, že když se to stalo poprvé, zavolala na horkou linku pro iPhone, ale nevěřili jí. Nebylo to až do chvíle, kdy ona a její kolega šli do místního obchodu Apple a ukázali zaměstnancům obchodu, že jí nabídli náhradu, a koupila si nový telefon, který si myslel, že na vině je možná vadná kamera.

Druhý telefon však měl stejný problém, což naznačovalo, že to nebyl vadný fotoaparát, jak navrhovali pracovníci obchodu, ale problém se samotným softwarem.

To by nebyl první případ, kdy by software pro rozpoznávání obličeje a AI za ním měli problémy s rozpoznáním nebílých tváří.

V roce 2015 fotografie Google Photos omylem označily fotografii dvou afroameričanů jako goril, zatímco v roce 2009 měly počítače HP http://www.youtube.com/watch?v=t4DT3tQqgRM potíže s rozpoznáním a sledováním černé tváře - ale žádný problém s bílými tvářemi. Ve stejném roce byl software fotoaparátu Nikon zachycen nesprávným označením asijské tváře jako blikající.

Fotky Google, jste v prdeli. Můj přítel není gorila. pic.twitter.com/SMkMCsNVX4

- Jacky (@ jackyalcine) 29. června 2015

„Toto je v zásadě problém s daty,“ napsala Kate Crawfordová, hlavní vědecká pracovnice společnosti Microsoft a spoluředsedkyně sympozia Obama White House o společnosti a A.I. „Algoritmy se učí tím, že jsou krmeny určitými obrazy, často zvolenými inženýry, a systém vytváří model světa založený na těchto obrazech. Pokud je systém vyškolen na fotografiích lidí, kteří jsou ohromně bílí, bude to mít těžší čas rozpoznat nonwhite tváře.

Jacky Alcine, programátor z Brooklynu, jehož fotografie byla společností Google nesprávně označena, souhlasil. Z jeho zkušeností řekl: „Tomu se mohlo vyhnout s přesným a úplnějším zařazením černých lidí.“

Ale rasismus, který je kódován do AI, i když je neúmyslný, má důsledky mimo pouhé rozpoznání obličeje.

Vyšetřování ProPublica v roce 2016 zjistilo, že černá zločinci jsou dvakrát pravděpodobnější mylně označeny za pravděpodobné, že doporučují zločiny než bílí zločinci, zatímco rostoucí trend „prediktivní policie“ využívá algoritmy k předpovídání kriminality a přímých policejních zdrojů.

Přesto menšinové komunity byly historicky přehlíženy, což vedlo k možnosti, že „tento software riskuje udržení již začarovaného cyklu,“ říká Crawford.

V Nanjingu v Číně získal Yan druhou náhradu za svůj druhý iPhoneX. Z místních zpravodajských zpráv není jasné, zda si pak koupila třetí.

To, co bylo v sázce, tentokrát, mohlo být právě jedním spotřebitelem. Yanův případ však byl příkladem neustálé potřeby technologického průmyslu navrhovat s ohledem na rozmanitost a inkluzivitu.