Software společnosti Microsoft pro rozpoznávání psů nemá žádnou představu o tom, co je to pes

$config[ads_kvadrat] not found

How I'm fighting bias in algorithms | Joy Buolamwini

How I'm fighting bias in algorithms | Joy Buolamwini
Anonim

Pokud jste tak ještě neučinili, podívejte se na webovou stránku What Dog Dot Net (what-dog.net). Ze stejných myšlenek společnosti Microsoft, kteří nám přinesli webové stránky, které nesprávně předpovídají váš věk, tento program občas správně odhaduje plemeno vašeho psa.

Skutečná radost však nevyužívá způsob, jakým je program výslovně vyložen, nýbrž nutí algoritmus, aby dusil odpadky a vyplivl ho zpět. Lidé v systému donutili prezidentské kandidáty. A vysokoškolští fotbaloví trenéři. Počítač se snaží dělat svou práci, smát se jeho pokusům o utváření vesmíru jako psí, a následuje veselí (?):

Že aplikace Microsoft Garage vidí celý svět psa není docela špatná funkce, ale to zvýrazní, co se stane, když rozpoznávání objektů dostane hyper-specifické. (Rovněž selhává biologii v jeho tvrzení, že vizuály „ukazují procento nejbližšího plemene“ pro mláďata nebo neznámé psy - pro odhalení přesných informací o původu psa potřebujeme skutečně genetickou analýzu.)

Výzkumníci společnosti Microsoft říkají, že AI napájející aplikaci dělá vědět, kdy jsou v rámu pouze neživé objekty - ačkoliv to nemůže říct psovi z kočky - a že osoba-jako-pooch je zapečená funkce. Ví, co má pes vypadat, ale nemohl vám říct, co je to pes.

Nenechte si však tuto aplikaci dovolit, aby všechny rozpoznávací programy byly odsouzeny k hloupým chybám. Ačkoliv počítače, které analyzují snímky z bezpečnostních kamer a dalších snímků v divokém prostředí, mají stále možnosti, online systémy rozpoznávání, stejně jako jeden Facebook, jsou stále silnější. Všichni dostáváme číslo na základě toho, jak daleko jsou naše oči od nosu a uší, a Facebook se také spoléhá na oblečení a účesy jako identifikační podněty.

Ne všechny způsoby rozpoznávání obrazu jsou tak frivolní jako označování přátel nebo otáčení Han Solo do basetového honičky - například aplikace Hledání Roveru chce přivést ztracené psy domů očima počítače.

$config[ads_kvadrat] not found