Vláda USA najímá někoho, kdo by ho vybudoval jako mozek

Pozor na šílené vědce: vláda se snaží vybudovat mozek.

Podle nedávného pracovního místa Úřad ředitele Národní zpravodajské služby (ODNI) hledá postdoktoranda, který by studoval mechanismy biologických neuronových sítí (čtení: mozky) a určil nejúčinnější způsoby, jak je oklamat.

Jazyk vysílání je klinický a oddělený. Ale nenechte se mýlit - mohlo by to být něco zlého.

V podstatě chce ODNI vytvořit výzkumného pracovníka, který by vytvořil biologický analog k obrazové třídě protichůdné neuronové sítě (ANN). ANN je vyškolen k třídění obrázků (nebo jiných dat) na vysokou úroveň přesnosti. Sporný útok manipuluje s obrazem velmi jemně a způsobuje, že ANN chybně klasifikuje obraz s vysokým stupněm důvěry, “v souladu s vysláním práce.

Podobné experimenty byly provedeny vědci Google zahrnujícími AI. Umělá neuronová síť byla vycvičena, aby vytvořila portréty tváří, a další síť byla vyškolena, aby je identifikovala jako skutečné nebo vynalezené. Prvním cílem sítě bylo oklamat druhou síť. Takže pokaždé, když byla generativní síť neúspěšná, udělala několik drobných vylepšení portrétu, který vytvořila. Pokaždé, když byla klasifikační síť neúspěšná, vylepšila kritéria, která zkoumala, aby učinila rozsudek. Proti sobě se obě sítě postupně staly sofistikovanější a kompetentnější ve svých úkolech.

ODNI chce někoho, kdo dokáže zjistit, zda jsou biologické neuronové sítě náchylné k podobným klamům, způsob, jakým může být umělá klasifikační neuronová síť oklamána generativní.

Je možné, že mozek nesprávně kategorizuje obrázky. Například určité vizuální podněty mohou zavádět mozek k tomu, aby vnímaly něco, co tam není, jako je optická iluze nebo případ pareidolie, kde lidé vidí náhodné vzory v náhodných věcech. Studium mechanismů zodpovědných za tyto jevy na neuronální úrovni by mohlo výzkumníkům pomoci určit, zda existují způsoby, jak učinit mozek odolnějším vůči těmto druhům podnětů. Nebo možná, pokud existují způsoby, jak učinit mozek náchylnějším k percepčnímu hloupostu.

Jedním ze způsobů, jak to zjistit, je vytvořit si mozek, naučit ho rozpoznávat a třídit obrazy a pak pracovat s ním. Přinejmenším se jedná o navrhované první kroky ODNI. Podle vysílání je však ODNI „otevřený všem přístupům“.

Mezi další pozice, které se v ODNI otevírají, patří vytváření drobných robotů, kteří mohou manévrovat v těsných prostorech a na drsných površích a manipulovat s objekty s „obratností a vysokými silami“ a další prací zaměřenou na modelování chování „insider risk“ (dvojitého agenta) s neurálními sítěmi.

Všechno je v pořádku.