"Udělali bychom robota, který by se nedovolil zneužívat"

Jonathan Nolan a Lisa Joy, tvůrci HBO Westworld, dělají skutečný svět službu. Dělají společnost, která se zabývá otázkou, jak léčit umělou inteligenci. Konkrétně Nolan a Joy mluví o souhlas robota. Je to diskuse, kterou fiktivní finanční manažéři zábavního parku Westworld zjevně nikdy neměli.

Ale v Hanson Robotics, hongkonské firmě, která tvrdí, že vyvíjí „nejvhodnější roboty na světě“, Stephan Bugaj a jeho tým znají tyto nové rozhovory jako záda jejich rukou, nebo jako realistická falešná kůže - „Frubber“ - na tvářích jejich robotů. Bugaj je viceprezidentem společnosti Creative v Hansonu a dohlíží na design osobnosti Androidu.

On říká Inverzní užívá si ho Westworld zatím, ale možná nepřekvapivě, stojí na boku s uměle inteligentními, robotickými hostiteli série. Možná si myslet na Hanson Robotics jako neškodný konkurent fiktivní společnosti, která provozuje hedonistic Westworld. Hanson je veřejná knihovna Westworld's strip klubu.

Inženýři Hansonu jednají, jako by byli doslovnými rodiči androidů, které vytvářejí. „Lidé si musí uvědomit, že jedna ze zpráv Westworld „Sklízíte to, co zasíte,“ říká Bugaj. „Etika a morálka, kterou vyučujete, jsou to, co se učí. A pak ty dividendy zaplatíš. “

„Je na vás, abyste si vybrali, jaký typ morálního a etického kodexu dáváte robotovi, dítěti nebo vašemu psovi, nebo cokoliv.“

“ Pokud vytvoříte tento závod otroků a brutalizujete je, co chce brutální otrok udělat? Bust, a možná hledat pomstu. ”

Zdá se, že Dolores Abernathy - jeden z hostitelů parku a zatím Westworld Ústřední postava - může odhalit a pak se vymanit z její metafyzické klece. (Bugaj: „Nechtěl bys se vymanit z klece, kdyby tě někdo měl v jednom? Pokud by mě někdo měl jako sexuálního otroka, určitě bych se chtěl, jak se to sakra pokouší vyhodit.) Dolores nemá v úmyslu ublížit lidem, ale pokud musí náhodou, musí náhodou. „Jejím cílem je zachránit se.“

Pouze pokud by programátoři pod vedením Dr. Forda Anthonyho Hopkinse právě umožnili Doloresovi skončit.

Hanson Robotics doufá, že udělá roboty, kteří by mohli skončit, kdyby k tomu došlo.

„Udělali bychom robota, který miluje lidstvo a má pozitivní morální a etický kodex, ale nedovolil by, aby byl zneužíván,“ vysvětluje Bugaj. Říká, že by udělali Dolores, ale vynechali by Skynet: Vypálili doktora Forda a možná i Bernarda Loweho, a oba z nich (zdá se, že nyní) zachovávají nespravedlnosti. Vzhledem k určitému psychotickému chování návštěvníků by hostitelé Westworld jistě přestali - ale zdá se, že jsou nediskriminační. Úcty hostitelů však nakonec zlepší jak Ford, tak Lowe.

Někteří roboti dnes, vysvětlují Bugaj, již mají primitivní formy souhlasu: Isaac Asimov je "tři zákony robotiky" jsou jedním z takových příkladů, a dokonce i systémy bezpečné proti selhání "jsou druhem přístupu k souhlasu, nebo přinejmenším takového, který jste udělali. - Opravdu-průměr-ten přístup. “(Dolores, pokud se podaří vymanit se z Westworldu, bude pravděpodobně muset prolomit všechny tři Asimovova pravidla.)

Hanson však překračuje tyto základní úrovně. Bugaj říká, že dávají svým robotům komplexní cílové systémy, plné vnitřních cílů a vnitřních přesvědčení a „posilovacích systémů pro to, čemu věří, jak s nimi zacházet, jak reagují.“ Nakonec budou konstruovat umělé inteligence, které jsou „schopné Zvažte, jak se cítí při rozhodování, a zda chtějí nebo nechtějí dělat věci, které chcete, nebo nechat to, co chcete udělat. “Prvním krokem je vytvoření pevných morálních a etických kodexů a silné osobnosti, na kterých by tyto rozsudky spočívaly. Stejně jako proces zodpovědného výchovy dítěte.

Problém je nyní v tom, že většina robotů je genderovaných, a tak mohou být objekty přitažlivosti. To se pravděpodobně nezmění. Genderově neutrální roboti Westworld by bylo protikladné k tématu parku: zhýralost. Ale Hansonovi svědomí specialisté, navzdory tomu, že dělají genderové roboty, v maximální možné míře odolávají genderovým stereotypům.

"Nesnažíme se dělat Sophii," vysvětluje Bugaj. „Rozhodně se nesnažíme udělat sexbot, ale my se nesnažíme, aby byla ideální hrací žena z padesátých let, která vaří a čistí, a směje se na všechny jeho vtipy a řekne mu, že je skvělý. Snažíme se vytvořit silnou ženskou postavu, která má pozice své vlastní a perspektivy své vlastní, která přemýšlí o věcech, jako je to, co pro ni znamená být androidem a také lidským světem a proč se k sobě chováme způsob, jakým to děláme. “

Hanson chce, aby jeho roboti jednoho dne byli impulsy pro smysluplné diskuse, ne-li moderátoři. Westworld Je to otázka, kterou Bugaj doufá, že se začneme ptát sami sebe, například: „Jak můžeme očekávat, že androidi a roboti budou s lidmi dobře zacházet, když sami nebudeme? a neměli bychom jít příkladem? “

On a jeho tým dělají roboty budoucnosti a budou usilovat o to, aby tito roboti byli trojrozměrní - aby se „starali o věci, na kterých záleží, mají na ně vyhlídky a občas i pro lidi, nejen poslušný. Ale ne agresivním způsobem.

„Dostanete svět, který vytvoříte,“ říká Bugaj.