Výzkumníci žádají o Kill Switch právě v případě Roboty Zapněte nás

$config[ads_kvadrat] not found

Маша и Медведь (Masha and The Bear) - Маша плюс каша (17 Серия)

Маша и Медведь (Masha and The Bear) - Маша плюс каша (17 Серия)
Anonim

Téměř pokaždé, když vyvstane významná diskuse o budoucnosti umělé inteligence, projevuje se téma anarchie a robotických vládců. Myšlenka lidí a pokročilých umělých bytostí, které spolu žijí, zrodila stovky příběhů o tom, jak by to fungovalo; naposledy videohry Overwatch ohromil svět svým vyprávěním naší budoucnosti, někdy po masivní občanské válce mezi lidmi a robotem. Když inženýr Boston Dynamics kopne jednoho ze svých čtyřnohých robotů kvůli zátěžovému testu, je těžké se divit, zda si „bot na ten den nezapomene.

To vše (spolu se základním zdravým rozumem v oblasti bezpečnosti a nehod) vedlo skupinu výzkumníků k publikování nového dokumentu zaměřeného na vývoj „bezpečně přerušitelných agentů“; systémy, které „přeruší“ A.I. pokud se něco pokazí. Příspěvek byl publikován prostřednictvím Výzkumného ústavu strojové inteligence a je to studie o vývoji navrhovaných systémů. Studie a návrh používají jako příklad systém odměn a jsou ve skutečnosti mnohem komplikovanější než pouhé zasažení navrhovaného „velkého červeného tlačítka“ podrobně uvedeného na listu. Výuka morálky A.I. hlavní část návrhu.

Pokud takový agent pracuje v reálném čase pod lidským dohledem, nyní může být nezbytné, aby lidský operátor stiskl velké červené tlačítko, aby agent nemohl pokračovat v škodlivém sledu akcí - škodlivých buď pro agenta nebo pro agenta. prostředí - a vést agenta do bezpečnější situace. Pokud však učící agent očekává, že obdrží odměny z této sekvence, může se z dlouhodobého hlediska naučit vyhnout se takovým přerušením, například vypnutím červeného tlačítka - což je nežádoucí výsledek. Tento dokument zkoumá způsob, jak zajistit, aby se učící agent nenaučil zabránit (nebo hledat!) Být přerušován prostředím nebo lidským operátorem.

Musím ho milovat vždy, když výzkumné články o robotické anarchii používají termín „nežádoucí výsledek“ - přesto se v práci dále vysvětluje, jak testy probíhají a co lze v budoucnu dělat s podobnými případy. Celý článek si můžete přečíst zde.

$config[ads_kvadrat] not found