Elon Musk, Stephen Hawking Warn of Killer Robot Wars
AK-47 je po desetiletí v mnoha prašných koutech světa volbou, protože je levná, trvanlivá a všudypřítomná. Tytéž faktory, argumentují signatáři otevřeného dopisu zveřejněného v pondělí z Institutu budoucnosti života, jsou důvodem, proč jsou autonomní zbraně plné nebezpečí. Zbraně umělé inteligence od Kalašnikovů však oddělují, že autonomní stroj může „vybírat a zabývat se cíli bez zásahu člověka“ - což by ve špatných rukou mohlo spáchat zvěrstva mnohem větší než jakákoli nevypočítatelná puška.
Signatáři mají pro ně svou práci. Jako lidé jsme jako celek mnohem lépe schopni reagovat než myslet. Hlavní hráči byli pomalí snížit naše jaderné zbraně (a budování autonomních drones, myšlení jde, by vyžadovalo zlomek strojního zařízení, které jde do vytváření nuke); jinde, pozemní miny stále tečkují desetiletí stará bitevní pole. Když technologie stála v revoluci ve válce - ať už se jedná o střelný prach nebo námořní dreadnoughts nebo obohacený uran - téměř nikdy ne byly závody ve zbrojení.
FLI rozlišuje mezi drony, které máme nyní, řízenými na dálku lidskými rukama, a robotem zapnutým a ponechaným na vlastní vražedná zařízení. Vytvoření posledně jmenovaného by vyvolalo globální závody ve zbrojení AI, o nichž FLI tvrdí, a jak ukazuje historie Kalašnikovova, neskončí dobře:
Bude to jen otázka času, než se objeví na černém trhu a v rukou teroristů, diktátorů, kteří si přejí lépe ovládat své obyvatelstvo, válečníků, kteří chtějí spáchat etnické čistky atd. Autonomní zbraně jsou ideální pro úkoly, jako jsou atentáty, destabilizace obyvatelstva a selektivně zabíjet určitou etnickou skupinu. Domníváme se proto, že vojenské zbrojení v AI by pro lidstvo nebylo prospěšné. Existuje mnoho způsobů, jak může AI učinit bitevní pole bezpečnějším pro lidi, zejména civilisty, aniž by vytvořily nové nástroje pro zabíjení lidí.
Tohle je nějaká těžká sračka. A jména, která jsou za tímto varovným signálem, nejsou vašimi běžícími raketami Skynet - jsou to tvůrci, inženýři, vědci a filozofové, kteří pomohli utvářet to, co naše technologie vypadá dnes. Řezy jmen patří: Apple Steve Wozniak, Skype Jaan Tallinn, Harvardský fyzik Lisa Randall, kdo je kdo z AI výzkumníků a robotiků - včetně Stuart Russell, Barbara J. Grosz, Tom Mitchell, Eric Horvitz - herečka Talulah Riley, Noam Chomsky, Stephen Hawking.
Hawking se v poslední době trochu kousl do pesimistického ohýbání a také zopakoval své předpovědi o nebezpečích, s nimiž se setkává mimozemský život. Ten bude také odpovídat na otázky týkající se tohoto dopisu a budoucnosti technologie na Redditu tento týden - možná nebudeme schopni kontrolovat nepřátelské mimozemšťany, ale můžeme dát „na vědce v čele této technologie, aby udrželi lidský faktor a jejich inovace. “
Do dopisu můžete také přidat své jméno.
Zbraně: Destiny 2 'Black Armoury Zbraně: Trailer odhaluje ještě další věci
Nové video z Bungie odhalilo spoustu nových zbraní s Black Armory v 'Destiny 2' tento týden. Někteří z nich vypadají stejně dobře, ne-li lépe, než některé z nejlepších zbraní, které jsme za poslední týden honili. Zde je pohled na čtyři nové debuty.
Řeknou autonomní zbraně „ne“ nelegálním příkazům?
Baynazar Mohammad Nazar byl na operačním stole v bezvědomí, když se na něj začal zhroutit strop. Čtyřčlenný otec se do nemocnice vrátil předchozí den poté, co byl zastřelen na noze, a během dvou dnů podstoupil druhou operaci, aby napravil zranění. Když Američané začali stavbu zničit ...
„Občanská válka“ potvrzuje protichůdné mstitele s jednou významnou výjimkou
Konec Avengers: Věk Ultrona představil drastický seznam změn k Marvelovu prvotřídnímu super týmu. Blížící se kapitánská Amerika: Občanská válka již hrozí, že tento nový status quo roztrhne s politizovaným sporem, který nevyhnutelně rozpouští děrování, laserové výbuchy a nevýslovnou majetkovou škodu. Nové p ...