Zde je návod, jak můžeme zastavit budoucnost Rogue A.I. od Imitating HAL 9000

Jak zastavíme budoucnost A.I. z neuposlechnutí rozkazů a rozhodování se jít vlastní cestou? Může to znít jako spiknutí 2001: Odysea vesmíru, ale jeden odborník tvrdí, že je to něco, co už možná musíme začít přemýšlet. Jistě, mohli bychom vypnout vyhledávací algoritmus Google, pokud by se to někdy stalo nepoctivým, ale když se potýká s finančními a právními důsledky, může být jednodušší říci, než udělá. V budoucnu, protože budeme závislí na pokročilejších A.I, by se to mohlo ukázat jako nemožné.

„Tento algoritmus nebyl záměrně navržen sám Je nemožné restartovat se nebo vypnout, ale je to spoluvyvinuto tak, “řekl Stuart Armstrong, vědecký pracovník Institutu budoucnosti lidstva na summitu Pirate Summit 2016 ve středu. To znamená, že změna s neúmyslnými výsledky by mohla být těžko napravitelná a nemusí to být první A.I. v této situaci.

Isaac Asimov řešení bylo tři zákony robotiky, které tvrdé kódy nápady, jako není způsobení škody na lidech. Problémem je, že škoda je spíše subjektivní a otevřená interpretaci. Lidé pracují více na hodnotách, jako je pochopení, že je špatné způsobit škodu a interpretovat situaci, než pracovat na nějakém tvrdém pravidlu, že by nikdy neměli ublížit.

„Je to kvůli tomuto druhu problému, že lidé jsou nyní mnohem horlivější při používání strojového učení, aby získali hodnoty, spíše než aby se je pokoušeli kódovat tímto tradičním způsobem,“ řekl Armstrong. „Hodnoty jsou stabilní tak, že jiné věci nejsou v A.I. Hodnoty se samy brání. “

Ale iv těchto situacích je důležité navrhovat A.I. aby byly přerušitelné, když běží. Bezpečné přerušení umožňuje bezpečné změny politiky, které mohou zabránit nechtěným důsledkům naučeným hodnotám. Kdyby se HAL 9000 pokusil zastavit dveře pod zálivu před otevřením, je důležité, abychom mohli zjistit, že hodnoty A.I. jsou zničené, a zasáhnout, aniž by byl systém offline.