Projekt Elon Musk OpenAI identifikoval 4 velké problémy pro AI

$config[ads_kvadrat] not found

Printable Scenery openLOCK dungeon tiles, 3d printed on a Creality ender 3. 3D printing review .

Printable Scenery openLOCK dungeon tiles, 3d printed on a Creality ender 3. 3D printing review .

Obsah:

Anonim

Většina problémů, které by mohly vyplynout ze stále sofistikovanější umělé inteligence, je mnohem jemnější než SkyNet, ale neznamená to, že by to bylo inteligentnější. není bez jeho rizik.

To je důvod, proč Elon Musk a další bigwigs Silicon Valley vytvořili skupinu Open AI, skupinu věnovanou řešení problémů s A.I. dříve, než budou moci způsobit skutečné škody. Tato skupina se nazývá OpenAI a hledá pomoc v těchto otázkách.

„OpenAI je nezisková společnost zabývající se výzkumem umělé inteligence,“ říká skupina na své stránce O projektu. „Naším cílem je zdokonalit digitální inteligenci způsobem, který je s největší pravděpodobností přínosem pro lidstvo jako celek, aniž by byl nucen vytvářet finanční návratnost.“

Pracovní místo skryté jako příspěvek na blogu s názvem „Speciální projekty“ nastiňuje čtyři takové „projekty“ jako problémy, které mají „buď velmi rozsáhlé důsledky“ nebo které se týkají „důležitých vznikajících důsledků rozvoje umělé inteligence“. A pak jeho spisovatelé - Ilya Sutskever, Dario Amodei a Sam Altman - vyzývají všechny silné odborníky v oblasti strojového učení, aby „zahájili úsilí o jeden z těchto problémů na OpenAI“. Zde jsou čtyři velké problémy, kterým čelí umělá inteligence:

Hledání skrytých AI systémů.

Co je horší než velmi inteligentní A.I. které lze použít pro nesprávný účel? Velmi inteligentní A.I. který je již používán pro nesprávný účel, aniž by to někdo věděl. „Vzhledem k tomu, že se zvyšuje počet organizací a zdrojů přidělených na výzkum v oblasti AI, zvyšuje se pravděpodobnost, že organizace učiní nezveřejněný průlom AI a použije systém pro potenciálně škodlivé konce,“ píše tým OpenAI ve svém blogu. „Je důležité to zjistit. Můžeme si představit spoustu způsobů, jak toho dosáhnout - při pohledu na novinky, finanční trhy, online hry atd. “

Budování A.I. programování.

Někteří z nejlepších programátorů jsou líní. To dává smysl, že OpenAI chce vytvořit A.I. schopny vytvářet programy samostatně. Lepší je trávit čas tvorbou A.I. dost chytrý na to, abyste mohli v budoucnu kódovat cokoli, co byste mohli potřebovat, než aby si všechny tyto věci sami kódovali. To je 2016, pro hlasité volání a kodéři potřebují přestávku!

Použití A.I. pro kybernetickou obranu.

„Včasné využití AI bude vniknout do počítačových systémů,“ píše OpenAI. „Chtěli bychom techniky AI bránit proti sofistikovaným hackerům, kteří těžce využívají metody AI.“ To zní dobře, zejména proto, že MIT varoval, že aktuální A.I. spoléhá na lidi, aby chránili před kybernetickými útoky.

Provádění opravdu složitých simulací.

„Máme zájem o vybudování velmi rozsáhlé simulace s množstvím různých agentů, kteří dokážou vzájemně spolupracovat, učit se po dlouhou dobu, objevovat jazyk a dosahovat bohatých cílů,“ píše tým OpenAI.

Ale no tak. Teď se jen snažíte dokázat, že Musk má pravdu, když žijeme v simulaci.

$config[ads_kvadrat] not found