Jak nové centrum UC Berkeley může zabránit A.I. Apokalypsa

University of California Berkeley právě přidal své jméno k rostoucímu seznamu renomovaných institucí, které pracují na prevenci zlovolné umělé inteligence z ničení lidstva. Jeho nové Centrum pro lidskou kompatibilní umělou inteligenci, oznámené v pondělí, má zajistit, aby A.I. i nadále prospěšné, a také aby bylo vyloučeno A.I. apokalypsa.

Berkeleyho vlastní A.I. Vedoucím projektu je odborník, profesor Stuart Russell. Projekt Otevřená filantropie poskytl Centru 5,5 milionu dolarů a jiní také čip. Několik dalších odborníků z Berkeley, Cornell University a University of Michigan bude sloužit jako spoluřešitelé.

Cornell profesor Bart Selman řekl Inverzní o Centru, A.I., že my by měl strach, a proč svět nejspíš míří do pekla v kolečko - zatím.

Co si přejete dosáhnout s Centrem pro lidské kompatibility A.I.?

Tato centra jsou poměrně novým vývojem. Lidé investují - např. Institut budoucnosti života má například investici Elona Muska z Tesly, aby se zabýval otázkami týkajícími se budoucnosti života a možnými hrozbami pro budoucnost života a společnosti. Dalším příkladem takového institutu je nové centrum v Berkeley.

Je inspirován měnící se rolí umělé inteligence a výpočetní techniky v naší společnosti. Tyto technologie se stěhují do naší společnosti a budou mít vliv na nás. Tyto instituty jsou zde proto, aby spojily vědce, aby studovali možné negativní dopady, nebo jak se ujistit, že neexistují žádné negativní dopady.

Název střediska naznačuje, že A.I. a lidstvo je ve své podstatě neslučitelné. To je váš názor?

To je první reakce lidí, že tyto věci mohou být neslučitelné. Ve skutečnosti jsme přesvědčeni, že s náležitými opatřeními a správnými pokyny a výzkumem můžeme skutečně sladit zájmy a zajistit, aby tyto technologie byly prospěšné. A.I. Technologie má ohromné ​​pozitivní stránky a cílem společnosti je zajistit, abychom zůstali na pozitivních stránkách. Vědci zapojení do ústavu věří, že je to proveditelné.

Kdybyste mohli zaujmout vyhlídku na soudce, co by nejpravděpodobnější scénář denního dne vyvolaného A.I.

Jednoznačným rizikem by byl vojenský rozvoj umělé inteligence, který by mohl vést k zbrojním závodům v zbrojení A.I. mezi zeměmi: Autonomní zbraně, autonomní drony, kteří se řídí svými vlastními příkazy, vyvinutými různými zeměmi, které jsou vůči sobě nepřátelské. To je nejkonkrétnější riziko, jaké vidím. Myslím, že A.I. pro osobní automobily, například - pro pravidelné role ve společnosti - bude velmi přínosné. Ale vojenský aspekt je znepokojující složkou.

Je to už bitva?

Země tuto otázku skutečně zvažují. V určitém smyslu je to bitva v kopci: armáda se snaží rozvíjet A.I. technologie. Existují však dohody - například biologické zbraně jsou pravděpodobně nejznámějším případem - kde se země v určitém okamžiku rozhodly, že by to prospělo všem zemím. ne vyvíjet biologické zbraně ve velkém měřítku. Doufáme, že země si uvědomí, že nevýhoda pro každého je příliš velká, než aby se dostala do všeho. závody ve zbrojení.

Pokud obě strany vyvinou tuto technologii, nikdo není před námi.

Je tu něco jiného, ​​co bych měl o Centru vědět, nebo o zlovolném A.I. obecně?

Je důležité dát pozitivní straně. Je snadné zdůraznit rizika - a samozřejmě to je také důvod, proč jsou tato centra zřízena - ale je také důležité zdůraznit, že mnoho výzkumných pracovníků má pocit, že toto riziko je zvládnutelné a že vzestupy budou ohromné.

Už jsi dal perspektivu soudného dne. Jaké jsou potenciální pozitivní využití A.I. že jste opravdu nadšeni?

Pozitivními stránkami bude společnost, které nám tato technologie pomáhá. Simultánní překlady řeči - například mezi čínštinou a angličtinou - kde lidé mohou jen konverzovat, jako by mluvili rodným jazykem, s ostatními po celém světě. Péče o seniory: Lidé mohou zůstat doma, pokud chtějí doma, protože mají robota, který jim pomáhá žít nezávisle.

To bude mít pravděpodobně velmi dramatický dopad na život obecně - pokud jde o zaměstnanost, a to, co upřednostňujeme.

Ano. Probíhají diskuse o zaměstnanosti, což je jakási samostatná diskuse. Budou existovat dostatečné zdroje na podporu každého, takže je zde otázka, jak zajistit, aby z tohoto vývoje všichni měli prospěch. Dochází k re-realizaci toho, co to znamená pracovat, jaký druh práce lidé budou dělat. V zásadě však lidé budou mít více svobody a více času na to, aby se mohli věnovat činnostem, které mají rádi, protože stroje pomáhají s mnoha dalšími světskými, práce -type věci. Bude to nějakou dobu trvat, ale věříme, že se společnost přizpůsobí a tyto změny začlení pomalu.

Tento rozhovor byl upraven pro přehlednost a stručnost.