Elon Musk je OpenAI může být svalnatý pro bezpečný výzkum umělé inteligence

O víkendu Elon Musk, Sam Altman a další velcí velitelé Silicon Valley nečekaně oznámili spuštění OpenAI, neziskové společnosti, která popisuje svůj cíl jako: „zdokonalit digitální inteligenci způsobem, který s největší pravděpodobností prospívá lidstvu jako celku, finanční návratnost. “

„Vzhledem k tomu, že náš výzkum je bez finančních závazků, můžeme se lépe zaměřit na pozitivní dopad na člověka. Věříme, že A.I. by mělo být rozšířením individuálních lidských vůlí a v duchu svobody tak široce a rovnoměrně, jak je to jen možné. “

Z tohoto oznámení jsou dva hlavní takeaways. První je, že Musk a společnost vidí A.I. výzkum je nyní příliš úzce zaměřen na dosahování krátkodobé praktické hodnoty a chtějí přispět k dalšímu úsilí o širší a komplexnější přístup k rozvoji informačních technologií. systémů. Druhý, více zahalený stánek s jídlem je, že Musk je stále znepokojen potenciálem A.I. udělat škodu, pokud budeme vyvíjet a zavádět napůl pálené systémy. Mušk již dříve nazýval A.I. „Naší největší existenciální hrozbou“ a navrhl, že by mohl být nutný regulační dohled, aby se předešlo možným rizikům. OpenAI by mohl být způsob, jak zajistit tento dohled bez nutnosti federálního hlídače.

Co dělá Musk a jeho kolegové, je to jiné než to, co udělali jiní. Koneckonců, open source A.I. není nic nového. Google si vytvořil vlastní A.I. software open source minulý měsíc a toto se stalo poměrně standardním postupem. OpenAI je však jednou z největších organizací, které pracují na A.I. výzkumu, a poměrně snadno je to největší nezisková organizace. Jejím cílem je veřejně zpřístupnit své výsledky a všechny patenty zdarma. Mají mrkev a hůlku a hodlají ji použít k řízení průmyslu.

Myšlenkou je použít OpenAI jako druh protiváhy k velkým korporacím, soukromým výzkumným laboratořím a dokonce i vládám ve světě, které mají neuvěřitelné množství peněz a zdrojů, aby mohly nalít své vlastní A.I. výzkum, který nemusí být věnován přátelským účelům, a mohl by místo toho vést k technologiím s nekalými aplikacemi. Výzkumní pracovníci, kteří pracují s OpenAI, budou v zásadě usilovat o „přátelské“ AI. Větší pozornost je třeba věnovat bezpečnostním a konstrukčním prvkům, které by soukromé podniky mohly být ochotny ignorovat. Nebude zde bílá věž, kde by jen jedna z několika cest ovládala cestu A.I. rozvoj. Pro všechny to bude vítaný svět.

V rozhovoru Backchannel, Musk také zdůrazní touhu dělat širokou paletu A.I. systémů. „Chceme A.I. být rozšířený, “říká. "Myslíme si, že je mnoho dobrých."

To je důležité, protože se vrací do možná primárního důvodu, který Musk a Altman chtějí demokratizovat A.I. Oni věří nejlepší druh A.I. - druh, který bude lidstvu prospívat pozitivním způsobem, aniž by vytvářel roboty - je to druh, který se chová jako „rozšíření individuální lidské vůle“, jak říká Musk. Říká:

„Stejně jako u A.I. každé z nich je v podstatě symbiotické s AI na rozdíl od AI, která je velkou centrální inteligencí, která je druhem jiného. Pokud se zamyslíte nad tím, jak používáte, řekněme, aplikace na internetu, máte svůj e-mail a máte sociální média a aplikace ve svých telefonech - efektivně vás nadlidský a nemyslíte na ně jako na být jiný, považujete je za rozšíření sebe sama. Takže do té míry, že můžeme vést AI v tomto směru, chceme to udělat. Našli jsme řadu podobně smýšlejících inženýrů a výzkumníků v oblasti AI, kteří se cítí podobně. “

Vize OpenAI pro A.I. výzkum je decentralizovaná komunita, která pomáhá spojovat lidské bytosti s člověkem a se samotným světem.

Musk ještě nenavrhl, jak by zabránili tomu, aby výzkum v rámci samotného OpenAI - nebo přemístěného vnějšími skupinami - šel nebezpečným směrem. A je tu ještě něco, co si zaslouží poznámku: Open source systémy mají smysl pouze tehdy, pokud jsou data použitá pro sestavení algoritmů strojového učení volně sdílena. Inteligentní systém musí Učit se jak být inteligentní, a pro to to udělat, musí se poučit z dat a zkušeností. Je to jako stavba přehrady - potřebujete jak plány (algoritmus), tak stavební materiály (data), aby se ve skutečnosti vytvořilo něco, co zastaví vodu.

To je důvod, proč jsou lidé stále omezeni v tom, co mohou dělat s TensorFlow společnosti Google. A pokud spolupráce založená na OpenAI neumožňuje volný přístup ke stejným datům, s nimiž pracují interní výzkumní pracovníci, vize Musk nebude nutně realizována - nebo alespoň ne ve způsobu, jakým ji podporuje.

Musk, Altman a další zakladatelé OpenAI začali něco, co bude mít obrovský vliv na růst A.I. odtud ven. Zároveň budou muset být přímočarí ve svém odhodlání podporovat výzkumnou komunitu s otevřeným zdrojovým kódem, což znamená být veřejně informováni o svých plánech pro neziskovou společnost a být ochotni sdílet data. V opačném případě se OpenAI nebude nijak lišit od společností, které byly určeny pro stádo.