OpenAI: Bývalá firma Elona Muska je na pokraji nového A.I. Éra

OpenAI, nezisková organizace, která zkoumá umělou inteligenci, spoluzaloženou Elonem Muskem v roce 2016, udělala velké pokroky - dokonce i poté, co se Musk rozešel v neshodách o jeho směru. Výzkumníci vyvinuli systémy, které mohou hrát hry, psát novinové články a přesouvat fyzické objekty s převratnými úrovněmi obratnosti.

OpenAI způsobila kontroverzi s jeho výzkumem. Minulý týden oznámila vývoj jazykového modelu GTP2, který může generovat texty s omezenými výzvami. Vzhledem k tomu, že Miley Cyrusová byla dnes na hollywoodském bulváru zachycena od Abercrombieho a Fitche, systém vytvořil uvěřitelný kompletní příběh, který pokračoval „19letá zpěvačka byla chycena na kameru, která byla vyvedena z obchodu strážci. “

To také vytvořilo tento originální příběh o mluvení jednorožci založený na krátké výzvě: t

„Nebyl jsem s OpenAI úzce zapojen více než rok a nemám management ani dozor nad palubou,“ komentoval Musk o Twitteru přes víkend. „Musel jsem se soustředit na vyřešení bolestně velkého množství technických a výrobních problémů v Tesle (zejména) & SpaceX. Tesla také soutěžil o některé stejné lidi jako OpenAI a já jsem nesouhlasil s některými z toho, co chtěl tým OpenAI udělat. Přidat, že všechno nahoru & to bylo jen lepší, aby části cesty za dobrých podmínek.

Firma původně vypadala jako ideální způsob, jak Musk dosáhnout svých cílů využití A.I. pro dobro lidstva. Podnikatel předtím varoval před „základním rizikem“ civilizace, kterou představují super chytré stroje, a vyzval vlády k regulaci „jako my, jídlo, drogy, letadla a auta“.

Musk slíbil 10 milionů dolarů, aby zpočátku založil firmu, a její poslání se zaměřuje na „objevování a přijímání cesty k bezpečné umělé inteligenci“.

Není těžké vidět, jak by programy, které dělají příběhy, jako je ten, který sdílí výkonný ředitel OpenAI Greg Brockman, mohly být použity relativně malým počtem lidí, aby ovlivnily názory méně zdatné veřejnosti.

Zaměstnanec OpenAI vytiskl tento AI-písemný vzorek a zaslal jej do recyklačního koše: http://t.co/PT8CMSU2AR pic.twitter.com/PuXEzxL7Xd

- Greg Brockman (@gdb) 14. února 2019

„Vzhledem k našim obavám o škodlivých aplikacích této technologie neuvolňujeme vyškolený model,“ vysvětlila společnost ve svém blogu. „Jako experiment s odpovědným zveřejňováním místo toho vydáváme mnohem menší model pro výzkumné pracovníky, abychom mohli experimentovat, stejně jako technický dokument.“

Oznámení vedlo k obavám, že technologie by mohla být použita k vytvoření falešných zpráv. Analytics Indie varoval, že s nadcházejícími indickými volbami konanými v tomto roce se A.I. by mohla způsobit katastrofu s demokratickým procesem. Samotní výzkumní pracovníci OpenAI uvádějí, že v kombinaci s výzkumem v oblasti výroby syntetického zvuku a videa „bude třeba, aby se veřejnost stala více skeptickou vůči textu, který naleznou on-line.“

Ryan Lowe, A.I. vědec a bývalý stážista OpenAI shrnul hrozbu programu, jako je tento, který se používá k vytvoření falešných zpráv stručně v tomto předávaném příspěvku Medium:

… Automatizovaný systém by mohl: (1) umožnit špatným aktérům, kteří nemají prostředky na najímání tisíců lidí, vést rozsáhlé dezinformační kampaně; a (2) drasticky zvýšit rozsah dezinformačních kampaní, které již provozují státní aktéři.

Ne všechny průzkumy OpenAI se ukázaly jako kontroverzní. Dactyl, představený v červenci 2018, se může přizpůsobit fyzice reálného světa a manipulovat s objekty v reálném světě. Robotická ruka je velmi složitá, s 24 stupni volnosti, ale systém může snadno pohybovat objekty kolem jen pomocí tří RGB kamer a souřadnic ruky robota.

Ruka robota využívá univerzálních algoritmů pro výuku výztuže používaných k porážce lidí na videohrách. Tým „OpenAI Five“ stál před týmem profesionálů Dota 2 Systém byl vyškolen ve hrách o 180 let a využil ohromujících 128 000 procesorových jader a 256 grafických procesorů. I když porazil lidský tým bývalých profesionálů a Twitchových fáborů, selhal proti profesionálním hráčům.

Musk používal Dota 2 zápasy upozornit na Neuralink, jeho plán vytvořit symbiotický vztah s A.I. spojením lidských mozků a vyhýbáním se převzetí robota:

Skvělá práce @OpenAI. Brzy potřebujeme nervové rozhraní umožňující lidskou / AI symbiózu.

- Elon Musk (@elonmusk) 6. srpna 2018

OpenAI ve svém oznámení o generátoru textů uvedla, že plánuje diskutovat o své širší strategii za šest měsíců. Firma doufá, že se začne rozjímat o nebezpečích umělé inteligence, což je krok, který by se mohl vyhnout některým scénářům katastrof, které Musk představil. Nicméně i společnost přiznává, že „není si jistý, že“, že je generátor textů „dneska správným rozhodnutím“. Se schizmatem, který již vznikl mezi dvěma hlavními subjekty, které varují před nebezpečím umělé inteligence, je nepravděpodobné, že by zákonodárci měli snadné v rozvoji řešení.