DARPA se rozhodla, že chce skutečně porozumět A.I.

Pentagon chce zjistit, co dělá umělá inteligence. Agentura pro obranné pokročilé výzkumné projekty (DARPA) ve čtvrtek oznámila, že se velmi zajímá o vysvětlitelné informace A.I. projekty, známé jako XAI. Novinkou je ostrý odchod pro agenturu, která předtím upřednostňovala A.I. efektivnosti, namísto skutečného pochopení toho, jak systémy dospěly k

DARPA se snaží podpořit A.I. projekty, které koncovému uživateli objasní, proč se něco stalo. Například DARPA chce, aby analytici zpravodajských služeb pochopili, proč jsou jejich doporučení A.I. odesílá, byly vybrány. Pokud se člověk analytik dívá do A.I. Měly by pochopit, proč počítač tyto údaje umístil před ně, a ne něco jiného. A.I. stejně jako ty v agentuře Cyber ​​Grand Challenge financované agenturou by bylo třeba navrhnout transparentnějším způsobem, ale oznámení společnosti DARPA uvedlo, že bude zvažovat celou řadu uživatelských rozhraní (není to příliš mnoho podrobností o tom, jak by měl projekt XAI fungovat). vysvětlit.)

Abstrakty pro potenciální projekty jsou splatné do 1. září a DARPA předpokládá rozdávání více ocenění výzkumným pracovníkům. Patří mezi ně zakázky na veřejné zakázky a dohody o spolupráci, ale agentura nebude poskytovat granty. Agentura také hledá týmy, které mohou provádět výzkum jak A.I. by se měl vysvětlit; jinými slovy, vědci musí studovat A.I. stejným způsobem psychologové studují, jak lidská mysl zpracovává informace za různých okolností.