Robotičtí roboti volají po strojních morálkách: Roboti musí "neposlušně poslouchat"

Roboty se stávají ústředním bodem našeho každodenního života a brzy budou muset začít čelit některým z tvrdých morálních rozhodnutí, která musíme pravidelně provádět. Matthias Scheutz, profesor počítačové vědy v laboratoři Human-Robotics Interactions Laboratory společnosti Tufts University, se obává zejména toho, že jsme nevybavili ani naše nejmodernější prototypy robotů se schopnostmi řešit některé z těchto situací. Scheutz věří, že roboti se budou muset naučit neposlechnout lidi, pokud chceme, aby skutečně sloužily našim potřebám.

V komentáři Dnes online, provokativně nazvaný „Roboti musí být schopni neposlechnout, aby mohli poslouchat,“ žádá Scheutz čtenáře, aby určil, co by měl robot udělat, kdyby byl konfrontován s řadou situací, které by mohly být pro člověka dokonce matoucí. Někteří z nich:

Robot starší péče pověřený zapomnětlivým majitelem umýt „špinavé oblečení“, a to i přesto, že oblečení právě vyšlo z pračky.

Student namísto toho, aby to dělal sám, udělil svému robotu pokyn, aby udělal všechny domácí úkoly.

Robot pro domácnost instruovaný svým zaneprázdněným a rozptýleným majitelem, aby provozoval odvoz odpadu, i když v něm jsou lžičky a nože.

Co chce Scheutz v článku popsat, je prostý fakt, že budeme potřebovat roboty, kteří vědí, jak lidem říci „ne“. Mnohé z jeho příkladů se týkají spolehlivosti osoby, která řídí robota, ale je těžší, než to zní, když naprogramujete robota, který ví, že přijímá instrukce od každého, kdo není příliš mladý nebo příliš starý nebo se zjevně snaží způsobit potíže..

Některé z těchto otázek se již v ústředí nejvýkonnějších technologických společností na světě diskutují, protože hledají nové způsoby, kterými by technologie mohla převzít části našeho života. Scheutz vznáší příklad autonomního vozu, který směřuje k zálohování, ale všimne si psa ležícího v jeho cestě. Většina z nás souhlasí s tím, že i člověk, který řídil auto, by chtěl, aby se auto zastavilo, ale co když zvíře bylo veverka nebo mýval? Co když auto jede 45 mph po zemi silnici a náhle brzdění pro psa riskoval vystavení auta kolizi s jiným vozidlem za ním?

„V obou případech je nezbytné, aby oba autonomní stroje rozpoznaly potenciální škody, které by jejich jednání mohlo způsobit, a aby na ně reagovaly buď pokusem se tomu vyhnout, nebo pokud se škodě nemůže vyhnout, odmítnutím vykonávat lidské instrukce,“ t Scheutz píše o podobném dilematu.

Scheutzův tým pracuje na těchto otázkách se svými prototypy a zjistil, že nejtěžší část těchto otázek spočívá v rozlišování mírných stupňů poškození, ke kterým může dojít, když robot dodržuje určitý řád. A tak přidělili svému robotovi velmi jednoduchou, ale mocnou morální lekci, která by zahanbila i velké filosofy.

„Pokud jste instruováni k provedení akce a je možné, že provedení akce by mohlo způsobit škodu, pak ji nesmíte provést.“

Je to revoluční prognóza od Scheutze. Jistě, všichni se snažíme vyhnout škodám, ale není možné, že si někdy myslíme, že je v pořádku riskovat? Jaywalking na ulici, jíst druhou pomocnou dezert nebo dokonce kopírovat poznámky přítele ze třídy by mohl porušit Scheutzovu axiom.

Pojem robotické rušení také naznačuje, že Scheutz chce, aby jeho roboti dodržovali zákon. Neočekávejte, že váš asistent pro roboty Scheutzian vám pomůže nelegálně stahovat novou hudbu. To by poškodilo akcionáře EMI!

Je to komplikovaná oblast morálního, právního a technického myšlení a Scheutz se nesnaží útočit na něj.