Sociální média Trolling: Jak A.I. Je lepší v předvídání shitposts

Internet je hellscape provozovaný trolls a ovládaný marnými Facebook argumenty nebo horší. A zatímco giganti sociálních médií napříč webem konečně, bezpochyby začali vyvinout silnější úsilí, aby se pokusili odradit hanlivý dialog, tato řešení mají tendenci být reaktivní, jinými slovy po škodách, které již byly provedeny.

Nemělo by tedy být žádným překvapením, že výzkumníci umělé inteligence dychtí po vývoji systémů, které mohou předvídat online argument dříve, než se stane. Ale jak tým vědců z Cornell University nedávno vysvětlil Inverzní, tato naléhavě potřebná inovace není tak vzdálená, aby se snažila říct budoucnost.

„V minulosti se pracovalo na zjišťování, zda je daný komentář toxický,“ říká Ph.D. Jonathan Chang. „Náš cíl je poněkud odlišný, chceme vědět, zda je možné předpovědět, zda se v budoucnu občanská konverzace dostane z ruky. Chcete-li tuto otázku prozkoumat, podíváme se na rozhovory mezi editory Wikipedie, z nichž některé zůstávají občanské a jiné se vymknou z rukou. “

Chang a jeho kolegové analyzovali stovky zpráv odeslaných mezi někdy snadno podrážděnými kurátory Wikipedie. Oni pak používali 1270 rozhovorů, které vzaly urážlivý obrat trénovat stroj-učení model ve snaze automatizovat tento druh moderování. Jejich výsledky byly publikovány v dokumentu, který byl prezentován na výročním zasedání Asociace pro výpočetní lingvistiku 15. července.

Tak jak to, že se „uklidnímme“ botem? Naštěstí ne příliš ošuntělý. To skončilo být 65 procent přesný, mírně nižší než člověk je 72 procent úspěšnost. Výzkumníci našli tuto statistiku vytvořením online kvízu, kde si lidé mohli otestovat své schopnosti moderovat komentáře. Ukázalo se, že je dost zatraceně těžké zjistit, zda uživatelé sociálních médií budou buď divokí, nebo zůstanou civilní.

„Myšlenkou je ukázat, že úkol je těžký, ale není nemožné - kdyby lidé dostali pouze 50% přesnost, například by to nebylo o nic lepší než náhodné hádání a nebylo by důvod si myslet, že bychom mohli trénovat stroj k lepší, “říká Chang. „Porovnání našeho modelu s lidskými odezvami nám poskytlo určitý pohled na to, jak podobný, nebo odlišný, náš výpočetní přístup je k lidské intuici.“

Chang si nemyslí, že by to zbavilo internet diskuse o odpadcích, ale vidí to jako způsob, jak pomoci moderátorům sociálních médií. Místo toho, aby museli věnovat pozornost milionům komentářů, které mohou být zaúčtovány denně, jejich algoritmus může identifikovat stovky těch, kterým hrozí, že se stanou argumentem.

I když si člověk může myslet, že česání všemi těmito potenciálně nepředvídatelnými hádkami by Changovi přineslo záchvat smutku, vědec říká, že zkušenost mu ve skutečnosti dala naději pro lidstvo.

„V těchto dnech je v okolí online konverzací spousta pesimismu, ale zde vidíme, že i v případech, kdy konverzace začíná nepřátelským způsobem, je stále šance, aby účastníci měli druhé myšlenky, změnili své Tón, a dal rozhovor na cestě k jasnějšímu výsledku, “říká. „Budoucnost není zasazena do kamene.“

Možná je konečně naděje na internet.