A.I. Algoritmus uznává teroristickou propagandu s přesností 99%

Společnost ASI Data Science se sídlem ve Velké Británii představila ve středu algoritmus strojového učení, který dokáže identifikovat videa teroristické propagandy s 99% přesností.

Tento vývoj označuje jednu z prvních instancí společnosti úspěšně používajících A.I. propagovat extremistickou propagandu. Skupina islámského státu je proslulá snahami o nábor sociálních médií a tento algoritmus by je mohl pomoci omezit.

Zatímco vědci z ASI nebudou diskutovat o technických specifikách algoritmu, zdá se, že fungují jako jiné druhy A.I. softwaru pro rozpoznávání. Algoritmus může zkoumat jakékoliv video a určit pravděpodobnost, že video je kusem extremistické propagandy. Podle BBC, algoritmus byl cvičen na tisíce hodin teroristických náborových videí, a to používá vlastnosti z těchto videí přiřadit pravděpodobnostní skóre.

Pokud je video označeno jako velmi vysoká pravděpodobnost, je označeno pro kontrolu moderátorem lidského obsahu. Vzhledem k tomu, že videa nejsou automaticky odstraněna, je třeba před neoprávněným odstraněním videa zachytit jakékoli falešné pozitivní výsledky. ASI uvedla, že algoritmus dokáže detekovat až 94 procent nahraných souborů Islámského státu.

Algoritmus, který částečně financovala britská vláda, byl vytvořen především ve prospěch menších video platforem, které nemají prostředky na udržení velkého počtu zaměstnanců pro moderování obsahu. Vzhledem k tomu, že tyto stránky nemohou důkladně prozkoumat každé nahrané video, je pro teroristické skupiny snazší zasadit na ně propagandu. Jak řekl výzkumník Marc Warner z ASI, BBC uvádí, že na více než 400 různých platformách je více než 1 000 různých videí.

Není jasné, kdy bude nový algoritmus nasazen na těchto stránkách. Když bude konečně k dispozici, skupiny, jako je islámský stát, se budou pravděpodobně snažit změnit způsob, jakým své video vytvářejí, aby se vyhnuly odhalení.

Doufejme, že počítačoví odborníci mohou zůstat o krok napřed.