Kódovaný jazyk není nic nového – ale rozsah, v jakém jej lze nasadit prostřednictvím sociálních médií, je v podstatě bezprecedentní. Pozorovatelé často srovnávají moderování online obsahu s hrami Whack-a-Mole, ve kterých platformy jen stěží mohou zastavit příliv cílených dezinformací, konspiračních teorií, propagandistických obrazů a nenávistných projevů.
Jako reportáž z Bloomberg Podrobně z minulého týdne, zejména antivaxxeři se stále více spoléhají na kódovaný jazyk a často používají emotikony k předávání zakázaných dezinformací a propagandy na platformách sociálních médií, jako je Facebook. A co víc, bývalý šéf Facebooku dohlížející na veřejnou politiku říká, že začíná být jasné, že současné programy pro moderování umělé inteligence nejsou vhodné – a existuje důvod se domnívat, že tomu tak nikdy být nemusí.
„Všechny tyto systémy, které tyto platformy nadále budují, jsou upřímně řečeno stále ještě v dětství, kdy byly schopny dělat něco z toho, co by chtěli, aby uměly,“ Katie Harbath, generální ředitelka skupiny pro strategii technologických politik, Anchor Change a nerezident Senior Fellow of the Atlantic Council’s Digital Forensics Research Lab, který předtím sloužil deset let jako šéf veřejné politiky Facebooku, říká PopSci.
[Related: The complex realm of misinformation intervention.]
Setkání a konverzace v rámci skupin a stránek s vágními názvy jako „Najednou zemřelo“, Bloomberg poznamenává, že antivaxxeři nadále rozšiřují zjevně nepravdivé dezinformace o COVID-19 pomocí frází jako „snědl koláč“, které odkazují na očkování. „Uživatelé někdy tvrdí, že blízcí si vzali čtyři nebo pět ‚plátků‘ vakcíny Pfizer nebo Moderna a použili emotikony na pizzu, koláčky a různé ovoce, aby vyjádřili svůj názor,“ dodává zpráva.
Kontext je klíčový pro nahlašování a odstraňování zakázaného obsahu, což je pro programy sledování AI ještě komplikovanější zavedením kódovacích jazyků emoji. Moderování obsahu AI využívá algoritmy strojového učení k identifikaci, označení a v případě potřeby odstranění obsahu, který identifikuje jako problematický – obvykle sexuálně explicitní nebo násilné obrázky a psaní, ale kódovaný jazyk a emotikony jsou pro ně stále často Achillovou patou. “[M]Achinesovi stále mohou unikat některé důležité nuance, jako jsou dezinformace, zaujatost nebo nenávistné projevy. Dosažení stoprocentně čistého, bezpečného a uživatelsky přívětivého obsahu na internetu se tedy zdá téměř nemožné,“ vysvětluje shrnutí datové anotační služby Label Your Data.
Harbath říká, že výzva pro řešení jak emojis, tak kódovaného jazyka je dvojí, a to jak pro systémy AI, tak pro lidské dozorce. „Za prvé, musíte přeškolit své moderátory, aby byli schopni porozumět tomuto kontextu a zjistit, zda se pokoušejí používat tento emotikon,“ říká. „To může být náročné, podle toho, jak moc.“ [context and material] moderátoři obsahu dostanou nebo nedostanou.“ Harbath říká, že tito moderátoři často vidí pouze jeden příspěvek nebo zprávu najednou, což je připravuje o potenciálně životně důležitý kontext pro rozhodnutí o výkonu rozhodnutí.
[Related: It’s possible to inoculate yourself against misinformation.]
Snaha dostat se před tyto skupiny představuje také své vlastní výzvy. Harbath vysvětluje, že aktualizace nebo rozšíření klasifikátorů a názvosloví moderátorského systému může také vést k vyšším falešným pozitivům, vytvářet nové bolesti hlavy a komplikace a současně způsobit více škody než užitku. „Většina lidí používá emotikony relativně vlídným způsobem,“ říká, „… Je to neustálý boj, se kterým se musí vypořádat všechny platformy.“
Mateřská společnost Facebooku, Meta, se rozhodla uvést své úspěchy v této sféře, když sáhla po komentář k problému. „Pokusy vyhnout se detekci nebo vymáhání jsou známkou toho, že účinně prosazujeme naše zásady proti dezinformacím o COVID,“ píše e-mailem Aaron Simpson, manažer komunikace zásad na Facebooku. Simpson také poznamenává, že od vypuknutí pandemie Facebook odstranil „více než 27 milionů kusů obsahu“ za porušení policie ohledně dezinformací COVID-19 na Facebooku i Instagramu. Jen Facebook čítá od letošního roku na své platformě přibližně 241 milionů Američanů.
Navzdory těmto mnoha problémům stále existují stříbra. Programy umělé inteligence nadále zlepšují svou účinnost a vzhledem k jeho samotné povaze je kódovaný jazyk obecně používán pouze lidmi, kteří již „to vědí“, a proto není nezbytně klíčový pro úsilí o nábor nebo šíření propagandy. Může to být slabá útěcha, ale lidé jako Harvath jsou obezřetní vůči alternativám a naléhají na více programů digitální gramotnosti, na rozdíl od takových taktik, jako je přímý zákaz emotikonů.
„Mohli byste jít do velkoobchodu a zakázat ty věci úplně, ale pak by prostě odešli.“ [back] na kódovaná slova,“ říká Harvath. „Dostáváte se do bodu, jako „Prostě vypněte internet.“
Zdroj: revistamijardin.es, google.cz, pixabay, sciencefocus, nedd.cz
