Al Capone přístup k anti-vaxxers

Technika

Obři sociálních sítí jdou po očkovacích lhářích a spiklenci kvůli technickým záležitostem. Existuje lepší způsob, jak chránit pravdu?

Koláž lupy a textového chatovacího slovního balónu

Getty; Atlantik

Na konci srpna uživatelé Redditu řekli vedení společnosti, že mají na rukou krev. V rámci organizovaného protestu moderátoři desítek velkých subredditů neboli fór na webu sdílel dopis odsuzuje Reddit za to, že nereaguje na nekontrolovatelné šíření dezinformací COVID-19 a umožňuje, aby se množily konspiračně zaměřené antivakcinační subreddity. V dopise bylo zdůrazněno, že vakcíny jsou bezpečné, roušky účinné a opatření k sociálnímu distancování jsou užitečná. Subreddits, které existují pouze za účelem šíření lékařských dezinformací a podkopávání úsilí v boji proti globální pandemii, by měly být zakázány, uvedla společnost.



CEO Redditu, Steve Huffman, odpověděl svým vlastním otevřeným dopisem, v němž uvedl, že nesouhlas je součástí Redditu a základem demokracie a že ti, kdo nesouhlasí s CDC, neporušují zásady webu. Krátce po jeho příspěvku mnozí z moderátorů, kteří dopis sdíleli, rozhořčeně zavřeli své subreddity. (Protest proti výpadku proudu zahrnoval 3,3 milionu členů fóra pro Pokémon Go, které se stalo svou vlastní novinku .) Nakonec Huffman podnikl kroky: 1. září Reddit odstranil svůj nejznámější subreddit pro anti-vakcinační konspirační teorie, nazývané r/NoNewNormal a v karanténě – to znamená pokryté varovnou obrazovkou a odstraněné z výsledků vyhledávání – 54 dalších, včetně subredditu věnovaného antiparazitikum ivermectin . r/NoNewNormal byl zakázán! číst příspěvek v subredditu věnovaném dramatu na místě. Diskutujte o této dramatické události zde! (Ostatní slavili s memy , očividně.)

Ale vedení Redditu zcela nevyhovělo požadavkům demonstrantů. Dopis moderátorů konkrétně žádal o zvláštní pozornost, prosazování nebo pravidla týkající se dezinformací COVID-19. To není přesně to, co dostali. Zákaz r/NoNewNormal nebyl kvůli zvyku jeho uživatelů sdílet zdravotní dezinformace a dezinformace, ale spíše kvůli brigádě – tedy kvůli jejich historii napadání jiných komunit na Redditu spamem nebo trollingem. Těchto 54 subredditů v karanténě také nebylo citováno kvůli žádnému konkrétnímu pozměňování pravdivých faktů, ale spíše kvůli porušení první pravidlo obsahových zásad Redditu, které chrání uživatele před šikanou, nenávistnými projevy a hrozbami násilí. Toto pravidlo, jak mi mluvčí vysvětlil v e-mailu, lze interpretovat tak, že zakazuje šíření falšovatelných zdravotních informací, které povzbuzují nebo představují významné riziko fyzického poškození čtenáře.

Jinými slovy, když byl Reddit konfrontován s problémem, který jeho zásady nepokrývaly – dezinformacemi o zdraví – zmanipuloval Reddit opravu. Použila nástroje vyvinuté pro předchozí krizi moderování obsahu, nenávistných projevů a obtěžování a přizpůsobila je tak, aby vyhovovaly současné. Měli bychom očekávat, že se toto drama bude v následujících měsících odehrávat znovu a znovu. Platformy, jejich uživatelé a experti na sociální média jsou stále v raných fázích debat o tom, jak by mělo vypadat efektivní moderování obsahu kolem dezinformací o zdraví, a mnoho z nich ví, že příliš široká politika by způsobila vážné problémy a dramaticky omezila rozumnou debatu. Dokud se toto napětí nevyřeší, platformy spoléhají – do značné míry – na sklony antivakcinačních aktivistů a konspiračních teoretiků COVID-19 porušovat nesouvisející existující pravidla. V tuto chvíli je to nejlepší dostupná oprava.

Reddit je známý tím, že strávil velmi, velmi dlouhou dobu rozhodováním, že by se měl smysluplně vypořádat s obtěžováním, nenávistnými projevy a dalšími formami zneužívání. Platforma byla a po mnoho let zdarma pro všechny , překypující misogynií a rasismem, a velká část uživatelské základny musela být postupně vedena k politikám, které by mohly chránit řeč některých tím, že omezují řeč jiných. (Také spoustu opravdu nenávistných uživatelů musel být odstraněn .) Pro mnoho současných uživatelů by nová debata o moderování – ta o dezinformacích o zdraví – měla být méně komplikovaná než ta, která přišla dříve. Pokud lidé diskutují o tom, zda je Bigfoot skutečný, dobře. Pokud se lidé hádají kvůli politickým kandidátům, dobře, řekl moderátor populárního poradenského fóra r/AmITheAsshole Frank, který – stejně jako ostatní moderátoři citovaní v tomto příběhu – požádal, aby mluvil pod svým křestním jménem kvůli obavám z obtěžování. Myslím si, že existuje podstatný rozdíl, pokud jde o zpochybňování základní vědy uprostřed globální pandemie. I když [vůdci Redditu] nejsou právně odpovědní, rozhodně jsou eticky odpovědní za povolení nápadů, které jsou nebezpečné pro zdraví a životy jejich uživatelské základny.

Nějaká vědecká fakta jsou černobíle, samozřejmě, ale moderátoři možná podceňují úkol určit, která fakta jsou která v soutěži o širokou politiku dezinformací o zdraví. Obtěžování je otázkou hodnot – co je příliš podlé nebo příliš škodlivé, řekl mi James Grimmelmann, profesor na právnické fakultě Cornell University, který rozsáhle psal o moderování obsahu. Informace o zdraví jsou o pravdě – co je pravdy na tom, jak se viry šíří, jaké léky jim brání, jaká další opatření jim brání? Umírnění pro pravdu se snadněji říká, než dělá, řekl mi, zvláště když se vědecká fakta vyvíjejí. Na začátku pandemie například byla pravda, že běžní lidé by si roušky kupovat neměli, protože jsme je potřebovali zachránit pro zdravotníky. Toto chápání se změnilo, řekl Grimmelmann. Platformy by škodily, kdyby to moderovaly na dobré úrovni.

V e-mailovém prohlášení mluvčí Redditu uvedl podobný argument: Termín dezinformace může být vágní a obtížně definovatelný, vzhledem k tempu změn našeho chápání COVID-19, vakcín a pokynů pro veřejné zdraví za poslední rok, napsali. .

Zdá se, že moderátoři Redditu to chápou. Uvědomují si, že žádat společnosti sociálních médií, aby posuzovaly lékařské informace, je složité a mohlo by vést k nedbalým výsledkům. Upozorňují na to i vědci a akademici. Robyn Caplanová, doktorandka na Rutgers University, minulý rok nazvala COVID-19 krizí zprostředkování obsahu, psaní Nyní se musíme ptát, zda důvěřujeme technologickým společnostem, aby hrály tuto roli slaďování internetu vytvářeného uživateli s hierarchiemi produkce znalostí. Přesto redditoři požadují… něco. Když jsem mluvil s moderátorem Star Trek forum, který žádal, aby vystupoval pod svým uživatelským jménem Corgana, zeptal jsem se, zda si myslí, že by Reddit měl zakázat jakoukoli komunitu, ve které lidé diskutovali o vedlejších účincích nebo selháních vakcín. Trval na tom, že rozdíl mezi intelektuální konverzací a aktivním ubližováním by měl být zřejmý. NoNewNormal nebyl subreddit ‚debata o účinnosti vakcín‘, řekl. Byl to subreddit pro vytváření propagandy, která se šířila do dalších částí internetu.

Takže možná by Reddit mohl udělat seznam vyvrácených fám o vakcínách, jako jsou ty, kterým se NoNewNormal věnoval zesílení, a odstranit veškerý tento obsah. Reddit by mohl přijmout politiku o známých dezinformacích a pak musí tyto dezinformace identifikovat a odstranit, řekl Grimmelmann. Ale to by bylo hodně práce a bylo by to komplikované, protože web spoléhá na dobrovolné moderátory, aby udrželi své vlastní komunity v souladu. Reddit měl nástroj pro ruční hlášení dezinformací, což se zdá primárně slouží k analýze dat . Mluvčí uvedl, že většina zpráv odeslaných prostřednictvím něj nebyla smysluplně vymahatelná a že Reddit nyní místo toho nabízí nástroj pro hlášení zásahů komunity. (Další výraz v podstatě pro brigádu.) Ještě důležitější je, řekl mi Grimmelmann, že jakoukoli takovou politiku by bylo pro Reddit kulturně obtížné přijmout, vzhledem k historii webu jako místa pro intelektuální a intelektuální debaty. Výslovný zákaz dezinformací o vakcínách by představoval vážné přehodnocení toho, k čemu Reddit je a je.

Počáteční odpověď generálního ředitele Redditu na jeho rozzuřené uživatele ukázala úctu k této kultuře: Vyzval komunitu, aby byla ochotna porozumět tomu, čím si ostatní procházejí, i když se jejich pohled na pandemii liší od vašeho. Jeho příspěvek však také naznačoval způsoby, jak mohou být různé názory – pokud by byly dostatečně nebezpečné – zmírněny jinými prostředky. Manipulace nebo podvádění Redditu za účelem posílení názoru je proti pravidlům, napsal, stejně jako podvod a nabádání ke škodě. Reddit jako takový může skutečně potrestat uživatele nebo komunity, kteří obhajují falešné očkovací karty nebo nebezpečné činnosti, které mají být léčbou COVID-19, jako je pití bělidla. Následná reakce společnosti na protest, kterou napsal člen bezpečnostního týmu společnosti, objasnila, že její pravidla proti předstírání identity, podvodu a manipulaci také zahrnují sdílení falešných rad Světové zdravotnické organizace nebo CDC nebo vymyšlených lékařských údajů. (Mluvčí mi zdůraznil, že tyto komentáře nepředstavují změny žádných zásad Reddit nebo toho, jak jsou tyto zásady vynucovány.)

Reddit v minulosti provedl podobné manévry, aby učinil záludná moderační rozhodnutí. V červnu 2020 stránka zakázala subreddit s názvem r/The_Donald, který propagoval násilnou a rasistickou politickou rétoriku. Protože její pravidla proti nenávistným projevům byla v té době vodnatá a neadekvátní, společnost se opřela o stejné zdůvodnění, které použila tento měsíc pro odstranění r/NoNewNormal: r/The_Donald se prý zapojil do brigád. Podobně, když Reddit v roce 2018 odstranil hlavní subreddity QAnon, nebylo to výslovně kvůli jejich divokým konspiračním teoriím a fantaziím o masových vraždách nebo jiném problematickém chování, které rozčilovalo ostatní uživatele. Spíše byli odstraněni kvůli doxingu – zveřejnění identifikačních údajů osoby proti jejich vůli – což podléhá přísné celostránkové normě nesouhlasu. (Na Redditu obsahové zásady byla loni v létě výrazně přepracována a nyní zakazuje širší škálu hrubého chování.)

Sociální platformy považují za užitečné moderovat obsah na základě těchto druhů technických záležitostí, řekl mi Grimmelmann, protože mohou snadněji obhajovat jakékoli dané rozhodnutí o výkonu rozhodnutí jako jednoduché použití základního pravidla. Podstatná část snah Facebooku o nápravu antivakcinační rétoriky, například, působí proti koordinované neautentické chování , která odkazuje na sítě falešných účtů, a koordinovaná společenská škodlivost , který odkazuje na skutečné účty, které mají za sebou historii spolupráce, aby se vyhnuly trestu za porušení pravidel. Tento přístup však závisí na čekání, až se špatní aktéři dopustí žalovatelných trestných činů, i když se zapojí do jiného škodlivého chování. Uživatelé těchto stránek říkají, že to dává skupinám čas na růst a získávání uživatelů na zálohování webů nebo dokonce offline organizací, než budou zakázáni.

Účastníci protestu na Redditu doufali v něco, co vyžaduje trochu méně stříhání vlasů. Chtějí jasný závazek určitého druhu, že platforma bude chránit své uživatele před nápady, které by je mohly zabít. Pokud opravdu nevědí, jak by to vypadalo v praxi, vědí, co to je ne vypadat jako. Mnoho moderátorů nebylo spokojeno se zákazem jednoho nehorázného fóra kvůli jeho dalšímu špatnému chování. (Někteří dokonce chtěli pokračovat v protestu proti blackoutu, dokud nebude zakázáno také 54 subredditů v karanténě, ale tito byli odmítnuti.) Mnoho lidí je zklamaných, Ben, učitel z Rhode Island, který moderuje anti-dezinformační subreddit r/ ParlerWatch, řekl mi. To je jen způsob, jak může Reddit deeskalovat situaci a zastavit protest, ale také se vyhnout řešení základního problému.