- Jämförelsen
- Datorer
- Hur Reddit förvandlade sina miljoner användare till en armé av innehållsmoderering
Ett av de tuffaste problemen för Reddit, den självutnämnda förstasidan på Internet, är att ta reda på vad som bör och inte bör visas i dess flöden. När det kommer till innehållsmoderering, som har blivit ett allt mer publicerat ämne de senaste åren, tar Reddit ett annat tillvägagångssätt jämfört med andra stora sociala plattformar. Till skillnad från Facebook, till exempel, som lägger ut mycket av arbetet på modereringsgårdar, är Reddit starkt beroende av sina samhällen (eller subreddits) för att polisera sig själv. Insatserna från frivilliga moderatorer styrs av reglerna som fastställs av varje subreddit, men också av en uppsättning värden som skapats och upprätthålls av Reddit. Företaget har dock fått kritik för denna modell, som vissa har tolkat som laissez-faire och bristande ansvar. Men Chris Slowe, CTO för Reddit, säger att detta är en total felaktig framställning. "Det kan verka galet att säga det på Internet idag, men genomsnittliga människor är ganska bra. Om du tittar på Reddit i stor skala är människor kreativa, roliga, samarbetsvilliga och roliga, alla de saker som får civilisationen att fungera", sa han till LaComparacion Pro. "Vårt underliggande tillvägagångssätt är att vi vill att samhällen ska etablera sina egna kulturer, filosofiska politik och system. För att den här modellen ska fungera måste vi tillhandahålla verktyg och kapacitet för att hantera minoriteter."
ett annat odjur
Slowe var Reddits första anställd, anställd 2005 som ingenjör efter att ha hyrt två extra rum av medgrundarna Steve Huffman och Alexis Ohanian. De tre hade träffats under den första körningen av det nu ökända Y Combinator acceleratorprogrammet, vilket lämnade Slowe med fina minnen, men också en trasig start och tid att fylla. Även om han tog en paus från Reddit mellan 2010 och 2015, ger Slowes erfarenhet honom ett unikt perspektiv på hur verksamheten har vuxit och hur utmaningarna den står inför har förändrats över tiden. De första åren, säger han, handlade det om att utveckla infrastrukturen för att klara av trafiktillväxten. Men under sin andra mandatperiod, från 2016 till idag, har fokus flyttats till användarnas förtroende, säkerhet och säkerhet. "Vi tillhandahåller verktyg för användare att rapportera innehåll som bryter mot webbplatsens policyer eller regler som satts av moderatorer, men allt är inte flaggat. Och i vissa fall säger rapporten att det är för sent”, förklarade han. "När jag återvände 2016 var ett av mina huvudsakliga jobb att ta reda på exakt hur Reddit-gemenskaper fungerar och definiera vad som gör webbplatsen hälsosam. När vi väl identifierat de ohälsosamma symtomen arbetar vi därifrån.
(Bildkredit: Reddit)
Automatisk kontroll
Till skillnad från andra sociala plattformar har Reddit ett skiktat tillvägagångssätt för innehållsmoderering, som är utformad för att följa företagets "community first"-etos så nära som möjligt.
Den mest primitiva formen av innehållsverifiering görs av användarna själva, som har makten att rösta på saker de gillar och inte gillar. Men även om denna process uppmuntrar populära inlägg och krossar impopulära inlägg, är popularitet inte alltid ett tecken på ägande.
Community-mods fungerar som den andra försvarslinjen och är beväpnade med makten att ta bort inlägg och förbjuda användare som bryter mot riktlinjerna eller innehållspolicyn. Den vanligaste subreddit-regeln, enligt Slowe, är i huvudsak "var inte en idiot."
Företagets årliga transparensrapport, som bryter ner allt innehåll som tas bort från Reddit varje år, tyder på att moddar är ansvariga för ungefär två tredjedelar av alla inläggsborttagningar.
För att upptäcka allt skadligt innehåll som går förlorat av mods finns det Reddit-administratörer som är direkt anställda av företaget. Dessa anställda utför manuella stickprov, men är också beväpnade med tekniska verktyg för att hjälpa till att identifiera problemanvändare och övervaka individuella interaktioner som sker privat.
"Vi använder ett antal signaler för att upptäcka problem och fastställa om enskilda användare är pålitliga och har handlat i god tro," sa Slowe. "Det knepiga är att du aldrig kommer att förstå allt. Och det beror delvis på att det alltid kommer att vara lite grått och beror på sammanhanget. "På frågan hur den här situationen skulle kunna förbättras förklarade Slowe att han är fångad i en svår situation; sliten mellan viljan att genomdriva företagets community-drivna policy och vetskapen om att det finns framtida teknologier på marknaden som kan hjälpa till att upptäcka en högre procentuella övergrepp.
Reddit har till exempel redan börjat använda avancerade NLP-tekniker (natural language processing) för att mer exakt mäta känslan av interaktioner mellan användare. Slowe indikerade också möjligheten att använda AI för att analysera bilder som lagts upp på plattformen och medgav att ett större antal modereringsåtgärder skulle inträffa utan mänsklig inblandning över tiden.
Men han varnade också för felbarheten hos dessa nyare system, som är fördomsbenägna och säkerligen felbenägna, och de utmaningar de kan innebära för Reddits modell.
"Det är lite läskigt faktiskt. "Om vi talar om det här som en verkställighetsmodell är det samma sak som att placera kameror bokstavligen överallt och förlita oss på stora maskiner för att låta oss veta när det finns ett brott", sa han.
(Bildkredit: Reddit)
När det blir svårt
Innehållsmoderering är ett problem som ingen av de sociala mediejättarna kan hävda att de har löst, vilket framgår av debatten om Donald Trumps konton och förbudet för appbutiken Talk. Reddit deltog också i dessa konversationer och tog så småningom beslutet att förbjuda r/DonaldTrump subreddit. Lika kraftfull som den gemenskapsdrivna modellen är, finns det en betydande konflikt i hjärtat av Reddits tillvägagångssätt. Företaget strävar efter att ge sina samhällen nästan fullständig självständighet, men är i slutändan tvungna att fatta redaktionella beslut om var gränsen ska dras. "Jag vill inte vara den godtyckliga, noggranna domaren av vad som är rätt och vad som är fel," sa Slowe till oss. "Men samtidigt måste vi kunna tillämpa en uppsättning . Det är en väldigt fin linje att gå. Reddit försöker hålla sin innehållspolicy så kortfattad som möjligt för att eliminera kryphål och göra det lättare att genomdriva, men revisioner är vanliga. Till exempel förbjöds hämndporr från plattformen 2015 under tidigare vd Ellen Pao. Förra året lade företaget till en klausul som förbjöd glorifiering av våld. "Att vara trogen våra värderingar betyder också att vi upprepar våra värderingar, omvärderar dem när vi upptäcker nya sätt att spela systemet och tänja på gränserna," förklarade Slowe. "När vi gör en förändring som innebär att gemenskaper flyttas över linjen, är det slutet på en lång process med att hitta kryphål i vår innehållspolicy och gå tillbaka därifrån." Men även om de flesta kommer att hålla med om att bristen på hämndporr är absolut positiv och att uppvigling till våld har ägt rum på r/The_Donald, visar båda exemplen att Reddit måste utöva återhållsamhet mot samma plan som Facebook. , Twitter eller någon annan. en annan plattform. När svåra frågor behöver ställas litar med andra ord inte längre på Reddit att sina samhällen svarar med ett positivt svar.