Hoe pakken sociale netwerken haatspraak aan?
AI-programma's en recensenten van menselijke inhoud treden op tegen aanstootgevende opmerkingen online
Zach Gibson/AFP/Getty Images
Aanzetten tot haat is geen nieuw fenomeen voor sociale netwerkwebsites, maar de extreemrechtse demonstratie van zaterdag in Charlottesville, Virginia, waarbij een demonstrant om het leven kwam, heeft ertoe geleid dat bedrijven online actie ondernemen tegen beledigende groepen.
Hier is hoe de grootste sociale-mediagroepen reageren op haatzaaiende uitlatingen, evenals hun plannen om te voorkomen dat aanstootgevende inhoud zich verspreidt:
Na de gewelddadige gebeurtenissen in Charlottesville op zaterdag, Engadget zegt dat Facebook 'in de nasleep van de aanslagen talloze haatgroepen heeft gesloten', waaronder de 'evenementenpagina voor de Unite the Right-mars die het geweld voerde'.
De socialemediagigant gebruikt een combinatie van kunstmatige intelligentie (AI) en recensenten van menselijke inhoud om haatspraak te vinden, wat De rand zegt dat '66.000 haatmails per week' worden verwijderd. Maar de site zegt dat Facebook 'sterk afhankelijk' is van gebruikers die inhoud als aanstootgevend of hatelijk rapporteren.
In mei nam Facebook nog eens 3.000 mensen aan voor zijn 'team van contentrecensenten', zegt TechCrunch , wat het totaal op 7.500 brengt. Dit werd veroorzaakt door verschillende wereldwijde 'contentmoderatieschandalen', waaronder het gebruik van Facebook Live 'om moord en zelfmoord uit te zenden'.
Maar Bedrade zegt dat er situaties zijn geweest waarin de 'algoritmische en menselijke recensenten' van het bedrijf opmerkingen of berichten als beledigend hebben bestempeld zonder rekening te houden met de context. Op de website staat bijvoorbeeld dat sommige woorden die 'als laster worden geschreeuwd' soms door groepen worden 'teruggewonnen' 'als een middel tot zelfexpressie'.
Twitter's beleid ten aanzien van haatdragend gedrag zegt dat de dienst geen 'accounts toestaat waarvan het primaire doel is het aanzetten tot schade aan anderen' op basis van gebieden zoals ras of seksuele geaardheid.
De Onafhankelijk meldt dat de site de afgelopen maanden meer systemen en tools heeft geïntroduceerd om haatzaaiende uitlatingen te detecteren en te verwijderen, en ook om het proces te verbeteren waarbij gebruikers handmatig aanstootgevend materiaal melden.
Maar de sociale-mediasite heeft de afgelopen maanden nogal wat problemen gehad met betrekking tot een waargenomen gebrek aan actie in de nasleep van waargenomen bedreigingen, zegt hij. TechCrunch , wat ertoe leidde dat een activist 'haattaal op straat sproeide buiten het hoofdkantoor van het bedrijf in Berlijn'.
In de nasleep van de botsing van zaterdag, zegt de website dat het account van de extreemrechtse groep The Daily Stormer is verwijderd, hoewel 'Trumps tweets die balanceren op de rand van een dreigende nucleaire oorlog' lijken in overeenstemming te zijn met het beleid van het bedrijf.
Het chatforum Reddit heeft ook hard opgetreden tegen haatspraak. Engadget zegt dat de website 'in de nasleep van de aanslagen talloze haatgroepen heeft gesloten'.
Een van de groepen die van de sociale-mediasite werd verwijderd, was de subreddit /r/Physical_Removal, een pagina waarop Engadget zegt: 'hoopte dat mensen in anti-haatsubreddits en bij CNN zouden worden vermoord, concentratiekampen zouden steunen en zelfs gedichten over moorden zouden schrijven.'
'We zijn heel duidelijk in de servicevoorwaarden van onze site dat het plaatsen van inhoud die aanzet tot geweld, gebruikers van Reddit zal verbannen', vertelde Reddit. Cnet .
Hoewel Google niet uitsluitend een sociaal netwerk is, speelt de techgigant een sleutelrol bij het sturen van internetverkeer en de sociale apps waartoe gebruikers toegang hebben.
Sinds de botsing in Charlottesville op zaterdag, TechCrunch zegt dat het bedrijf het 'conservatieve sociale netwerk' Gab uit de Play Store heeft verwijderd omdat het een 'toevluchtsoord' was geworden voor gebruikers die van reguliere platforms zijn verbannen.
Google zegt dat het geen 'inhoud ondersteunt die geweld tegen individuen of groepen promoot of goedkeurt' op basis van bepaalde criteria, en voegt eraan toe dat het 'in hoge mate afhankelijk is van gebruikers om ons op de hoogte te stellen van inhoud die mogelijk in strijd is met ons beleid'.
Maar TechCrunch zegt dat 'het niet duidelijk is wat Gab specifiek deed waardoor het uit de winkel werd gegooid', aangezien de app een chatroom is en niet actief haatzaaiende uitlatingen lijkt te promoten. De website zegt dat er 'veel haatzaaiende uitlatingen zijn op Twitter en YouTube', maar deze zijn nog steeds beschikbaar om te downloaden ondanks de 'repressie' van deze week op aanstootgevende inhoud.
Volgens De rand , is Gab 'nooit goedgekeurd voor plaatsing in de App Store van Apple'.
Wat doen anderen?
Een van de opmerkelijke gevallen van het onderdrukken van haatzaaiende uitlatingen na de gebeurtenissen van zaterdag, is dat de webdomeinnaamverkoper GoDaddy de website van The Daily Stormer uit zijn dienst verwijdert, zegt Het register .
Volgens de website hebben activisten de winkelier verteld dat de groep 'buitengewoon vulgaire en minachtende opmerkingen' heeft gemaakt over het slachtoffer van de aanslag in Charlottesville, Heather Heyer. GoDaddy gaf The Daily Stormer 24 uur 'om het domein naar een andere provider te verhuizen'.
We hebben The Daily Stormer laten weten dat ze 24 uur de tijd hebben om het domein naar een andere provider te verhuizen, omdat ze onze servicevoorwaarden hebben geschonden.
- GoDaddy (@GoDaddy) 14 augustus 2017
YouTube zal naar verwachting ook 'strengere richtlijnen invoeren met betrekking tot haatzaaiende uitlatingen', meldt TechCrunch . Dit kan ertoe leiden dat meer video's worden verwijderd nadat gebruikers ze als aanstootgevend hebben gemarkeerd, zelfs als de inhoud niets illegaals bevat.
