In de vroege FAFO-test van Elon Musk zou Duitsland Twitter kunnen beboeten voor het herhaaldelijk niet naleven van de Social Media Hate Speech Removal Act, ook bekend als NetzDG, die een snelle verwijdering van illegale inhoud zoals haatzaaiende uitlatingen vereist.
Het Federale Bureau van Justitie (BfJ) kondigde de verhuizing vandaag aan in een persbericht – waarin staat dat het een actie heeft ondernomen onder de Wet op de wetshandhaving (ook bekend als NetzDG) van het land nadat het had vastgesteld dat er “voldoende indicaties van mislukkingen” waren in het klachtenbeheer van het platform processen.
Volgens de NetzDG-wet moeten sociale-mediaplatforms reageren op gebruikersmeldingen van illegale inhoud, verifiëren wat er is gemeld en inhoud verwijderen als wordt vastgesteld dat deze illegaal is, binnen zeven dagen – of 24 uur voor materiaal dat duidelijk illegaal is. Wat illegaal is, wordt beheerst door het Duitse strafrecht, waaronder haatzaaiende uitlatingen, misbruik, bedreigingen en antisemitisme vallen.
“BfJ is op de hoogte gebracht van verschillende inhoudsitems die op Twitter zijn geplaatst, die de autoriteit als illegaal beschouwt en, ondanks klachten van gebruikers, niet binnen de wettelijk vastgestelde termijnen door de provider zijn verwijderd of geblokkeerd. BfJ zei in een verklaring (die we hebben vertaald uit Duits met automatische vertaling):
“In het geval van individuele schendingen door aanbieders van sociale netwerken, van de screening- en verwijderingsverplichtingen van NetzDG, kan in het algemeen niet worden aangenomen dat er geen effectieve procedure is voor het behandelen van klachten over illegale inhoud. Systematisch verzuim om klachten te beheren, is echter onderhevig aan boetes , die zich voordoen wanneer schendingen van de relevante specificatie van de NetzDG-code regelmatig, tijdig en op relevante wijze voorkomen.”
Het kantoor zei dat de inhoud waarop het tegen Twitter handelt “relevant is in zowel tijd als inhoud” – wat duidt op een “systematisch falen om klachten voor de serviceprovider te behandelen”. “Het werd gedurende een periode van ongeveer vier maanden op Twitter geplaatst en de Twitter-serviceprovider meldde het als illegaal”, voegde ze eraan toe. “Alle inhoud bevat vergelijkbare, ongegronde en lasterlijke meningsuitingen, allemaal gericht tegen dezelfde persoon. Volgens BfJ vormen ze een overtreding.”
Op papier staat de Duitse NetzDG-wet boetes tot € 50 miljoen toe voor schendingen van het systeem.
Tot nu toe heeft de regering echter niet gezocht naar handhaving van schendingen van de moderatie van inhoud – en laten we eerlijk zijn, geen enkel sociaalmediabedrijf kan op dat vlak een perfecte staat van dienst claimen – dus het is interessant om te zien hoe Musk’s Twitter het ministerie van Justitie in actie brengt op lang geleden. wachten. (NetzDG werd van kracht in oktober 2017, toen Musk meer bezig was met het promoten van Hyperloop en The Boring Company dan met het doodslaan van Twitter.)
Berichtenplatform Telegram werd vorig jaar getroffen door NetzDG-boetes van in totaal € 5,125 miljoen. Maar het was meer voor het niet bieden van tools aan gebruikers om illegale inhoud te melden en voor het niet opzetten van een juridische entiteit in Duitsland om officiële communicatie van toezichthouders te ontvangen – in plaats van voor het overtreden van de verwijderingsregels zelf, wat Twitter lijkt te doen. tegen hier.
We stuurden een e-mail naar de persdienst van Twitter om te reageren op het feit dat BfJ een procedure initieerde wegens fouten bij het modereren van systeeminhoud en het reageerde met een automatisch antwoord met een kak-emoji – iets wat het e-mailaccount van de pers op Twitter sinds eind vorige maand deed. (Musk heeft eerder de communicatiedivisie van Twitter geliquideerd, waardoor de weg werd vrijgemaakt voor zijn overgebleven “hard-core” ingenieurs om hun slimme communicatiepersoneel te vervangen door een dom algoritme.)
Sinds Musk eind oktober een beerput naar het Twitter-hoofdkwartier bracht – om het begin van zijn heerschappij/afstoting van het platform aan te geven – is hij begonnen met het schrappen van personeel en het ontmantelen van middelen die voorheen gericht waren op het modereren van inhoud. Ondanks het feit dat het een sloopkogel was door het vermogen van het platform om te reageren op gebruikersmeldingen van haatdragende inhoud, beweerde het zijn moderatie-aanpak te corrigeren en te verbeteren – een enorme show maken om zijn op het publiek gebaseerde factcheckfunctie, genaamd Community Feedback, uit te breiden. . .
Er is gesuggereerd dat dit zijn geprefereerde manier is om gedecentraliseerde en eerlijke moderatie van spraak te bieden, via een systeem van aanvullende feedback die kan worden toegevoegd aan “slechte spraak” in plaats van verwijderd (samen met enkele straffen zoals het verwijderen van beledigende tweets uit accountaanbevelingen). ).
Het punt is dat het argument van Musk niet alleen onoprecht is – het uitbesteden van inhoudsmoderatie terwijl het in huis halen van middelen geen verbetering is, maar je wilt het laten draaien – het is ook blind voor de juridische risico’s die zijn beslissingen het bedrijf in landen als Duitsland brengen, waar er is geen crowdsourcing-discussie over illegale inhoud, omdat de wet de onmiddellijke verwijdering van illegale tweets vereist. Daarom biedt de NetzDG-wet een vroege test van Musk’s aanpak/claims/honger naar boetes, zoals we vorig jaar meldden.
(Opmerking: de EU-wet inzake digitale diensten bevat ook wettelijke vereisten over hoe digitale diensten moeten omgaan met contentbeheer – deze verordening is vanaf begin 2024 in de hele EU van kracht geworden voor alle digitale diensten; hoewel er een subset is van de grotere platforms Volumes, de zogenaamde VLOP’s zullen naar verwachting binnenkort overeenkomen, hoogstwaarschijnlijk vanaf dit najaar, en Twitter zal waarschijnlijk de VLOP-drempel bereiken. Tegelijkertijd kunnen boetes onder het komende EU-regime oplopen tot 6% van de wereldwijde jaaromzet. )
Terug in Duitsland: Twitter lijkt een kans te hebben om weg te lopen van wat een boete van meerdere miljoenen dollars zou kunnen zijn onder de NetzDG-wet als het de federale overheid aanspreekt vanwege zorgen over illegale inhoud – BfJ zegt dat het het bedrijf ook de mogelijkheid geeft om commentaar te geven over vermeend systemisch falen om klachten te beheren .
Als Twitter dit niet doet, of – bijvoorbeeld – een reactie stuurt die zoveel inhoud bevat als een kak-emoji, gaat BfJ naar de volgende fase van de procedure door te concluderen dat zijn beschuldigingen van illegaal gedrag nog steeds gerechtvaardigd zijn – en van toepassing op de Bonn rechtbank Partieel om een kort geding aan te spannen.
NetzDG vereist dat een rechter oordeelt over de onwettigheid van de inhoud waarover geklaagd wordt, alvorens een boete op te leggen voor mislukte verwijdering, dus het is aan de lokale rechtbank van Bonn om dit te doen. Als de rechtbank de mening van BfJ over de onwettigheid van de inhoud ondersteunt, is het bureau bevoegd om Twitter te beboeten met een boete. Er is dus nog tijd om popcorn in te slaan voor deze.
Alsof dat nog niet genoeg was om manipulatie in Duitsland te simuleren, staat Musk’s Twitter ook voor een aparte uitdaging met illegale inhoud: in januari werd een rechtszaak aangespannen tegen het ontkennen van aanzetten tot haat door HateAid en de Europese Unie van Joodse Studenten om vast te stellen of bedrijven met voorwaarden en voorwaarden die antisemitisme verbieden, hebben een contractuele verplichting om hun voorwaarden te handhaven.
De procederende partijen pakken het anders aan (vs. NetzDG) - en als hun rechtszaak zegeviert, kan dit een precedent scheppen dat breder kan worden toegepast dan alleen Twitter. Dus de ambtstermijn van Musk op de top van de vogel kan meer betekenis hebben voor de vrijheid van meningsuiting dan hij vermoedde.