Offener Brief an deutsche Abgeordnete im LIBE-Ausschuss des Europäischen Parlaments

Sehr geehrte Abgeordnete,

wir möchten Ihnen unsere tiefgreifende Besorgnis über den Entwurf der EU-Kommission für eine Verordnung zur Verhinderung der Verbreitung terroristischer Online-Inhalte mitteilen. Der ausufernde Anwendungsbereich, die unsachgemäße Definition terroristischer Inhalte, technisch höchst zweifelhafte automatische Zensurmechanismen und die mit der Übertragung der Rechtsdurchsetzung an Dritte verbundene Einschränkung des Rechtswegs stellen eine ernsthafte Bedrohung für Meinungsfreiheit, Informationsfreiheit, Vertraulichkeit der Kommunikation und die Vielfalt der medialen Landschaft des Internets dar. 

Ziel terroristischer Handlungen ist, durch die Verbreitung von Schrecken das Vertrauen in die offene Gesellschaft zu zerstören und so Meinungsfreiheit und Demokratie aufzuweichen. 

Umso dringender ist es nötig, demokratische Grundrechte aufrechtzuerhalten.

Wir, die unterzeichnenden Organisationen, bitten Sie, die Verabschiedung dieses Entwurfes zu verhindern.

1. Anwendungsbereich

Der extrem weite Anwendungsbereich des Verordnungsentwurfs erfasst nicht etwa nur große soziale Netzwerke, sondern auch eine Vielzahl kleiner Websites, etwa alle Blogs und Nachrichtenportale mit Kommentarfunktion, Foren, Videostreamingdienste, File-Sharing- und auch der Öffentlichkeit nicht zugängliche Cloud-Dienste. Kleinere Anbieter und vor allem nichtkommerzielle Dienste haben nicht die technischen und personellen Möglichkeiten, Löschungen binnen einer Stunde durchzuführen oder hochkomplexe Filtersysteme einzurichten. Viele wären deshalb gezwungen, ihre Angebote für benutzergenerierten Content einzustellen oder die Ausführung an größere Digitalkonzerne auszulagern. Das würde das weitere Anwachsen von monopol-ähnlichen Unternehmen fördern und sich stark bremsend auf die Entwicklung der Digitalwirtschaft sowie auf nichtkommerzielle Angebote auswirken.  

2. Definition terroristischer Inhalte

Die Definition terroristischer Inhalte in Art. 2 greift auf die von Menschenrechtsorganisationen stark kritisierte RL 2017/541 zurück, mit der EU-weite Vorgaben für Terror-Straftatbestände eingeführt wurden. Von ihr können auch Formen zivilen Ungehorsams, zum Beispiel Blockadeaktionen, erfasst sein. Der Verordnungsentwurf vermindert die Anforderungen noch stärker, indem er auf jeden Vorsatz verzichtet und etwa „Methoden für das Begehen terroristischer Straftaten“ als terroristischen Inhalt qualifiziert. Dadurch können auch journalistische Aktivitäten oder solche von Menschenrechtsorganisationen betroffen sein, die sich mit dem Thema Terrorismus beschäftigen. Bemerkenswerter Weise halten der UN-Sonderberichterstatter für Meinungsfreiheit, der UN-Sonderberichterstatter für das Recht auf Privatheit und die UN-Sonderberichterstatterin für den Grundrechtsschutz im Anti-Terror-Kampf es für nötig, die EU-Organe darauf hinzuweisen, dass auch Inhalte, die den Staat schockieren, angreifen und stören, von der Meinungs- und Informationsfreiheit gedeckt sind und zum demokratischen Diskurs gehören. 

3. Proaktive Maßnahmen

Nach Art. 6 könnten Anbieter von Hosting-Diensten dazu verpflichtet werden, Uploadfilter zu implementieren, die bereits das Hochladen von als terroristisch erkannten Inhalten verhindern. Wenn Plattformbetreiber durch den Staat beauftragt werden, Inhalte vor der Veröffentlichung zu kontrollieren und gegebenenfalls eine Veröffentlichung zu verhindern, ist das eine Vorzensur, die das Grundgesetz in Art. 5 verbietet. Allgemeine Überwachungspflichten für Plattformen sind außerdem durch Art. 15 der eCommerce-Richtlinie verboten.

Die Treffsicherheit von Uploadfiltern ist nicht gewährleistet: Die Plattform Youtube, die sie bereits auf freiwilliger Basis einsetzt, sperrte zehntausende Videos, die Kriegsverbrechen des IS dokumentierten, weil in ihnen IS-Flaggen zu sehen waren. Automatisierte Filter sind nicht in der Lage, den Kontext von Ideen und Äußerungen einzuschätzen und daher massiv fehleranfällig. Dabei ist jeder einzelne legale Inhalt, der fehlerhaft gelöscht wird, eine unzulässige Verletzung der Meinungsfreiheit. Eine Fehlerquote, die jeder Filter aufweist, ist hier inakzeptabel.

Außerdem bergen solche Mechanismen ein enormes Missbrauchspotenzial, weil durch kleine Änderungen der Algorithmen statt terroristischer Propaganda auch unbequeme Postings gefiltert werden können. In einer Welt, in der soziale Netzwerke eine entscheidende Rolle für die Meinungsbildung spielen, wäre das fatal.

4. Übertragung der Rechtsdurchsetzung an Private

Nach der Verordnung sollen Inhalte nicht nur auf behördliche Anordnung gelöscht werden, sondern es besteht des weiteren die Möglichkeit, dass nationale Behörden Inhalte dem Hostinganbieter melden, damit dieser einen Verstoß gegen seine Nutzungsbedingungen prüft (Art. 5 VO-Entwurf). Private Hostinganbieter können im Rahmen ihres virtuellen Hausrechts durch Nutzungsbedingungen deutlich stärker als staatliche Akteure regeln, welche Inhalte gepostet werden dürfen. Auf diesem Weg könnten Behörden versuchen, Plattformbetreiber zu instrumentalisieren, um unliebsame Beträge verschwinden zu lassen, für deren Löschung auf Basis nationalen oder internationalen Rechts keine Grundlage bestünde. Besonders gefährlich ist dies, weil als Rechtsmittel gegen die Löschung zunächst eine Beschwerde beim Hoster vorgesehen ist. Der Entwurf stellt nicht klar, inwiefern ein Inhalteanbieter gegen eine Meldung verwaltungsgerichtlich vorgehen kann und ob eine gerichtliche Überprüfung auf Wahrung von Grundrechten stattfindet. Das ist skandalös und steht in eklatantem Widerspruch zum Erfordernis effektiven Rechtsschutzes nach der EU-Grundrechtecharta. Dieses tiefgreifende Risiko der Umgehung von Grundrechten ist durch nichts gerechtfertigt: Hält eine Behörde es nicht für erforderlich, einen Post via Löschungsanordnung blockieren zu lassen, so besteht kein Anlass, den Hostinganbieter zu einer Löschung auf abweichender Rechtsgrundlage anzuregen.

Wir fordern Sie daher auf, den Entwurf abzulehnen.

Mit freundlichen Grüßen

Digitale Gesellschaft
Digitalcourage
Chaos Computer Club 
Gesellschaft für Informatik
Aktion Freiheit statt Angst
Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung
Wikimedia Deutschland