Hate Speech und Desinformationen
Politische Fragen und Meinungen werden zu einem großen Teil online verhandelt. Das Internet wird dabei zunehmend von menschenfeindlichen Positionen und Akteur*innen dominiert, die sich die Vernetzungsmöglichkeiten strategisch zunutze machen. Hate Speech und Desinformation kursieren in sozialen Netzwerken und sind ein ernstzunehmendes Problem.1 2 Das Internet birgt aber auch eine Chance, die pluralistische Gesellschaft zu stärken, marginalisierte Personen zu empowern und demokratische Positionen voranzubringen. Welche Begriffe und Phänomene im Netzdiskurs wichtig sind, haben wir in diesem Kapitel zusammengefasst.
Content Note: Das Glossar behandelt auch diskriminierende und verletzende Begriffe.
-
Campact: Hass im Netz bedroht Meinungsvielfalt und Demokratie bundesweit. 2019
-
Das NETTZ, Gesellschaft für Medienpädagogik und Kommunikationskultur, HateAid und Neue deutsche Medienmacher*innen als Teil des Kompetenznetzwerks gegen Hass im Netz: Lauter Hass – leiser Rückzug. Wie Hass im Netz den demokratischen Diskurs bedroht. Ergebnisse einer repräsentativen Befragung. 2024
D
-
Debunking
Zum BegriffDebunking bedeutet ursprünglich Entlarven. Der Begriff wird in der Netzwelt verwendet, um Strategien zu beschreiben, mit denen Falschinformation aufgedeckt und auf Fakten überprüft werden können, z. B. durch Quellen-Checks, Abgleich mit anderen Quellen oder Bildüberprüfung1.
-
Deep Fakes
Zum BegriffDeep Fakes oder synthetische Medien sind durch KI verfälschte Bild- und Tonaufnahmen. Dabei werden zum Beispiel das Gesicht einer Person auf den Körper einer anderen retuschiert oder gefälschte Sprachaufnahmen produziert. Deepfakes können schwerwiegende persönliche, strafrechtliche und gesellschaftliche Konsequenzen haben, etwa im Fall von sexualisierten Videos oder manipulierten politischen Redebeiträgen. Softwareunternehmen können ihre generativen KI-Anwendungen so programmieren, dass sie die Erstellung von Deep Fakes nicht einschränken.
-
Desinformation
Zum BegriffDesinformation bezeichnet eine falsche oder irreführende Information, die absichtlich erstellt oder verbreitet wird, um Personen zu täuschen. In digitalen Räumen wird sie oft über Online-Plattformen und Messenger-Dienste verbreitet und erscheint in Form von Text, Bild, Audio oder Video. Zunehmend kann sie auch mit Hilfe generativer künstlicher Intelligenz erstellt werden. In der Forschung gibt es verschiedene Ansätze, um den Begriff der „Desinformation1” zu definieren. Abgegrenzt wird er dabei häufig von benachbarten Phänomenen wie Fehlinformation.
-
Digitale Gewalt
Zum BegriffDigitale Gewalt ist ein Oberbegriff für verschiedene Formen der Herabsetzung, Belästigung, Diskriminierung, sozialen Isolation und Nötigung anderer Menschen in Netz. Täter*innen fügen dabei mit digitalen Mitteln einer anderen Person Schaden zu, unterwerfen sie dem eigenen Willen oder erwidern ausgeübte Gewalt durch Gegen-Gewalt. Digitale Gewalt umfasst unter anderem beleidigende Privatnachrichten oder öffentlich einsehbare Kommentare, die Verbreitung von Desinformation über eine Person, Bedrohung und Erpressung, Hate Speech, Cybermobbing oder das Erstellen von Deep Fakes (Toneshift).1
-
Dog Whistle
Zum BegriffDog Whistle (dt. „Hundepfeife") bezeichnet einen Begriff, ein Symbol oder eine Formulierung, die nach außen harmlos wirkt, aber für Eingeweihte eine zweite, politisch aufgeladene Bedeutung trägt. Ähnlich wie eine Hundepfeife, die nur für bestimmte Ohren wahrnehmbar ist, richten sich Dog Whistles gezielt an Menschen, die die dahinterstehenden Codes kennen und teilen.
Der Medienwissenschaftler Stephen Packard betont, dass Dog Whistles eine gesellschaftliche Fragmentierung voraussetzen: Nur weil nicht alle dieselbe Sprache sprechen, funktioniert die Botschaft als Code.
In rechtsextremen und menschenfeindlichen Zusammenhängen werden Dog Whistles gezielt eingesetzt, um Inhalte zu verbreiten, ohne dass Content Moderation oder Außenstehende sie auf den ersten Blick als solche erkennen.
H
-
Hate Speech
Zum BegriffHate Speech (dt. Hassrede) ist ein Phänomen, das sich zunehmend im Internet ausgebreitet hat. Es bezeichnet sprachliche Handlungen gegen Einzelpersonen und/oder Gruppen mit dem Ziel der Abwertung oder Bedrohung.1 Oft handelt es sich um menschenfeindliche (z. B. rassistische) Äußerungen. Betroffene sind i.d.R. Gruppen, die ohnehin schon gesellschaftlich unterdrückt sind, und Menschen, die sich mit ihnen solidarisieren. Hasskommentare kommen laut dem BKA mehrheitlich aus dem rechtsextremen Spektrum.2 Hate Speech selbst ist kein juristischer Straftatbestand, es hängt von der jeweiligen Aussage ab, ob es sich z.B. um Volksverhetzung, Beleidigung o.ä. handelt, oder “lediglich” eine abwertende und verletzende Meinungsäußerung.3
P
-
Prebunking
Zum BegriffPrebunking ist eine Methode, um präventiv gegen Desinformation vorzugehen. Sie soll Nutzer*innen für Manipulation sensibilisieren. Ziel ist es, die Medienkompetenz und Resilienz der Gesellschaft zu stärken, sodass manipulative Inhalte direkt als solche erkannt und nicht weiterverbreitet werden. Plattformbetreiber*innen, Pädagog*innen, Wissenschaftler*innen und andere beleuchten beim Prebunking Manipulationstechniken und deren Wirkungsweisen, beispielsweise durch Kurzvideos in sozialen Medien.
S
-
Silencing(-Effekt)
Zum BegriffMehr als die Hälfte der Online-Nutzer*innen äußern ihre politische Meinung aus Angst vor Hass und digitaler Gewalt nicht mehr online1 2. Das nennt man Silencing. Silencing hat zur Folge, dass ein verzerrtes Bild der Meinungsverteilung entsteht, weil extreme Positionen überproportional vertreten sind und so suggeriert wird, sie entsprächen der Mehrheitsmeinung.
T
-
Trolle
Zum Begriffist eine Bezeichnung für Menschen, die strategisch im Netz Hass verbreiten. Im Gegensatz zu automatisierten, softwaregestützten Bots stehen hinter Trollen echte Menschen. Oft sind es nur wenige gut vernetzte Personen, die eine Vielzahl von Fake-Profilen bedienen und so, z. B. mit einem Shitstorm, den Eindruck erwecken, sie wären viel mehr Menschen, als sie wirklich sind. Durch die Dominanz und Überrepräsentation rechter Inhalte entsteht so ein verzerrtes Meinungsbild. Ein prominenter Fall für ein solches Trollnetzwerk ist “Reconquista Germania”1.
Z
-
Zensur
Zum BegriffZensur bedeutet eine staatliche Kontrolle darüber, welche Inhalte in Medien veröffentlicht werden dürfen. Das Ziel ist, nur die Informationen zu verbreiten, die eine Regierung für wünschenswert hält1. In Deutschland verbietet Artikel 5 des Grundgesetz Zensur. Nationales, europäisches und internationales Recht schützen zudem die Meinungsfreiheit, Pressefreiheit, Wissenschaftsfreiheit und Kunstfreiheit. Diese Rechte können nur in Ausnahmefällen eingeschränkt werden, zum Beispiel für den Jugendschutz.