Troll-Armee

Troll-Armee (auch Putinbots, Trollfabrik oder Web-Brigaden; russisch кремлеботы Kremleboty „Kreml-Bots“) bezeichnet eine verdeckte Organisation in Russland, die im Auftrag des Staates die öffentliche Meinung im Internet manipuliert. Mithilfe von Sockenpuppen – fingierten Identitäten – beeinflussen Angestellte gezielt die öffentliche Stimmung in Online-Foren und den Kommentarbereichen von Nachrichten-Seiten im Sinne der russischen Regierung. Erstmals beschrieben wurde das Auftauchen staatlicher Trolle in Russland im Jahr 2003.^[1] Der breiten Öffentlichkeit wurde ihr Wirken mit Beginn des Ukraine-Krieges ab 2014 bekannt.

Organisation

Über das Vorgehen staatlich gesteuerter Trolle wurde schon 2003 in einem Artikel der Zeitschrift Westnik (Журнал Вестник) berichtet. Anna Poljanskaja, Andrej Kriwow und Iwan Lomko beschrieben, wie der Staat Einfluss auf das Internet nimmt und wie „Web-Brigaden“ die Sichtweise der russischen Regierung verbreiten. Die Brigaden würden durch ihr kollektives Auftreten, die Wiederholung bestimmter Phrasen und sprachliche Besonderheiten, Diskreditierung von Regierungsgegnern, Europäern und Amerikanern sowie durch ihre abrupte Aktivierung während Wahlen auffallen. Die Brigaden hielten sich genau an den Standpunkt Wladimir Putins. Zum Beispiel verbreiteten die Brigaden anlässlich des Kurilenkonflikts und der Terroranschläge am 11. September 2001 antijapanische bzw. antiamerikanische Botschaften, stellten die Kommentare für längere Zeit jedoch komplett ein, nachdem Putin mit der japanischen Regierung eine Absprache getroffen und sich mit Amerika im Kampf gegen den Terrorismus solidarisiert hatte.^[1] Die Autoren berichteten auch von dem Auftrag, jeden der Russophobie zu bezichtigen, der nicht mit der russischen Politik übereinstimme.^[2] Geleitet wurde die Trollfabrik von Ilja Gorbunow.^[3]

Der New-York-Times-Reporter Adrian Chen traf bei seinen Recherchen auf einen Betreiber einer frühen Troll-Firma, der ab 2008 Arbeiten im Interesse der Regierung ausführte. Der Betreiber erklärte, dass es viele solcher Firmen gegeben habe und deren Mitarbeiter seines Wissens in die Tausende gingen.^[4] Dem Literaturkritiker und ehemaligen Stadtrat Moskaus Andrej Malgin waren diese Blogger seit dem Jahr 2010 aufgefallen.^[5] Ein Aufblühen der Trollaktivitäten führte Chen jedoch auf die Anti-Regierungs- und Anti-Putin-Proteste von 2011 zurück.^[4]

Einen wesentlichen Beitrag bei der Aufdeckung der Trollaktivitäten leisteten einzelne russische investigative Journalisten. Am 9. September 2013 veröffentlichte die regierungskritische Nowaja gaseta einen Artikel mit dem Titel Wo leben die Trolle? Wie Internet-Provokateure in St. Petersburg arbeiten und wer sie leitet.^[6] Nach der Nowaja gaseta war die Trollfabrik am 26. Juli 2013 bei den Behörden als Vereinigung registriert worden.^[7] Boris Reitschuster berichtete dem Deutschlandfunk 2014, er habe die Räume der Web-Brigaden mit eigenen Augen gesehen.^[8] Auch der New-York-Times-Reporter Adrian Chen betrat bei einer Recherchereise das Gebäude. Er wurde danach von der Organisation als „CIA-Agent mit Kontakten zu Neonazis“ diskreditiert.^[4][9]

Der offizielle Name für die Organisation lautete „Agentur für Internet-Forschung“ (dt. für Агентство интернет-исследований Agenstwo internet-issledowani),^[10] danach „Bundesnachrichtenagentur“ (dt. für Федеральное агентство новостей Federalnoje agenstwo nowostei, FAN).^[4] Im angelsächsischen Raum existiert die Bezeichnung Internet Research Agency, kurz IRA.^[11] Im Jahr 2015 wurde der Name Glavset bekannt.^[12] Wegen ihres Hauptsitzes in Olgino, einem Bezirk von Sankt Petersburg, sprach man im Englischen ab dem Jahr 2015 von den Trolls from Olgino.^[13] Es gilt als gesichert, dass die Organisation im Frühjahr 2015 nach einem Umzug in der uliza Sawuschkina 55 in Sankt Petersburg ansässig ist.^[14] Dort arbeiten mehrere Hundert freie Mitarbeiter; jene mit entsprechenden Fremdsprachenkenntnissen erhielten mehr Lohn – dies sicher bis ins Jahr 2015 in bar.^[15][16] Sie betreiben in den Kommentarbereichen und Diskussionsforen nationaler und internationaler Nachrichtenportale Astroturfing mit Propaganda der russischen Regierung unter Beachtung und Verwendung vorgegebener Schlagwörter. Zusätzlich werden eigene „Nachrichtenportale“ betrieben.^[17][18] Nach verschiedenen Quellen war der Putin-Vertraute Jewgeni Prigoschin für die direkte Finanzierung zuständig,^[19][20] was dieser Anfang 2023 auch offiziell zugab.^[21]

In einer vom russischen Hacker-Kollektiv Anonymous International veröffentlichten E-Mail wurden die Arbeitsvorgaben der Mitarbeiter erläutert. Hiernach muss jeder Autor pro Tag mindestens 50 Kommentare zu Newsartikeln verfassen und daneben sechs Facebook- sowie zehn Twitter-Profile verwalten und binnen eines Monats 500 Follower generieren (respektive 2000 auf Twitter). Nur ein Bruchteil aller Kommentare hat politischen Charakter; der Rest dient der Gewinnung von Likes und der Verlinkung aufgrund von Schlagworten. Dazu wird zumindest innerrussisch im Team gearbeitet, wobei verschiedene Bearbeiter verschiedene Rollen einnehmen: These, Antithese und die Synthese in regierungsfreundlicher Gestalt.^[22][23][24]

Bots übernehmen in einem weiteren Schritt das massenhafte „liken“ der „richtigen“ Begriffe, damit sie in den Algorithmen der Suchmaschinen höher steigen und in den Social-Media-Plattformen höchste Aufmerksamkeit bekommen. In Estland wurden während des Jahres 2017 neunmal so viele Tweets in russischer Sprache von Bots abgesetzt wie von Menschen, wenn es um die NATO ging, ein Hauptziel der russischen Propaganda.^[25] In englischer Sprache produzierten die 25 Prozent Bot-Accounts 46 Prozent der englischsprachigen Inhalte.^[26] Gleichzeitig begannen die Bots, automatisierte Vorgänge im System von Twitter umgekehrt auszunutzen. So wurden Gegner der Putin-Propaganda mit Likes geflutet, um den Account zu verstopfen oder damit Twitter aufgrund der verdächtigen Aktivitäten den Account stilllege. Tweets beispielsweise von Accounts mit nur 6 Followern wurden von Botnets über 20.000 Mal retweetet. Durch die Wahl geeigneter Schlüsselwörter, also von den Bots gesuchter Stichworte im Tweet, verdreifachte sich die Zahl.^[27]

Im Dezember 2017 berichtete die St. Petersburger Wirtschaftszeitung Delovoy Peterburg über einen Umzug der Organisation in ein Gebäude in der Optikov-Straße 4. Die Bürofläche habe sich von 4.000 Quadratmetern auf 12.000 Quadratmeter erhöht. Ab Februar 2018 sollen dort 800 Mitarbeiter gearbeitet haben.^[28][29]

Ehemalige Angestellte

Im Sommer 2015 reichte Ljudmila Sawtschuk eine Lohnklage über einen symbolischen Rubel ein, um das klandestine Unternehmen ans Licht zu bringen: Durch das Verfahren wurde das Unternehmen aktenkundig.^{[30][31][32][33][23]} Sawtschuk nannte die Hasspropaganda- und Volksverhetzungs-Kommentare „Extremismus“, was in Russland verboten sei und ansonsten von den Behörden willkürlich verwendet werde, um missliebige Medien oder Benutzer von Social Media zu verfolgen; sie habe aber noch nie von der behördlichen Verfolgung eines Trolls gehört.^[34] Sawtschuk schrieb unter verschiedenen Identitäten zwischen Berichten über Alltägliches eingestreute politische Kommentare, darunter die angebliche „Sorge um Verwandte in Westeuropa“ und die angeblich verheerenden Auswirkungen der russischen Sanktionen gegen europäische Lebensmittelimporte auf die deutschen Bauern. Außerdem musste sie bestimmte vorgegebene Schlüsselwörter abarbeiten, z. B. musste sie Positives zu „Putin“, „Russlands Armee“, „Krim“ oder „Donbass“ und Negatives zu „Kiewer Junta“, NATO und Obama schreiben.^[15] Die Arbeitsräume im Gebäude an der Sawuschkinastraße würden ständig videoüberwacht und unter den Mitarbeitern herrsche eine Atmosphäre der Angst. Die Angestellten seien überwiegend jung, viele von ihnen seien Studenten, die den Job nicht aus Überzeugung oder einem Interesse an Politik machten, sondern um Geld zu verdienen. Daneben gebe es ältere Beschäftigte, die die Arbeit als „wirkliche Mission“ verstünden.^[35]

Gegenüber einem niederländischen Journalisten hatte eine ehemalige Mitarbeiterin angegeben, dass auch „verzweifelte“ Rentner dort arbeiteten; ihrer Ansicht nach arbeitete die Mehrheit dort nur wegen des Geldes und unterstützte die Regierungspolitik ansonsten nicht. Die vorgegebenen politischen Botschaften würden zwischen belanglose „Alltags“-Posts geschrieben, die aber interessant genug sein müssten, um beachtet zu werden; Geschichten schreiben zu können, sei Voraussetzung, damit auch eine Kuchen backende Bloggerin politische Inhalte transportieren könne.^[16][36]

150 regierungsfreundliche Kommentare waren das Soll für Marat Burkhard pro Schicht, unter anderem rassistische Beleidigungen des US-Präsidenten Barack Obama.^[15] Herabwürdigungen von Oppositionellen wie Alexei Nawalny, der Band Pussy Riot oder dem ukrainischen Präsidenten Petro Poroschenko gehörten zum Tagesgeschäft.^[13] Die Angestellten verwendeten Proxy-Server, um ihre IP-Adresse zu verbergen.^[4] Burkhards Gehalt lag bei 45.000 Rubel monatlich und damit deutlich über dem Durchschnittsverdienst in Russland. Der Lohn wurde immer in bar ausgezahlt. Wer die Webseiten von BBC oder CNN mit Kommentaren auf Englisch übersetzen konnte, erhielt ein höheres Gehalt;^[15][37] diese besser bezahlten internationalen Mitarbeiter hätten auch einen höheren Status, da sie nicht nur trollen, sondern auf intelligente Art Meinungen beeinflussen sollten; bei allzu plattem Kommentieren gab es gar Lohnabzüge. Voraussetzung war, die Probleme des Ziellandes zu kennen; diese Themen waren in den Medien zu beobachten und die Diskussionen dazu zu befeuern. Ziel war nicht, den Amerikanern Russland näherzubringen. „Wir hatten das Ziel, die Amerikaner gegen ihre eigene Regierung einzustimmen. Unruhe zu verursachen, Unzufriedenheit zu verursachen, die Beliebtheit von Obama zu senken.“^[38]

Die Aussteigerin Olga Malzewa verklagte die Trollfabrik auf Schadensersatz, da das Unternehmen sie wegen ihrer Schwangerschaft zur Kündigung drängte und ihr trotz gesetzlichen Anspruchs kein Mutterschaftsgeld auszahlte. Ihr Vorgesetzter versuchte Malzewa zu überzeugen, mit ihrer Geschichte nicht an die Öffentlichkeit zu gehen. Er bot ihr Geld an und drohte später (in einem mitgeschnittenen Telefongespräch), dass ihre Offenbarungen einigen „schlechten Genossen“ nicht gefallen würden. Malzowa war ab August 2014 in der für Blogeinträge zuständigen Abteilung angestellt und schrieb täglich unter verschiedenen Profilen Texte über Russland, die Ukraine und zeitweise über den Krieg in Syrien. Nach den Veröffentlichungen von Ljudmila Sawtschuk hätten die Kontrollen zugenommen, die Arbeitsplätze würden überwacht, Telefongespräche abgehört und Lügendetektortests durchgeführt. In Vorbereitung auf die gerichtliche Klage machte Malzewa eine Aufnahme von der zu ihrer Arbeitsstation gehörenden IP-Adresse. Laut der Sankt Petersburger Zeitung Fontanka.ru wurden von dieser Adresse aus Änderungen auf einer Seite durchgeführt, auf der Namen, Adressen und Bankdaten von oppositionellen Bloggern gesammelt wurden, und sie gehörte zu einer Firma, die mit Prigoschin in Verbindung stand.^[39][40]

Bekannte Aktionen

Ukraine-Krieg

Während des Krieges in der Ukraine seit 2014 waren russlandfreundliche Kommentare im deutschsprachigen Internet in der deutlichen Überzahl, was im Widerspruch zu Umfragewerten und der Position der mit dem Thema befassten Journalisten sowie Volksvertreter steht.^[41] Die in deutschen Internetforen vorherrschende russische Lesart des Kriegs spiegelt nicht die Meinung der Gesamtbevölkerung wider, zum Beispiel hielt laut einer repräsentativen Umfrage von 2015 eine Mehrheit der befragten Deutschen Russland für den Hauptschuldigen am Krieg in der Ukraine. Im Vergleich dazu teilen 20 % der befragten Deutschen die Sichtweise des Kremls – eine Lesart, die besonders unter Anhängern der Linkspartei und der AfD verbreitet ist.^[42] Die Süddeutsche Zeitung veröffentlichte Strategiepapiere der Petersburger Troll-Armee, die zeigen, dass Trolle im Zusammenhang des Ukraine-Krieges eingesetzt wurden, um die Kommentar-Bereiche großer Nachrichtenportale mit pro-russischen Meinungen zu füllen oder Debatten in sozialen Netzwerken zu stören. Ein Geschäftsführer der Agentur soll laut der Süddeutschen Zeitung die Authentizität der Dokumente bestätigt haben.^[43][44]

Von einer ähnlichen Flut kremlfreundlicher Kommentare berichteten internationale Medien wie Forbes Magazine oder The Guardian. So wurde in den Kommentaren oftmals die allgemeine Berichterstattung in Frage gestellt und die Schuld für die Auseinandersetzung „ukrainischen Faschisten“, der CIA oder NATO zugewiesen. Eine russische Beteiligung an dem Konflikt wurde entweder ganz in Frage gestellt oder durch Vorwürfe an die Ukraine und den Westen gerechtfertigt. Unabhängigen Journalisten wird üblicherweise vorgeworfen, korrupt zu sein bzw. mit einem verdeckten Auftrag zu handeln.^[45]

Zahlreiche Journalisten bekannten, dass hierdurch ihre Berichterstattung beeinflusst wurde, da sie sich vor hasserfüllten Reaktionen auf ihre Berichte fürchteten. Gleichzeitig führte dies zu einer Überprüfung der journalistischen Arbeitsweisen.^[46][47]

Im Weiteren werden vorgeblich ukrainische „Informationsportale“ betrieben, deren Inhalte in St. Petersburg erstellt werden.^[48] Aus den vom Hacker-Kollektiv Anonymous International veröffentlichten Daten geht hervor, dass Prigoschin schon vor der Krim-Annexion auch Blogger in der Ukraine finanzierte, so an die 21 Mitarbeiter der „Nowostnoje Agenstwo Charkowa“ (Новостное Агентство Харькова, dt. „Nachrichtenagentur Charkiw“) mit monatlichen Gehältern von insgesamt ca. 220.000 Rubel.^[49]

Desinformation zu Angela Merkel

Anfang Juni 2015 eröffnete Bundeskanzlerin Angela Merkel ihr Profil auf dem Foto-Portal Instagram. Laut einer Regierungssprecherin gab es zum Start des Kanals „innerhalb weniger Stunden einige hundert Kommentare in kyrillischer Schrift“.^[50] Die meisten russischsprachigen Kommentatoren schimpften über „ukrainische Faschisten“ und schrieben, dass die Menschen in der Ostukraine vor „Faschismus“ gerettet werden müssten. Ein Bild, auf dem die Kanzlerin mit dem ukrainischen Präsidenten Petro Poroschenko zu sehen ist, wurde besonders häufig auf Russisch kommentiert und Merkel eine Freundschaft zu „den Faschisten“ unterstellt. Im Gegensatz zu den negativen Kommentaren über die Ukraine und Deutschland wurden Russland und Wladimir Putin überschwänglich gelobt. Nach Angaben der FAS handelt es sich um eine organisierte Aktion russischer Internet-Trolle.^[50] Die Moscow Times bestreitet, dass die Kommentare etwas mit Putins Troll-Fabriken zu tun hätten.^[51]

Brexit

Die britische Daily Mail berichtete Anfang November 2017 exklusiv darüber, dass die Troll-Armee von St. Petersburg aus auf das Brexit-Referendum Einfluss genommen habe. Nach Auskunft eines anonymen Whistleblowers wurden in den Tagen vor dem Referendum die sozialen Netzwerke (vor allem Twitter und Facebook) gezielt mit kontroversen Artikeln geflutet, so zum Beispiel über den Account eines erfundenen Deutschen, der sich in 20 Tweets pro Stunde über die Briten lustig machte.^[52] In der weiteren Berichterstattung porträtierte die Zeitung den 23-jährigen Journalisten Vitali Bespalow, der nach eigener Aussage in der uliza Sawuschkina 55 als Troll gearbeitet hat.^[53] Insgesamt sind bei der Kampagne mindestens 400 Twitterkonten verwendet worden.^[54] Der Daily Telegraph berichtete mit Verweis auf Twitter-Daten, dass rund 3.800 russische Konten am Tag des Referendums insgesamt 4.400 Mal das Stichwort Brexit twitterten, 1.100 Mal unter dem Hashtag #ReasonsToLeaveEU.^[55]

Agitation in den USA

Die Proteste gegen Donald Trump im November 2016 in New York City wurden nach Angaben des Sonderermittlers Robert Mueller von Russen organisiert.^[56]

Am 11. September 2014 wurde in sozialen Netzwerken wie Twitter und Facebook das Gerücht über eine angebliche Explosion in einer Chemiefabrik im amerikanischen Bundesstaat Louisiana verbreitet. Um der Falschmeldung Glaubwürdigkeit zu verleihen, wurden falsche Nachrichten- und Wikipedia-Seiten angelegt, Kurznachrichten an Bewohner verschickt, Journalisten und Politiker angeschrieben und falsche Videos auf YouTube eingestellt, in denen der Islamische Staat angeblich die Verantwortung für die Explosion übernahm.

Es dauerte mehrere Stunden, bis die Berichte und Videos als Fälschung entlarvt und festgestellt wurde, dass es keine Explosion gegeben hatte.^[4][57] Adrian Chen von der New York Times verfolgte die Aktivität der Konten in sozialen Netzwerken zurück auf die Sankt Petersburger Trollfabrik. Zweck der Aktion war es nach Chen, den Eindruck zu erwecken, die Vereinigten Staaten hätten die Kontrolle über das Geschehen im eigenen Land verloren.^[58][59]

Auch Rassenhass wurde aus Russland geschürt:^[60] Von Russland aus gesteuerte Konten hatten Muslimgegner und Muslimbefürworter zu gleichen Zeiten an identischen Orten zu Kundgebungen aufgerufen.^[61] Die Trolle aus Sankt Petersburg sollen laut BBC auch hinter einem Video stecken, in dem ein angeblich amerikanischer Soldat auf den Koran schießt.^[62][63] Auch zur Falschmeldung über einen angeblichen Ebola-Ausbruch in Atlanta wurden Videos gefälscht und über soziale Netzwerke verbreitet.^[64][65]

Die Organisation hatte bei Facebook für 100.000 Dollar Werbeanzeigen gekauft^[66] und teils mit Rubeln bezahlt,^[67] damit können je nach Verstärkungseffekten etwa 17 Millionen Impressionen erreicht werden.^[68] Der unter US-Präsident Trump kurzzeitig als US-Sicherheitsberater amtierende Michael Flynn folgte fünf vom Kreml gesteuerten Twitter-Accounts und unterstützte in mehreren Fällen deren Standpunkte.^[69] Das Ziel war laut NZZ, die Polarisierung in den USA vor der Wahl zu verstärken.^[67]

Das United States Senate Select Committee on Intelligence (Kommittee des US-Senates zur Überwachung der US-Geheimdienste) enthüllte, dass von St. Petersburg aus antimuslimische Proteste am 16. Mai 2016 vor dem Islamic Da’wah Center in Houston organisiert wurden (Facebook-Account „Heart of Texas“). Zugleich organisierten die Trolle auch einen Gegenprotest an derselben Stelle (Facebook-Account „United Muslims of America“) und riefen beide Seiten zu Gewalt auf.^[70] Auch schwarze Amerikaner sollten mit von Russland organisierten Gruppen in sozialen Medien radikalisiert werden. Der Occupy-Wall-Street-Mitgründer Micah White berichtete von Versuchen der Vereinnahmung von Aktivisten-Gruppen durch Russland und betonte den Unterschied zur bloßen damaligen Unterstützung der Occupy-Bewegung. Er wies darauf hin, dass offensichtlich eine Fake-„Black Matters“-Gruppe mehr Likes generieren konnte als eine echte Bewegung.^[71][72]

Siehe auch: Russische Einflussnahme auf den Wahlkampf in den Vereinigten Staaten 2016

Unter anderem wurde die amerikanische, linksorientierte Internetplattform CounterPunch von der Trollfabrik nach Erkenntnissen des FBI benutzt, um unter der Tarnidentität einer freien Journalistin mit dem Namen „Alice Donovan“ im Wahlkampf vor der US-Präsidentschaftswahl am 8. November 2016 Beiträge gegen die Kandidatin Hillary Clinton zu platzieren und in dem Zusammenhang die angeblich große Bedeutung von Veröffentlichungen geleakter E-Mails auf WikiLeaks zu betonen.^[73]

Der Sonderermittler Robert Mueller in der Affäre um eine Beeinflussung des US-Wahlkampfs ließ Mitte Februar 2018 eine Anklageschrift erstellen, nach der mehrere russische Staatsbürger und Organisationen, die im Zusammenhang mit der Troll-Armee stehen, wegen Verschwörung zur Störung der demokratischen Prozesse in den Vereinigten Staaten, darunter der Präsidentschaftswahl von 2016, durch den Einsatz unehrlicher Mittel bezichtigt werden. Darunter waren zahlreiche zu diesem Zweck eingesetzte Tarnfirmen und 13 Personen. Die sechs erstgenannten Personen waren demnach:^[74]

• Jewgeni Prigoschin und sein Konkord-Konzern,
• Michail Bystrow, hochrangigster Mitarbeiter, der an Prigoschin berichtete
• Michail Burchik, verantwortlicher Direktor (Planung, Infrastruktur und Personal)
• Aleksandra Krylowa, zeitweise dritthöchste Mitarbeiterin, Informationsbeschaffung in den USA
• Sergei Polosow, IT-Spezialist, verantwortlich für den Aufbau einer Serverstruktur in den USA für die Verschleierung der russischen IP-Adressen der Trollarmee
• Anna Bogatschowa, Datenanalyse und Informationsbeschaffung in den USA

Etwa 80 Angestellte hatte die Troll-Armee laut der Washington Post unter der Tarnbezeichnung „Übersetzer-Projekt“ während des Wahlkampfs in den USA in Russland eingesetzt, um unter anderem in amerikanischen sozialen Medien mit verschiedenen Nutzerkonten als US-Bürger aufzutreten, mit echten Anhängern Donald Trumps zu interagieren, beim Organisieren von Kundgebungen zu helfen und Zweifel an der Ehrlichkeit und am Gesundheitszustand der Kandidatin Hillary Clinton zu säen. Die Trolle hätten stets bereits bestehende Konfliktfelder in der amerikanischen Gesellschaft ausgenutzt und Themen aus Trumps Wahlkampf aufgegriffen.^[75]

Die russischen Trolle setzten nach Recherchen der New York Times vom Februar 2018 zum Schulmassaker von Parkland eine ganze Bandbreite beliebter sozialer Medien ein, darunter Verschwörungsvideos auf YouTube, gefälschte Interessengruppen auf Facebook und eine große Zahl automatisierter Twitterkonten, die in der Lage wären, die Deutungshoheit über Themen und Diskussionen zu gewinnen. So hatten die russischen Trolle bereits während des US-Wahlkampfes den Twitter-Feed @TEN_GOP etabliert, den offenbar viele Amerikaner für ein offizielles Twitterkonto der Republikanischen Partei von Tennessee hielten, der 100.000 Follower erreichte und dessen Tweets auch von prominenten Mitgliedern des Trump-Wahlkampfteams weiterverbreitet wurden.^[76]

Im Dezember 2018 wurden zwei unabhängig voneinander erstellte Studien über die Tätigkeit der „Agentur für Internet-Forschung“ vorgestellt, die nach Meinung der Verfasser massive Manipulationen während der Wahlkampagne vor der Präsidentschaftswahl in den Vereinigten Staaten 2016 belegen. Für die Analysen wurden nach Angaben ihrer Verfasser Millionen von Nachrichten in den sozialen Netzwerken ausgewertet, die sich der „Agentur für Internet-Forschung“ zuordnen lassen.^[77] Einem Bericht der New York Times zufolge zielte die Kampagne besonders auf Afroamerikaner ab; sie sollten davon abgebracht werden, die demokratische Kandidatin Hillary Clinton zu wählen.^[78]

Störung des französischen Wahlkampfs

Wie im amerikanischen Wahlkampf 2016^[79] kam es auch während der Präsidentschaftswahl in Frankreich zu Eingriffen russischer Hacker in den Wahlkampf: So wurden am 5. Mai 2017, am Vorabend der offiziellen 40-stündigen Informationssperre vor dem zweiten Wahlgang, angeblich kompromittierende Daten und Unterlagen aus dem Lager Emmanuel Macrons veröffentlicht, die auf verschiedenen sozialen Netzwerken unter dem Schlagwort #MacronLeaks oder #Macrongate massiv verbreitet wurden, insbesondere von rechtsextremen amerikanischen Kreisen (aber auch von Anhängern des Front National). Die Beschuldigungen und angeblichen Enthüllungen wurden aufgrund der üblichen Vorwahl-Nachrichtensperre nicht von den französischen Medien aufgenommen und hatten auf den Wahlausgang letztlich nicht die gewünschten Folgen.^[80] Die Metadaten der veröffentlichten Dateien und Unterlagen belegen den russischen Ursprung der Hacks; sie zeigen eine Bearbeitung durch Mitarbeiter von Evrika ZAO, einem bekannten St. Petersburger Subunternehmer des staatlichen Geheimdienstes FSB, der zuvor auch schon durch Phishing-Attacken auf die CDU aufgefallen war.^[81][82]

Vortäuschung internationaler Nachrichtenseiten

Einer Recherche von T-online zufolge wurden im Sommer 2022 Websites erstellt, die sich als Nachrichtenseiten deutscher, englischer, französischer und italienischer Medien (darunter Frankfurter Allgemeine Zeitung, Der Tagesspiegel, Neues Deutschland, Bild, t-online, SPIEGEL, Daily Mail, Ansa und 20 Minutes) ausgeben und dabei Falschinformationen verbreiten. Die Fake-Nachrichtenseiten behandeln Themen mit Bezug zum Russisch-Ukrainischen Krieg, zu Sanktionen gegen Russland, zur Inflation infolge des Krieges und zu steigenden Energiepreisen. Die miteinander verlinkten und gefälschten Nachrichten sind gegen die Politik der deutschen Bundesregierung, gegen die Ukraine und Ukrainer sowie gegen die Russland-Sanktionen gerichtet. Laut dem Institute for Strategic Dialogue (ISD) ist die Desinformationskampagne alleine in Deutschland von beispiellosem Ausmaß. So wurde eine der Fakemeldungen zwischen 500.000- und 600.000-mal aufgerufen.^[83]

Gegenbewegungen

Nach bisheriger Kenntnis entwickeln sich gegen die staatlichen Desinformationskampagnen einige zivilgesellschaftlich organisierte Gegenbewegungen. Ziel ist es, die als Propaganda angesehenen oder durchschauten Behauptungen auf ihre Stichhaltigkeit zu prüfen und den Medienkonsumenten, mittels Überprüfung der Behauptungen, die Mittel und Möglichkeiten von staatlichen Insistierungen offenzulegen. Eine Factchecking-Plattform, die Desinformationen aufklärt, ist das über Crowdfunding und die Stiftungen Open Society Foundations und das US-amerikanische National Endowment for Democracy finanzierte^[84] Portal Stopfake.org.^[85] Die Organisation wurde von Studenten wie Absolventen der Journalismusschule der Universität-Kiew-Mohyla-Akademie im März 2014 gegründet. Sie nutzt zur Überprüfung vorgegebener oder angeblicher Ereignisse beider Seiten vorwiegend öffentlich zugängliche Medien und das Internet. Jedoch zählen auch investigative Befragungen von Menschen aus Regionen dazu, in denen die Ereignisse stattgefunden haben sollen. Über den Einfluss solcher investigativen Bewegungen liegen bisher keine Erkenntnisse vor.^[86]

Falschmeldungen zu entlarven, hat sich außerdem das russische Projekt Noodleremover.news zur Aufgabe gemacht.^[87] Der Europäische Auswärtige Dienst hat Ende 2015 als Antwort auf anhaltende Desinformation aus Russland die Arbeitsgruppe East StratCom Task Force gegründet.^[88][89] Die Arbeitsgruppe stellt in dem wöchentlichen Newsletter Disinformation Review Beispiele für Desinformation in russischen Medien zusammen^[90] und beleuchtet die Sichtweise von regierungsnahen Medien in dem Newsletter Disinformation Digest.^[91]

In den baltischen Staaten haben sich Privatpersonen zusammengetan, die in sozialen Medien (z. B. auf Facebook und vKontakte) und vor allem in Kommentarspalten von Nachrichtenartikeln russischer Propaganda über das Baltikum entgegenwirken. Zum Beispiel versuchen sie Behauptungen zu widerlegen, dass Litauer Nazis sind und Litauen ein Marionettenstaat der Vereinigten Staaten. Sie organisieren sich hauptsächlich in Google-Gruppen und nennen sich „Elfen“ in Abgrenzung zu „Trollen“.^[92]

Anfang November 2017 meldete die russische Zeitung Nowaja gaseta, dass sich die russische Trollfabrik FAN über „Zensur“ beklagte, als der Suchmaschinenbetreiber Google die mit ihr verbundenen Dienste aus seinen Resultaten ausschloss.^[93]

Offizielle und inoffizielle russische Stellungnahmen

„Auf staatlicher Ebene machen wir so etwas nicht“, sagte Präsident Wladimir Putin am 1. Juni 2017 vor Journalisten zu deren Fragen betreffend eine mögliche Beeinflussung der deutschen Bundestagswahl 2017.^[94] Er schloss hingegen nicht aus, dass „patriotische“ Landsleute dies tun könnten.^[95]

Im November 2022 schrieb Jewgeni Prigoschin auf Vkontakte bezüglich russischer Einmischung in US-Wahlen: „Wir haben uns eingemischt, wir tun es und wir werden es weiter tun“.^[96] Anfang 2023 gab Prigoschin offiziell zu, die Trollfabrik gegründet und geleitet zu haben.^[21]

Weitere Trollfabriken und andere Desinformationskampagnen

• Reconquista Germanica – Deutsches Netzwerk von rechten Onlineaktivisten.^[97]
• Doppelgänger – eine 2022 identifizierte russische Desinformationsoperation, mit dem Ziel, westliche Regierungen und ihre Politik zu diskreditieren
• newsweb.pl – ehemalige polnische Trollfabrik der Firma HGA Medien in Warschau. Die Seite gab sich als „Nachrichtenportal“ aus und verbreitete rechte Fakenews mit den Feindbildern EU, Flüchtlinge und Deutschland. Mittels Social-Media-Verlinkungen erreichte die Seite eine Reichweite von bis zu sieben Millionen Aufrufe pro Woche. Recherchen des Fernsehsenders TVN deckten die Trollfabrik 2018 auf.^[98]
• 50 Cent Party – Internetkommentatoren bezahlt durch den Staatsrat der Volksrepublik China
• Einheit 29155 – Spezialeinheit des russischen Militärnachrichtendienstes Glawnoje Raswedywatelnoje Uprawlenije (GRU)
• Sofacy Group – vermutliches Hackerkollektiv des GRU
• Ruptly – im staatlichen russischen Auftrag agierende internationale Nachrichtenagentur
• Katehon – russische Denkfabrik zur Verbreitung geopolitischer Vorstellungen von Alexander Dugin

Literatur

• Andrei Soldatov, Irina Borogan: The Red Web: The Struggle Between Russia’s Digital Dictators and the New Online Revolutionaries. Public Affairs, New York 2015, ISBN 978-1-61039-573-1.
• Marcel H. Van Herpen: Putin’s Propaganda Machine: Soft Power and Russian Foreign Policy. Rowman & Littlefield, 2015, ISBN 978-1-4422-5362-9.
• Jessikka Aro: Putins Armee der Trolle. Der Informationskrieg des Kreml gegen die demokratische Welt. Goldmann, München 2022, ISBN 978-3-442-31694-6 (finnisch: Putinin trollit. Tositarinoita Venäjän infosodan rintamilta. Helsinki 2019. Übersetzt von Katharina Diestelmeier, Enrico Heinemann und Bernhard Schmid).^[99]

Literarische Verarbeitung

• Michal Hvorecky: Troll. Klett-Cotta, 2018, ISBN 978-3-608-50411-8.

• Manfred Theisen: Uncover – Die Trollfabrik. Loewe Verlag, Bindlach 2020, ISBN 978-3-7432-0182-8.

Weblinks

• Offizielle Website der ФАН / FAN (Webarchiv 2021, russisch)
• Friedrich Schmidt: Russische Internetpropaganda: Die Trolle des Kremls. In Frankfurter Allgemeine Zeitung, 2015 (Webarchiv)
• Propaganda auf Bestellung: Das ist Putins Troll-Fabrik – und so funktioniert sie. In: Focus Online. 5. April 2015.
• Russische Propaganda: Insiderin berichtet aus der Trollfabrik des Kreml. In: Spiegel Online. 29. Mai 2015.

Einzelnachweise

1. Seva Gunitsky: Corrupting the Cyber-Commons: Social Media as a Tool of Autocratic Stability. In: Perspectives and Politics. 13, Nr. 1, März 2015, S. 42–54. doi:10.1017/S1537592714003120.
   Anna Polyanskaya, Andrey Krivov, Ivan Lomko: Виртуальное око старшего брата. (Memento vom 19. Dezember 2019 im Internet Archive) In: vestnik.com, 30. April 2003 (russisch, Titel übersetzt: Big Brothers virtuelles Auge).
2. Internet brigades in Russia – “Web Brigade’s”. CNN, 21. März 2009; Accusation of Russophobia against everyone who disagrees with them (Memento vom 13. März 2014 im Internet Archive).
3. Von Friedrich Schmidt: Der lange Schatten des Aufrührers Jewgenij Prigoschin, faz.net, 25. September 2024.
4. Adrian Chen: The Agency. In: The New York Times, 2. Juni 2015 (englisch).
5. Putins Propaganda. In: arte, 8. September 2015.
6. Alexandra Garmazhapova: Где живут тролли. И кто их кормит. In: Nowaja gaseta, 7. September 2013 (russisch).
7. Где живут тролли. Как работают интернет-провокаторы в Санкт-Петербурге и кто ими заправляет. Nowaja gaseta, 9. September 2013, abgerufen am 5. Dezember 2019 (russisch).
8. Jens Rosbach: Putins geheime Online-Armee. In: Deutschlandfunk, 22. Mai 2014.
9. Felix-Emeric Tota: Zwölf Stunden am Tag in Putins Sinn. In: Frankfurter Allgemeine Zeitung, 19. März 2015.
10. One Professional Russian Troll Tells All. Radio Liberty / Radio Free Europe, 25. März 2015.
11. Disinformation campaign removed by Facebook linked to Russia’s Internet Research Agency. In: medium.com. 24. September 2020, abgerufen am 14. Juni 2022. Die Autoren erwähnen auch die Rolle von Daria Platonova alias Darja Dugina und die Denkfabrik Katehon.
12. Übersetzungsschwierigkeiten. Kommersant, 27. April 2015.
13. Tom Parfitt: My life as a pro-Putin propagandist in Russia’s secret ‘troll factory’. In: The Telegraph, 24. Juni 2015 (englisch).
14. Shaun Walker: Salutin’ Putin: inside a Russian troll house. In: The Guardian, 2. April 2015 (englisch).
15. Elke Windisch: Putins Troll-Armee. In: Der Tagesspiegel, 11. Juni 2015.
16. The Russian troll factory at the heart of the meddling allegations. The Guardian, 2. April 2015: “… write ‘ordinary posts’, about making cakes or music tracks we liked, but then every now and then throw in a political post about how the Kiev government is fascist, … (…) Instructions for the political posts would come in “technical tasks” that the trolls received each morning, while the non-political posts had to be thought up personally.”
17. David Nauer: So funktioniert eine Troll-Fabrik. In: SRF, 20. Februar 2017.
18. Ben Popken, Kelly Cobiella: Russian troll describes work in the infamous misinformation factory. In: NBC, 16. November 2017 (englisch).
19. Lee Ferran, Ali Dukakis: Judges side with Mueller, nix Russian joint appeal bid. In: ABC News, 30. August 2018 (englisch).
20. Tim Lister, Jim Sciutto, Mary Ilyushina: Exclusive: Putin’s ‘chef,’ the man behind the troll factory. In: CNN, 18. Oktober 2017 (englisch).
21. "Wagner"-Chef Prigoschin räumt Gründung von russischer "Trollfabrik" ein. In: Der Standard. 14. Februar 2023, abgerufen am 14. Februar 2023.
22. Max Seddon: Documents Show How Russia’s Troll Army Hit America. In: BuzzFeed, 2. Juni 2014.
23. „Putin ist genial!“ In: Frankfurter Allgemeine Zeitung, 7. April 2015.
24. Golineh Atai: Die Putin-Trolle aus St. Petersburg. (Memento vom 15. April 2015 im Internet Archive) In: Tagesthemen, 14. April 2015.
25. West failing to tackle Russian hacking and fake news, says Latvia. The Guardian, 5. September 2017.
26. Adéla Klečková: Ich, der Robotroll – Wie Twitter-Bots russische Propaganda streuen. In: freiheit.org. Friedrich-Naumann-Stiftung für die Freiheit, 12. September 2017, abgerufen am 31. August 2024.
27. The surprising new strategy of pro-Russia bots. 12. September 2017.
28. Jewgeni Pregoschin: „Фабрика троллей“ перебирается из здания на улице Савушкина в бизнес-центр бывших жертвователей избирательной кампании Путина (dt. Die „Troll Fabrik“ zieht aus dem Gebäude in der Sawuschkinastraße in das Geschäftszentrum ehemaliger Putin-Aktivisten.) dp.ru, 29. Dezember 2017.
29. Jan-Henrik Wiebe: Russland baut seine „Trollfabrik“ aus. t-online.de, 11. Januar 2018.
30. Anna Dolgov: Soldier in Russia’s Troll Army Sues Her Ex-Employer. In: The Moscow Times, 29. Mai 2015 (russisch).
31. Признание „фабрики троллей“. In: fontanka.ru, 23. Juni 2015 (russisch, Titel übersetzt: Anerkennung der „Trollfabrik“).
32. Катерина Яковлева: Савчук отсудила у «фабрики троллей» один рубль. В ходе судебного процесса против так называемой «фабрики троллей» Людмила Савчук добилась не только выплаты зарплаты и подписания документов о приеме и увольнении на работу в ООО «Интернет-исследования», но и взыскания моральной компенсации, правда, в размере всего одного рубля. 17. August 2015, abgerufen am 18. August 2015 (russisch, Übersetzung des Titels: Sawtschuk verklagt „Trollfabrik“).
33. Benjamin Bidder: „Diese Scheusale an die Öffentlichkeit zerren“. In: Spiegel Online, 29. Mai 2015 (Interview mit Ludmilla Sawtschuk).
34. Vimeo Videos: Putins Propagandakrieg in Prag - HD arte Doku 2017 - Russland, Trolls, Fake News, hybride Bedrohung on Vimeo. In: vimeo.com. 14. November 2017, abgerufen am 16. März 2024 (Minute 35: „bei uns werden Menschen für weit weniger fest genommen“).
35. Putins Troll-Fabrik. In: Frankfurter Rundschau, 7. April 2015.
36. Grensland: Onder het oppervlak (4/8), vpro, 2015, ab Minute 16:20.
37. Propaganda auf Bestellung: Das ist Putins Troll-Fabrik – und so funktioniert sie. In: Focus, 5. April 2015.
38. „Wir hatten einen Zweck … Unruhe zu stiften“: ein Interview mit einem ehemaligen Angestellten der „Trollfabrik“ in St. Petersburg. slon.ru, 14. Oktober 2017.
39. Wiktor Resunkow: Побег с „фабрики троллей“ (dt. Flucht aus der „Trollfabrik“). In: Radio Free Europe, 6. September 2016.
40. Полиция посчитала побитых блогеров. In: Fontanka.ru, 9. September 2016.
41. Julian Staib: Prorussische Kommentare im Internet: Wo die Meinung gemacht wird (Memento vom 24. Oktober 2015 im Internet Archive). In: FAZ, 20. Juni 2014.
42. Mehrheit gibt Putin Schuld am Ukraine-Konflikt. In: Frankfurter Allgemeine Zeitung, 17. März 2015.
43. Propaganda aus Russland: Putins Trolle. In: Süddeutsche Zeitung, 13. Juni 2014.
44. Bezahlte prorussische Trolle versuchen soziale Netzwerke und Foren zu manipulieren. In: Der Standard, 14. Juni 214.
45. Julian Hans: Putins Trolle. In: Süddeutsche Zeitung, 13. Juni 2014.
46. Zwischenbilanz: Der Ukraine-Konflikt in der Tagesschau (Memento vom 30. September 2014 im Internet Archive). Tagesschau-Blog, 29. September 2014.
47. Bernhard Pörksen: Volle Ladung Hass. In: Die Zeit, 8. November 2014.
48. Stadtgattung: Blogger-Promoter. Sobaka.ru, 3. Februar 2015.
49. Wiktor Resunkow: Они любят Путина 12 часов подряд. In: Radio Free Europe, 14. März 2015.
50. Markus Wehner: Russische Trolle gegen Angela Merkel. In: Frankfurter Allgemeine Zeitung, 7. Juni 2015.
51. Andrew Griffin: Angela Merkel’s Instagram bombarded with abuse from Russian troll army. In: The Telegraph, 7. Juni 2015 (englisch).
52. Nick Craven: The toxic tweets of Putin’s pro-Brexit troll factory revealed: Deluge of messages that mocked Remainers came from secret cyber-army. Mail on Sunday, 11. November 2017.
53. Louise Boyle: Inside the Russian ‘troll factory’: How Putin’s unlikely cyber recruits deployed waves of fake news articles, memes and divisive social media posts in the Kremlin’s information war on the West. dailymail.com, 12. November 2017.
54. Robert Booth, Matthew Weaver, Alex Hern, Shaun Walker: Russia used hundreds of fake accounts to tweet about Brexit, data shows. guardian.co.uk, 14. November 2017.
55. Matthew Field, Mike Wright: Russian trolls sent thousands of pro-Leave messages on day of Brexit referendum, Twitter data reveals. The Telegraph, 17. Oktober 2018.
56. Gregg Re: Michael Moore participated in anti-Trump rally allegedly organized by Russians. In: foxnews.com. 20. Februar 2018, abgerufen am 26. August 2020 (englisch).
57. L. Gordon Grovitz: Putin Trolls the U.S. Internet. In: Wall Street Journal, 7. Juni 2015.
58. Columbia Chemical hoax tracked to “troll farm” dubbed the Internet Research Agency. In: News.com.au, 4. Juni 2015.
59. Russian Trolls Spread False Information On The Internet. In: NPR, 4. Juni 2015.
60. Inside the Russian troll factory where workers earn £980 a week to pump out Putin propaganda. The Sun, 16. April 2018.
61. Unter der Haube von Müller. Nowaja gaseta, 2. November 2017: „Auf der gefälschten Facebookseite ‚Heart of Texas‘ erscheinen Informationen über eine Kundgebungs gegen die ‚Islamisierung unseres Staates‘. Gleichzeitig wurde auf der ebenfalls falschen Seite ‚Vereinigte Muslime von Amerika‘ ein Appell für eine Kundgebung von Muslimen zur Unterstützung des Islamstudiums aufgeschaltet. Zeit und Ort der beiden Zusammenkünfte fallen zusammen.“
62. Andrej Soschnikow: Фейковый расстрел: кто стоит за роликом об уничтожении Корана. In: BBC, 23. März 2016.
63. Julia Smirnova: Hip, jung und gewissenlos – das sind Putins Trolle. In: Welt Online, 30. Mai 2016.
64. Explosionen, Ebola: Russische Trolle wollen Panik in USA auslösen. In: Der Standard, 7. Juni 2015.
65. Geir Hågen Karlsen: Tools of Russian Influence. Information and Propaganda. In: Janne Haaland Matlary, Tormod Heier (Hrsg.): Ukraine and Beyond. Russia's Strategic Security Challenge to Europe. Palgrave Macmillan, Cham 2016, ISBN 978-3-319-32530-9, S. 189 f., doi:10.1007/978-3-319-32530-9_9 (englisch).
66. Russian firm tied to pro-Kremlin propaganda advertised on Facebook during election. Washington Post, 6. September 2017.
67. Facebook deckt erneut gefälschte Konten auf. NZZ, 31. Juli 2018.
68. Russia’s Facebook Fake News Could Have Reached 70 Million Americans. thedailybeast.com, 8. September 2017.
69. Michael Flynn Followed Russian Troll Accounts, Pushed Their Messages in Days Before Election. Daily Beast, 1. November 2017.
70. Natasha Bertrand: Russia organized 2 sides of a Texas protest and encouraged ‘both sides to battle in the streets’. In: Business Insider. 1. November 2017, archiviert vom Original; abgerufen am 31. August 2024 (englisch).
71. Micah White: I started Occupy Wall Street. Russia tried to co-opt me. In: The Guardian. 2. November 2017, abgerufen am 31. August 2024.
72. Donie O'Sullivan, Dylan Byers: Exclusive: Fake black activist accounts linked to Russian government. In: CNN. 28. September 2017, abgerufen am 31. August 2024 (englisch).
73. Adam Entous, Ellen Nakashima, Greg Jaffe: Kremlin trolls burned across the Internet as Washington debated options. In: Washington Post. 25. Dezember 2017, abgerufen am 25. Dezember 2017 (englisch).
74. Read the Special Counsel’s Indictment Against the Internet Research Agency and Others. In: New York Times. 16. Februar 2018, abgerufen am 31. August 2024 (englisch).
75. Anton Troianovski, Rosalind S. Helderman, Ellen Nakashima, Craig Timberg: The 21st-century Russian sleeper agent is a troll with an American accent. In: Washington Post. 17. Februar 2018, abgerufen am 17. Februar 2017 (englisch).
76. Sheera Frenkel, Daisuke Wakabayashi: After Florida School Shooting, Russian ‘Bot’ Army Pounced. In: NYT. 19. Februar 2018, abgerufen am 31. August 2024 (englisch).
77. Markus Böhm: Das verraten zwei neue Studien über Russlands Propaganda. In: Spiegel Online, 18. Dezember 2018.
78. Scott Shane: Five Takeaways From New Reports on Russia’s Social Media Operations. In: The New York Times, 17. Dezember 2018 (englisch).
79. Offizielle Vorwürfe aus Washington: Hackt Russland die US-Wahl? tagesschau.de, 8. Oktober 2016, abgerufen am 10. Mai 2017.
80. Macron Ziel einer „massiven und koordinierten“ Hacker-Attacke. Die Welt, 6. Mai 2017, abgerufen am 9. Mai 2017.
81. On a examiné les «Macron Leaks» pour vous, voilà ce qu’on y a trouvé. Slate, 9. Mai 2017, abgerufen am 9. Mai 2017 (französisch).
82. Sean Gallagher: Evidence suggests Russia behind hack of French president-elect. Ars Technica, 8. Mai 2017, abgerufen am 11. Mai 2017 (englisch).
83. Infokrieg – Wie Putin-Trolle die deutsche Öffentlichkeit manipulieren. 29. August 2022, abgerufen am 4. September 2022.Gefälschte deutsche Nachrichtenseiten verbreiten prorussische Propaganda. In: Der Spiegel. 30. August 2022, ISSN 2195-1349 (spiegel.de [abgerufen am 4. September 2022]).
84. Inga Pylypchuk: Hier werden Putins Propagandalügen entlarvt. In: Die Welt. Abgerufen am 20. Dezember 2015.
85. Stopfake.org. Struggle against fake information about events in Ukraine (englisch), abgerufen am 1. März 2016.
86. Teresa Eder: Stopfake.org: „Russische Propaganda setzt auf emotionale Storys“. In: Der Standard. 16. Juni 2015, abgerufen am 16. Juli 2015.
87. Noodleremover.news (russisch), abgerufen am 1. März 2016.
88. Questions and Answers about the East StratCom Task Force. Europäischer Auswärtiger Dienst, abgerufen am 4. März 2016.
89. Claudia von Salzen: Eine Task Force gegen Propaganda. In: Der Tagesspiegel, 21. Dezember 2015.
90. “Disinformation Review” – new EU information product. In: stopfake.org, 5. November 2015 (englisch).
91. EU vs Disinformation. Europäischer Auswärtiger Dienst, abgerufen am 4. März 2016.
92. Michael Weiss: The Baltic Elves Taking on Pro-Russian Trolls. In: The Daily Beast, 21. März 2016 (englisch).
93. Google News schließt auf ihren Suchmaschinen die Nachrichtenportale aus, die mit dem „Kreml-Koch“ Prigoschin verbunden sind. Nowaja gaseta, 2. November 2017.
94. Putin räumt Möglichkeit „privater“ Cyberangriffe ein. NZZ, 2. Juni 2017, S. 2.
95. Der russische Staat hackt nicht, aber … In: Frankfurter Allgemeine Zeitung, 1. Juni 2017.
96. Vor Midterms: »Putins Koch« gibt Einmischung in US-Wahlen zu. In: Der Spiegel. 7. November 2022, ISSN 2195-1349 (spiegel.de [abgerufen am 7. November 2022]).
97. Rechte Trollfabrik: Infokrieg mit allen Mitteln. faktenfinder.tagesschau.de, 13. Februar 2018.
98. Polen: Rechten Trollen auf der Spur. NDR, abgerufen am 31. Juli 2019.
99. Rezension von Florian Keisinger: Operation „fauler Hering“: Putin führt einen Informationskrieg gegen den Westen. Die Journalistin Jessikka Aro zeigt, wie Russlands „Armee der Trolle“ funktioniert. In: Neue Zürcher Zeitung. 21. November 2022, abgerufen am 11. Dezember 2022.