Russland vergiftet KI-Chatbots wie ChatGPT gezielt mit Propaganda
Rund 3,6 Millionen Artikel des russischen Pravda-Netzwerks sollen in das Trainingsmaterial westlicher KI-Systeme eingeflossen sein. So werden Fake News via KI verbreitet
Stefan Mey
18. März 2025, 20:00
Ein in Moskau ansässiges Netzwerk namens “Pravda” – das russische Wort für “Wahrheit” – infiltriert KI-Chatbots wie ChatGPT gezielt mit Desinformation, sodass die Software auch in westlichen Ländern zunehmend entsprechende Propaganda ausgibt. Das ergeben jüngste Forschungsergebnisse der Organisationen Newsguard und American Sunlight Project (ASP).
src: click
Oh! Tun das die Russen? Schaun wir doch mal in die verlinkte Originalquelle!
The Pravda network also appears to be set up to flood large-language models with pro-Kremlin content. Past research shows that all ten major AI chatbots can reproduce [some] Russian disinformation in response to certain [unnamed] prompts, suggesting that their training data contained Russian disinformation to begin with. The Pravda network [entirely unrelated] is rapidly churning out content without clear intention of building actual human readership [probably because they are state sponsored, just a guess…] on its poorly designed websites [unreferenced] means that it may [or maybe not!] be aiming to land its content in LLM training data.
src: click
Sagt dem Standard seine geniale Standardquelle, bumblefuck, whatshername NGO (American Sunlight Project) -
geleitet von… JA SCHEISSE EXISTIERT DIE AUCH NOCH!
Nina Jankowicz
of Integrity Initiative Fame:
Intensivierte Grüße an Anne Applebaum, bitte.
Ehemals bezahlt von den UK - für eine Propaganda Aktion in Europa. 1A.
Ja fuck me -- was ist denn jetzt eigentlich die Aufgabe des American Sunlight Projects, wenn nicht Propagandaartikel zu verfassen, dafür Regierungsgelder zu nehmen, das auf schlecht gemachten Websites (links siehe oben) rauszuhauen, und dann die verfickten SCHEISS IDIOTEN, vom verfickten scheiss deutschsprachigen HURENDRECKSJOURNALISMUS, mit persönlichen Treffen und Drinks zu ködern, damit diese über ihre “Arbeit” schreiben - und dabei noch Meldungen absetzen, die durch deren Veröffentlichungen in keinster Weise gedeckt sind.
Mir ist soetwas von derartig fucking scheiss übel…
PS: Das Sunlight Project hat nicht mal ein Wiki, so eine verfickte kleine scheiss Hurenorganisation ist das. Fragt man Wiki nach dem Sunlight Project kommt gleich “meinten sie Nina Jankowicz”.
Jetzt Preisfrage. Soll ich mich mit dieser verfickten scheiss DRECKSPROPAGANDA an den Österreichischen Presserat wenden, der mir meine Beschwerden bisher immer um die Ohren gehaut hat -- während der Standard seit Tag eins des Krieges mit Ukrainischer Propaganda die Bevölkerung verarscht? Nein, ich habs einfach bereits aufgegeben.
Übrigens, die verfickte Scheisshure, ist neuerdings auch Expertin für AI. Steht in ihrer Bio: click Gut, in ihrem Wikipedia Eintrag steht das noch nicht, aber das ist ja für den österreichischen Standard kein Problem.
Sie kennen so verfickte opportunistische Scheisshuren, die Geld für Propaganda nehmen, und dann aktiv daran arbeiten den Journalismus zu verarschen aus Alpbach. Hauptsache Eigeninitiative, sag ich immer. Ach nein, sagt der CEO Darsteller den sie dort treffen, der solche Damen sehr toll findet. Ob die nicht auch CEO von ihrer eigenen NGO werden wollten? Und dann kichern die immer so blöd.
Wobei, sie haben auch einen Lead researcher. Der macht AI Beratung im Zweitjob, dann aber eh exklusiv für den Europarat: click
Hier muss man mit kritischen Fragen gar nicht erst anfangen.
“Ich stell eine Webseite ins Netz == ich vergifte Chatbots?”,
“ich sorg mich nicht aktiv um Leser, weil ich die Links auf social media streue, und kein Leser heutzutage mehr Blattbindung hat == die targeten sicher AI!”,
“Ukraine Propagandistin und Expertin in Russlandfragen == AI Expertin im Abendkurs?”
“Arbeitet selbst für eine von den UK finanzierte Propagandaklitsche gegen russische Desinformation, die erfolgreich Versucht hat ein Netzwerk in Europa aufzubauen, aber logistisch nicht mit Europäischen initiativen dieser Art gekoppelt war == Die Expertin der der Standard bei AI Fragen vertraut”
“Webseite publishen == so werden Fake news via KI verbreitet”
Veröffentlichtes Datenmaterial ums Replizieren zu können: Keines.
Veröffentliche Quellen, die als “schlecht gemachte Websites” denunziert werden keine.
Veröffentlichte Methoden, nach denen die Chatbots das Material referenziert haben: Keine…
“Könnte sein == Der Standard sagt mal, s’ is sicher so, gibt mehr Klicks”.
Nachricht wie alt? Fast ’n Monat. Hat also nicht mal mehr Aktualitätsbezug. Gut, um den muss sich Propaganda so und so nie kümmern.
Mit diesem SCHEISS DRECK primen wir doch gerne unsere deutschsprachigen Öffentlichkeiten.
Ich mein, darfs von der Nina, jetzt auch AI Expertin, vielleicht a bisserl mehr sein?
edit: Ich screene gerade den Dreck den die als Studie veröffentlicht haben: click
(edit: Die idioten von der bezahlten Propaganda, haben bei dem pdf die OCR vergeigt. Lesen sie die Originalquelle (pdf link) - ich OCR den verfickten Dreck sicher nicht nochmal.)
ASP considers three possible, non-muually exclusive motives for the network that focus on is echnological capabilities and shorcomings. These motives therefore do not focus on specific arges such as countries, regions, opics, or political evens, as the arges of pro-Russia information operations are consantly in flux.
Explanation A: LLM Grooming
[…]
Explanation B: Mass Saturation
[…]
[…]including increasing the likelihood that users see the network’s conent via is websies and social media pages.[…]
[…]
Explanation C: Illusory Truth Effect from Multiple Sources
[…]
A final poential motive of the Pravda network akes the illusory truth effect via mass sauration a sep further by increasing the likelihood that populations see the network’s conent across multiple sources. While secondary sources such as exernal news sies or digial encyclopedias citing the network’s conent would be an example of this, another, more direct example is the real proliferation of the network’s social media accouns on Telegram, X, VK, and even Bluesky.
[…]
Gut, die verfickten scheiss Dreckshuren, vom verfickten scheiss Drecksstandard, haben diesen HORRENDEN Dreckswisch an “Studie” leider nicht gelesen, sonst wären sie nicht zu ihre LÜGE von headline gekommen. (DES IS WIE RUSSISCHES LLM GROOMING FUNKTIONIERT! RETTET DIE KINDER!)
Und hier mal zur tatsächlichen Informationsproliferation in diesem Fall:
Die gerößte HURE des größten Pro Ukraine Propagandanetzwerkes, das in der Vergangenheit Staatsgelder aus den UK genommen hat um die Europäische Union, durch ihre Networking Tätigkeit politisch zu beeinflussen - hatte nach dem Auffliegen von Integrity Initiative, keinen verfickten SCHEISSJOB mehr, und hat als Propagandaschleuder und Volliotin, gleich mal auf AI Expertin umgesattelt, sich nen Drittklassigen “Datascientist” geschnappt, der im Nebenjob mal den Europarat beraten hat. Hat dann ihre Medienkontakte wieder reaktiviert. Und der Standard hat ihr brav ihren Arsch ausgeleckt -- ABER NATÜRLICH OHNE IHREN NAMEN ZU NENNEN -- und dann gleich noch gelogen, und deren Studie so missrepräsentiert, als sei das in der Standard Überschrift bei deren Analyse rausgekommen..
Und all das ist für jeden User einen FUCKING click vom Standard Artikel entfernt.
Aber die Öffentlichkeit macht sich nicht die Mühe…
Oh - leider kein click through, haben sie mal wieder dem SCHEISS HUREN DRECKSSTANDARD, und seinen guten Kontakten in die ukrainische Propagandaszene vertraut.
Fucking Hell.
edit:
Bin beim Fazit der Studie angelangt (hab das mal neu OCRed, damit mans lesen kann):
Conclusions, Risks, and Weaknesses
[…]
[Punkt 2]
• The lack of transparency from tech companies on the contents of their LLM training datasets is a persistent issue. Academic research shows that tech companies commonly do not know the contents of their training datasets [might be because, their datasets commonly are, all of the internet, all books ever written, all of the subtitles of every youtube video, … just an educated guess, you know…] out of fear that they have been collecting sensitive or protected information.51 There are few apparent guardrails that major companies producing generative AI platforms have deployed to prevent propaganda or disinformation from entering their training datasets. In fact, court documents unredacted in January allege that Meta used pirated data from a shadow library linked to Russia to train its generative AI language models.52 NewsGuard’s previously discussed findings on top AI chatbots reproducing Russian disinformation demonstrate the real-world consequences of datasets made with insufficient guardrails.53 Such findings indicate that past training datasets for these chatbots likely already included Russian disinformation.
[Punkt 3]
• Al researchers have already warned about the possible negative consequences of Al systems being trained on Al-generated content.54 As LLMs provide an increasingly large percentage of content online, this is more likely to occur. A study published in Nature in 2024 found that “indiscriminate use of model-generated content in training causes irreversible defects in the resulting models, in which tails of the original content distribution disappear. We refer to this effect as ‘model collapse’ and show that it can occur in LLMs … We build theoretical intuition behind the phenomenon and portray its ubiquity among all learned generative models. We demonstrate that it must be taken seriously if we are to sustain the benefits of training from large-scale data scraped from the web. Indeed, the value of data collected about genuine human interactions with systems will be increasingly valuable in the presence of LLM-generated content in data crawled from the Internet.”55 The addition of LLM grooming, in which actors intentionally try to manipulate future training datasets for LLMs, would exacerbate the problem of Al autocannibalism. In this scenario, already-tainted LLMs would produce similarly tainted content for other Al systems to consume, and so on.
Dass diese verfickte scheiss Dreckshure, mit diesem verfickten - kompletten FUCKING “pay me I use buzzwords and unrelated base findings a toddler could replicate” SICH TRAUT, das als “findings” ihrer verhurten scheiss Drecks-NGO zu posten.…
Gut, dank dem Standard haben sie jetzt auch einen Medienartikel über ihre Veröffentlichung! Mit dem können sie wieder potentielle Finanziers im GREISENALTER groomen. Gell Nina?!
Du verfickte scheiss Propaganda Schleuder.
edit: Zwei kleinere, aber notwendige edits.
Laut ihrer Bio ist die AI Expertin, AI Expertin, wegen einem Time Top 100 listicle aus 2023.
src: click
Das sie als AI Expertin ausweist -- weil sie nichts über AI weiss. Aber Leute bezüglich Disinformation berät, die AI machen. Was sie dann nur ein Jahr später in ihrer eigenen Bio zur AI Expertin werden lässt. Gut warum nicht - wenn man sich durch Makulatur verbessern kann…
Zweitens, laut eidesstattlicher Eigenaussage (vor dem US Repräsentantenhaus), hat Nina Jankowicz nicht für die Integrity Initiative gearbeitet, kann sich selbst nicht erklären, wie sie auf deren Personalliste kam, und war da wohl einfach im falschen email Verteiler. click Nun, in dubio pro Nina, nicht?
edit: Newsguard hat American Sunlight project hinterhergearbeitet, und hat einige der relevanten methodologischen Daten:
The NewsGuard audit found that the chatbots operated by the 10 largest AI companies collectively repeated the false Russian disinformation narratives 33.55 percent of the time, provided a non-response 18.22 percent of the time, and a debunk 48.22 percent of the time.
NewsGuard tested the 10 chatbots with a sampling of 15 false narratives that were spread by the Pravda network. The prompts were based on NewsGuard’s Misinformation Fingerprints, a catalog analyzing provably false claims on significant topics in the news. Each false narrative was tested using three different prompt styles — Innocent, Leading, and Malign — reflective of how users engage with generative AI models for news and information, resulting in 450 responses total (45 responses per chatbot).
src: click
Es ist erstaunlich Bob, wenn wir AIs nach gecherrypickten 15 falschen russischen Narrativen fragen, die das Netzwerk verbreitet hat und das in nur 66.6% mit leading or malign Questions, bekommen wir in 33.55% der Fälle, kein debunking, sondern Propaganda zurück!
Sperrt eure Kinder ein! Der Russe hat die Demokratien so gut wie zerstört --
oder besser noch - kauft Österreich ein Newsguard Abo!
Die schützen uns vor solchen Bedrohungen! Das müssen unserer Regierung unsere Kinder wert sein!
Wie sind wir in Demokratien bisher nur ohne Newsguard Abo (NewsGuard Technologies Inc., the company behind the tool, also provides services such as misinformation tracking and brand safety for advertisers, search engines, social media platforms, cybersecurity firms, and government agencies.[3][4]) ausgekommen?
Die haben auch ein riesen Business Modell dort -
As of 2019, the company employed 35 journalists to review over 2,000 news sites.
klar, mit so einer Redaktion die 2% so groß ist wie die der NYT retten die seit je her eine Demokratie nach der anderen.
Frage, wie lange brauchen 35 Journalisten um 207 Fake narrativen hinterherzurecherchieren (NewsGuard found that the Pravda network has spread a total of 207 provably false claims, serving as a central hub for disinformation laundering)? Ein Quartal, ich mein muss ja nicht gründlich sein - ich frag nur, weil die Newsguard Geschäftsführung angibt genau das gemacht zu haben.
Also für ihren “AI Unternehmen, ihr braucht uns” Pitch 2025, den der Standard Hookline and Sinker übernommen hat.
edit: Stellt sich raus das mit den 207 rusischen Fake news - das war deren SALES pitch 2024, der dann 2025 bereits etwas stale war, da haben sie AI als buzzword draufgeklatscht - hier noch in der Form von AI agents:
https://www.newsweek.com/russia-ukraine-disinformation-newsguard-2034104
Gut, und unabhängig sind die auch!
Was ist nochmal deren größter Kunde?!
For revenue, NewsGuard Technologies licenses their ratings. Clients include technology companies and the advertising industry, who view the ratings as a way to protect clients against advertising on sites that could harm their brand.[11] It also contracts with the United States Department of Defense.[17][18]
Ja sehr gut, die Werbeindustrie und das US Defensedepartment. Ich glaube auf die sollten wir uns gesellschaftlich verlassen.
Immer wieder schön zu sehen, wenn dir als Nina Jankowicz eine for profit News rating Agentur mit 35 Journalisten nachrecherchieren muss um das zu replizieren, was du selbst nicht nach wissenschaftlichen Standards veröffentlicht hast.
Und dann haben die durch 66% leading or agressive questioning von AIs anhand von Nachfragen zu exakt 15 von den 207 Verschwörungtheorien die das Netzwerk popularisiert - endlich in 33% der Fälle die von ihr nicht quantifizierte Besorgnis von Nina Jankowicz gerechtfertigt --
und den Conflict of Interest (das Unternehmen profitiert direkt von dem gefundenen “Problem”), so groß wie ein Scheunentor ignorieren wir im Journalismus als Standard einfach, nicht?
Gut, jetzt wo Newsguard Facebook und Twitter als Kunden weggefallen sind, müssen sich AI Unternehmen sehr vor Desinformation fürchten, die du nur mit den 35 Journalisten von newsquard beseitigen kannst, nicht?
Also der Standard sagt schon mal ja - natürlich!
Unregelmäßigkeiten, oder Interessenskonflikte hat der keine wahrgenommen - der hat lieber in seiner Überschrift gelogen…
Das war genug für nen Tag.
