Rysslands skymningsnätverk: AI-driven bedrägeri genom förfalskade experter

Jag måste erkänna att jag stannade upp när jag hörde talas om detta för första gången. Det är inte bara det kusliga i tanken att AI skapar falska akademiker – det visar också hur djupt digital krigföring har gått. Och som om det inte vore oroande nog visar det sig: Den här metoden är bara toppen på isberget.
En internationell granskargrupp, med bland andra Financial Times, har avslöjat hur ett ryskt desinformationsnätverk använde ChatGPT för att bygga upp ett helt nätverk av påhittade experter. Idén bakom? Att skapa en skenbart seriös tankesmedja vid namn D.C. Weekly, som spred pro-rysk propaganda genom "vetenskapliga" artiklar. Det värsta? Texterna lät trovärdiga vid första anblicken – tack vare AI som klädda dem i akademisk glans.
Hur falska experter blev riktiga panelgäster
Tänk er att sitta i en panelsamtal och lyssna på en "Harvard-professor" som förklarar varför Ukraina egentligen är angriparen. Fast bakom den professorn stod inget annat än en fejkprofil skapad med hjälp av ChatGPT. Exakt så här gick det till. Nätverkets operatörer skapade inte bara falska LinkedIn- och Twitter-profiler – de till och med bjöd in de uppdiktade akademikerna till föredrag eller intervjuer, med ett enda mål: att sprida sin berättelse.
Metoden var särskilt förrädisk: texterna var ofta en blandning av plagierade verk och AI-genererade tillägg. AI:n hjälpte till att hitta vetenskapligt klingande formuleringar, medan bedragarna själva styrde innehållets riktning. En lätt byte för alla som utan granskning är villiga att sprida sådana falska "expertutlåtanden".
ChatGPT som verktyg för propaganda
Utredarna fann e



n ChatGPT-konversation som visar hur AI:n missbrukades. Instruktionen löd: "Skriv en artikel om västlig krigshets – men som om den kom från en Harvard-professor." Resultatet? En text som vid första anblicken verkade vetenskaplig och seriös, men i själva verket bara var en propagandistisk övning. ChatGPT bidrog inte med egna åsikter, utan formade den önskade berättelsen – perfekt nog för att lura även den oinvigde.
Vem ligger bakom – och varför?
Rysslands kopplingar till staten är ännu inte helt klarlagda, men det finns starka indikationer. Experter från Atlantic Council och EU:s Digital Services Act Taskforce pekar på att liknande taktiker har använts tidigare – till exempel för att påverka val eller sprida felaktig information under kriget i Ukraina. Metoden är enkel men effektiv: om ens "seriösa" källor inte längre går att lita på, urholkas hela den offentliga debatten.
Vad kan vi göra?
Sociala medier försöker blockera sådana nätverk, och EU planerar striktare regler för AI-genererat innehåll. Men som alltid räcker inte teknik ensam. Mediekunskap blir en fråga om överlevnad. Vi måste lära oss att kritiskt granska källor – inte bara för att det dyker upp fler falska experter, utan för att nästa förfalskning kanske är ännu svårare att avslöja.
Det här fallet är en väckarklocka. Inte bara för regeringar eller teknikjättar, utan för var och en av oss. För om till och med grunden för den offentliga opinionen kan undermineras genom AI och avsiktlig bedrägeri, står det till sist inte mindre på spel än vår demokrati. Och den att försvara är ingen uppgift för maskiner – det kan bara vi själva göra.