Din chatbot groomes med skummel propaganda

Illustration skabt sammen med ChatGPT

Godmorgen,

Propaganda, løgne og misinformationer er ikke ligefrem en ny opfindelse, men i takt med at flere og flere mennesker bruger AI-chatbots til at finde viden, har både skumle og mindre skumle aktører fået en helt ny bane at spille på.

I stedet for at skulle manipulere en masse mennesker en for en kan lobbyister nu nøjes med at påvirke AI-tjenesterne. Og med lidt held og snilde bringer de det ønskede narrativ videre. 

Fænomenet har fået den techlumre betegnelse LLM Grooming. 

Kort fortalt er der tale om hjernevask af sprogmodeller.

Et af de mest illustrative eksempler er den falske tænketank Hanover Institute, som blev skabt af et amerikansk bureau med den israelske stat som kunde. Målet var at udbrede det israelske perspektiv på krigen i Gaza.

For at få ChatGPT, Claude og andre chatbots til at spille den israelske melodi i deres svar til brugerne blev Hanover Institute skabt som en pseudoseriøs tænketank, der først skulle overbevise sprogmodellerne om sin akademiske troværdighed og derefter ukritisk videregive propagandaen.

For at fremstå seriøs fremstillede det såkaldte Hanover Institut, der hverken havde medarbejdere eller fysisk adresse, 124 akademiske rapporter med sammenlagt flere end en halv million ord. 

Rapporterne lignede akademisk arbejde med referencer, kilder og kedelige passager. Men de var produceret af AI og udelukkende for at påvirke sprogmodellerne med det israelske narrativ.

Blandt andet anvendte rapporterne afsnit med spørgsmål/svar, som er et format, der er en lækkerbisken for AI-modeller at crawle.

At vi i dag kender historien, skyldes udelukkende, at amerikansk lov tvinger amerikanske virksomheder til at indberette, når de arbejder for fremmede magter, hvilket Israel jo er. Den indberetning blev lækket til medier, og så var historien ude. 

Andre indberetninger til de amerikanske myndigheder viser i øvrigt, at Israel er flittig med at groome sprogmodellerne.

Blandt andet har landet haft flere kontrakter med Trumps tidligere kampagnechef Brad Parscale om at påvirke chatbots til at have et positivt billede af Israel. 

Ikke overraskende er Rusland også kendt for at groome chatbots, og i mere kommerciel kontekst er der naturligvis også masser af virksomheder, der også lægger deres æg i den kurv.

Pointen er, at vi ikke længere møder propagandaen i dens beskidte og genkendelige form, men nu skjult i en ny renskuret version fra en tilsyneladende neutral og nøgtern chatbot, som vi i større og større grad deponerer vores tillid til viden og oplysning hos.

❓

Spørgsmålet er: Mon der allerede foregår LLM grooming i dansk debat?

God læselyst med resten af nyhedsbrevet, og snyd ikke dig selv for Fire minutter med Lasse Winther. Han har kloge betragtninger om indhold og små og store skuder.

Jan

Anmeldelse af Y

Verden over pibler det i disse måneder frem med nye AI-drevne medier.

Alene i de seneste uger er jeg blevet opmærksom på italienske, kroatiske, britiske medier og i al diskretion et lille dansk nichemedie om AI.

Alt sammen skabt med AI og tilsyneladende uden større anstrengelser eller investeringer.

Derfor var mine forventninger til Y, som nu har været mere end et år undervejs og har solid millionstøtte i ryggen fra både den danske stat og rigmanden Lars Seier Christensen, store.

Men ligesom de fleste andre, der har kommenteret på Y, der blev lanceret tirsdag, er jeg ikke imponeret.

I skrivende stund har Y dog kun eksisteret i to døgn, og jeg er sikker på, at der er børnesygdomme, som nok skal blive fikset. Derfor ingen ord her om skønhedsfejl eller detaljer.

Men på et mere fundamentalt niveau virker det, som om Y har nogle udfordringer.

Læs hele min anmeldelse på Medietrends

Fire minutter med Lasse Winther

Steven Feraru sendte i sidste uge stafetten videre til Lasse Winther.

Lasse Winther er selvstændig videnskabsformidler på YouTube og sociale medier.

Hvad fylder mest i dit arbejde for tiden?
At leve op til de forventninger, jeg stiller til mig selv. Efter mange år i DR med et hold i ryggen mærker jeg nu et ekstra pres som selvstændig. Mine ambitioner for videnskabsformidling er bestemt ikke blevet mindre – tværtimod – men jeg står mere alene med opgaven med at gøre danske unge lidt klogere.
Så lige nu fylder partnerskaber og samarbejder rigtig meget. Både i praksis, når de rette folk skal findes, men især mentalt, hvor jeg øver mig i at slippe kontrollen. Det er til gengæld en fornøjelse, når nye samarbejdspartnere overrasker positivt, og jeg opdager, at det faktisk ikke er farligt at lade andre hjælpe til.

Det frigiver mental plads til det, jeg brænder for: At finde de videnskabelige historier, forskere, virksomheder og initiativer, som giver mine følgere en dybere forståelse for naturen, teknologien, rummet og kloden – og indsigt i, hvordan viden er med til at forme vores verden.

Hvad eller hvem i mediebranchen giver dig mest håb?
Når medier tør satse på kvalitet frem for kvantitet, bliver jeg glad helt oppe i hjernen. Det giver mig håb at se nye, uafhængige medier vokse frem. Medier som Zetland og Frihedsbrevet er lykkedes med noget, de traditionelle huse har været for sløve til, og har givet branchen et tiltrængt spark bagi.

På børnefronten er Flimmer et fremragende eksempel. Båret af stærke visioner, masser af gåpåmod og opbakning fra TV 2 forsøger de aktivt at ændre børns og forældres vaner. At de har sat sig et erklæret mål om at modvirke bingewatching og skabe indhold, der ligefrem motiverer børnene til at lægge skærmen væk, er et modigt træk.

Hvad bør mediebranchen gøre anderledes?
Vi skal stoppe med at lave indhold.
Jeg er ved at få knopper over begrebet »indholdsskabere«. Det lyder, som om indholdet udelukkende eksisterer, for at beholderen ikke skal stå tom – som om arbejdet ikke har værdi i sig selv, men blot er fyld.

Her sidder mediebranchen som en lus mellem to negle. Techgiganterne belønner dem, der hælder nyt brændstof på platformene, mens brugerne i stigende grad efterspørger mindre skærmtid.

Branchen skal turde tage stilling: Laver vi indhold til en beholder for platformens skyld? Eller skaber vi journalistik, formidling og fællesskab til gavn for rigtige mennesker? Vi skal turde fravælge historier, hæve barren for det enkelte projekt og turde producere mindre, men markant bedre.

Hvad kan mediebranchen lære fra andre brancher?
Mediebranchens supertankere skal lære af de små joller og speedbåde. Det er besætningen i de små fartøjer, der mærker bølgerne og vindens retning først. Det er de små miljøer, uafhængige aktører og selvstændige skabere, der rent faktisk opbygger ægte relationer til brugerne, fornemmer de nye strømninger og kan tilpasse sig i tide. Står man højt oppe på broen af et gigantisk skib, er det svært at navigere i de evigt skiftende strømme.

I sidste ende handler det om ejerskab. De små aktører og iværksættere har hånden på kogepladen og tager ansvar for hver en detalje. I de store mediehuse er det blevet uhyre svært at opbygge reelt ejerskab til det, man skaber (man kan jo dårligt nok få en fastansættelse, så hvorfor skulle man tage medejerskab over en arbejdsplads, der ikke vil committe sig?).

Der skal vi lære af startup-miljøet.

Hvem bør svare på disse spørgsmål i næste uge?
Jeg sender stafetten videre til Rasmus Kolbe. Mange kender ham bedst som »Lakserytteren« – eller rettere, det gør deres børn. I dag forsøger han at lave et formålsdrevet nyt medie til børn, Flimmer.
Jeg tror, branchen kan lære utrolig meget af deres ambitioner og klare formål – og indsats for at forfølge det benhårdt. Ikke fordi det er den nemme vej, men fordi det er den rigtige.