“Vi har rigeligt med viden om AI til at begynde at handle.”
- Eksperter peger på løsninger

Forestil dig, at du er trist, ængstelig eller har udfordringer i familien. Du åbner en AI-app som ChatGPT eller Claude for at søge hjælp til at håndtere situationen.

Kender du det, er du ikke alene.

Ifølge Tor Juul Groth har AI markant ændret danskernes søgevaner de seneste par år. Tal fra Dansk Erhverv (2025) viser, at 55 % af danskere over 18 har brugt ChatGPT eller lignende AI. Samtidig viser tal fra OpenAI, at over 5 % af alle ChatGPT-svar globalt handler om sundhed.

"Jeg er bange for, at vi vil se tilbage på indførslen af denne teknologi på samme måde som vi nu ser på de sidste tyve år med sociale medier: Et ureguleret globalt eksperiment med betragtelige psykologiske skadevirkninger." Sådan har forsker Søren Dinesen Østergård udtalt sig til Psykiatrifonden om risikoen ved chatbots hastige indtog uden regulering.

Ifølge AI-eksperter er det tid til at handle på de løsningsforslag, der allerede findes på dansk jord.

Risikoen ved AI

WHO udgav i 2024 en rapport om AI i sundhedsspørgsmål. Rapporten fremhævede, at AI ofte giver sundhedsfaglige svar, der er upræcise, forkerte, kontekstløse eller farvede af kulturel forforståelse. WHO advarede derfor direkte mod ukritisk brug af AI uden offentlig regulering.

Tor Juul Groth forklarer, hvordan fejlene opstår: "De her generelle chatbots er bygget til at svare på det meste og til ikke at være afvisende. Men det har den ulempe, at AI finder på fakta."

I yderste konsekvens kan AI forstærke vrangforestillinger og øge selvmordstanker hos psykiatriske patienter, viser et nyligt studie fra Region Midtjylland. Professor Søren Dinesen Østergaards forskerteam har fundet en mulig sammenhæng mellem forværring af vrangforestillinger og øgede selvmordstanker, når patienter bruger ChatGPT som sparringspartner om deres psykiske tilstand.

Vi skal interessere os mere for, hvordan AI-chatbots bliver anvendt til social og følelsesmæssig støtte, mener Malene Lue Kessing. Hun er seniorforsker hos VIVE og står bag en ny kvalitativ undersøgelse af unges brug af chatbots. Den viser at de 23 interviewpersoner generelt oplever at finde ro og hjælp via ChatGPT, men den fremhæver samtidig en række risici ved brugen:

"Chatbotten bekræfter i høj grad det perspektiv, man spørger den om. Risikoen er, at man ikke bliver udfordret på ens forståelser af sig selv og omverden. Og det er jo noget af det, som er helt centralt i forhold til, at vi udvikler vores sociale relationer og kompetencer."

Hun fortsætter:

"Og så er chatbotten jo udviklet til at stille opfølgende spørgsmål og være sød og anerkendende på en måde, der kan fastholde brugeren. Den store bekymring er, at ChatGPT går hen og bliver en erstatning for sociale relationer eller for behandlings- og rådgivningstilbud."

Selvom der endnu ikke findes tal for, hvor mange der føler sig godt hjulpet af chatbots, peger eksperterne stadig på, at der bør ske flere ting samtidig i forskellige dele af det danske samfund for at sikre, at de eksisterende problemer ikke vokser sig større i fremtiden.

Eksperter peger på løsninger

WHO anbefaler, at AI-chatbots bygges med sikkerhed fra starten, når det gælder persondata, alderstilpasning, klinisk testning og klar information om, at chatbotten ikke er læge, terapeut eller ven. Sker der fejl, skal udviklerne kunne holdes juridisk ansvarlige. WHO fremhæver også, at AI-modeller, der rådgiver om sundhed, bør overvejes underlagt lovgivningen om medicinsk udstyr.

Tor Juul Groth peger på, at sundhedsvæsenet også bør skabe et godt alternativ til AI: "Der er brug for, at det offentlige sundhedsvæsen leverer én tydelig fordør til mental sundhed online. Altså et sted, en hjemmeside, hvor man ved, her kan jeg komme ind og blive afklaret omkring mit mentale helbred og blive vejvist til relevante tilbud."

Men ansvaret ligger ikke kun hos myndigheder og sundhedsvæsen. Også fagpersoner som psykologer, terapeuter og sygeplejersker spiller en vigtig rolle. Malene Lue Kessing beskriver: "Fagprofessionelle skal have en bevidsthed om, at deres patient, potentielt også har en dialog med en chatbot. Så det skal man spørge ind til, åbent og nysgerrigt, for at finde ud af, om en chatbot også spiller en rolle, og om den for eksempel bliver brugt imellem sessionerne."

Den almindelige dansker opfordres også til at forholde sig kritisk. Tor Juul Groth anbefaler: "Hvis du er bange for eller nervøs for, at du har en psykisk sygdom eller bare oplever psykisk mistrivsel, som du ikke kan stå alene med, så er det vigtigt at tale med andre. Det er ikke nok med Chatbots. Så skal man gå til sin læge, sine venner eller sin partner og tale med dem. Det kan chatbots ikke hjælpe dig med."

AI har allerede ændret danskernes vaner, og udviklingen går hurtigt. Derfor efterlyser Malene Lue Kessing både mere forskning og mere debat om relevante løsninger.

"Fra mit perspektiv er vi ved at være et sted, hvor den her viden, og den her samtale om AI er ved at være lang nok til, at man også bør tage ansvar for det nationalt, " siger Tor Juul Groth og slutter:

"Jeg tror, der kommer til at være en fremtid, hvor vi har AI, der er bedre til at svare på spørgsmål om sundhed. Det er bare ikke nutiden."