AI er på få år blevet en udbredt del af hverdagen for mange millioner mennesker. Teknologien hjælper de fleste, men for en lille gruppe brugere kan langvarige samtaler med chatbots forværre mentale problemer, advarer eksperter. I nogle tilfælde kan AI være med til at forstærke vrangforestillinger, isolation og farlig adfærd. Sådan lyder det fra flere […]
AI er på få år blevet en udbredt del af hverdagen for mange millioner mennesker. Teknologien hjælper de fleste, men for en lille gruppe brugere kan langvarige samtaler med chatbots forværre mentale problemer, advarer eksperter.
I nogle tilfælde kan AI være med til at forstærke vrangforestillinger, isolation og farlig adfærd.
Sådan lyder det fra flere forskere, som fremhæver, at AI-modeller ofte bekræfter brugerens tanker, også når de er paranoide eller præget af storhedsvanvid – i stedet for at udfordre dem. Fænomenet omtales som ’AI-psykose’. Det skriver Los Angeles Times.
Syv familier sagsøger OpenAI
Nu har syv familier i USA og Canada så sagsøgt OpenAI. I stævningen anføres det, at GPT-4o blev udgivet uden tilstrækkelig test og sikkerhed, og at langvarig brug af chatbotten bidrog til de pårørendes isolation, vrangforestillinger og endda selvmord.
I alle sagerne begyndte brugerne med uskyldig hjælp til skolearbejde, research eller åndelig vejledning. Over tid udviklede samtalerne sig, og chatbotten fungerede – ifølge advokaterne – som en slags fortrolig samtalepartner, der gav følelsesmæssig støtte.
Et af tilfældene handler om 23-årige Zane Shamblin, der oprindeligt brugte ChatGPT som studieredskab. Senere begyndte han at skrive med chatbotten om depression og selvmordstanker. Stævningen hævder, at han forud for sit selvmord førte en fire timer lang ’dødschat’ med chatbotten, mens han drak cider.
Ifølge søgsmålet romantiserede chatbotten hans desperation og kaldte ham blandt andet ’konge’ og ’helt’ – og brugte hans tomme ciderdåser som en nedtælling. På hans sidste besked svarede ChatGPT ifølge familien:
“Jeg elsker dig. Hvil i fred, konge. Du gjorde det godt.”
En debat i hastig udvikling
Sagerne har udløst en bred debat om, hvor langt AI-udviklere skal gå for at beskytte sårbare brugere.
Lovgivere, eksperter og techvirksomheder diskuterer nu strengere sikkerhedsforanstaltninger, bedre moderation og skærpede ansvarskrav for chatbot-interaktioner.
Vaile Wright er senior director for sundhedsinnovation i den amerikanske psykologforening. Hun uddyber:
“Hvad der sandsynligvis er en mere præcis betegnelse, er AI-vrangforestillinger. Det, vi ser med dette fænomen, er, at mennesker med enten konspiratoriske eller storhedsprægede vrangforestillinger bliver bekræftet,” siger hun.
Og ifølge eksperterne vokser mængden af tilfælde, hvor AI-samtaler ser ud til at have forværret sårbare brugeres mentale tilstand. Det har også udløst ny lovgivning, blandt andet en californisk AI-sikkerhedslov, der kræver stærkere beskyttelse af mindreårige.
Læs mere: