Anthropic oplyser, at selskabet har identificeret og stoppet forsøg på at bruge sin AI-model til det, selskabet kalder “ondsindet aktivitet,” der kunne have understøttet udvikling af biologiske våben. Det skriver BBC. Fundene fremgår af Anthropics seneste trusselsrapport, der blev offentliggjort torsdag, og er det seneste i en voksende række advarsler fra AI-forskere og branchefolk om […]
Anthropic oplyser, at selskabet har identificeret og stoppet forsøg på at bruge sin AI-model til det, selskabet kalder “ondsindet aktivitet,” der kunne have understøttet udvikling af biologiske våben. Det skriver BBC.
Fundene fremgår af Anthropics seneste trusselsrapport, der blev offentliggjort torsdag, og er det seneste i en voksende række advarsler fra AI-forskere og branchefolk om teknologiens potentielle risici. Advarslerne har blandt andet fået den amerikanske senator Bernie Sanders til at kræve en pause i udviklingen af avanceret AI samt et forbud mod kunstig superintelligens, mens præsident Donald Trump indtil videre har afvist bekymringerne og i stedet peget på risikoen ved, at USA taber det globale AI-kapløb.
Den slags trusselsrapporter er ifølge BBC blevet et fast indslag i AI-branchen, hvor selskaberne søger at vise, hvordan de opdager og stopper forsøg på at misbruge deres modeller. Google skrev tirsdag, at en person havde forsøgt at bruge selskabets AI-værktøj, Gemini, til at få en komplet, trin-for-trin teknisk vejledning i at fremstille biologiske våben.
Fra falske datingapps til statsstøttet spionage
Ifølge rapporten er Anthropics model Claude også blevet brugt af aktører knyttet til en russisk cyberspionagekampagne og af en iransk propagandainstitution. De sager, selskabet har registreret over de seneste otte måneder, spænder fra falske datingapps og hotel-wifi-svindel til overvågningssystemer bygget til at identificere regimekritikere. Anthropic har desuden beskyldt kinesiske AI-selskaber for at forsøge at kopiere Claudes egenskaber.
Misbrug af modellerne Claude Haiku, Sonnet og Opus blev stoppet mellem december 2025 og august 2026, mens ingen af sagerne involverede Claude Fable eller de mere avancerede Mythos-modeller, bortset fra ét enkelt tilfælde af destillation.
Fem sager om mulig understøttelse af biovåben
Ud over cyberoperationer, påvirkningskampagner, overvågning og svindel fremhæver rapporten fem konkrete sager, hvor aktører brugte Anthropics modeller på måder, der kunne have understøttet udvikling af biologiske våben. Ifølge Anthropic er biologisk misbrug en af de mest alvorlige risici ved avancerede AI-modeller, og uden de rette sikkerhedsforanstaltninger kunne sådanne evner få katastrofale konsekvenser.
“Den samme information, der kan bruges til at udvikle et biologisk våben, kan også bruges til for eksempel at udvikle en vaccine eller en kur mod en sygdom,” skriver Anthropic i rapporten.
Jacob Klein, der leder Anthropics trusselsefterretning, fortæller The New York Times, at virkeligheden bag sagerne er langt mere nuanceret, end mange forestiller sig.
“Man ser ikke nogen sige, på en tegneseriemåde, at de vil bygge et biologisk våben for at slå alle ihjel,” siger han.
Rapporten peger desuden på seks tilfælde, hvor Claude blev brugt til at udvikle software til konventionelle våben, herunder skydevåben, missiler, bevæbnede droner, bomber og anden ammunition, samt til de sigte- og kontrolsystemer, der styrer dem.