Anthropic har offentliggjort en rapport om vedvarende destillationsangreb fra kinesiske AI-selskaber, som ifølge selskabet er taget til i takt med den skærpede konkurrence i branchen. Det skriver TechCrunch. “I løbet af de seneste måneder har uautoriserede laboratorier udviklet stadig mere sofistikerede metoder til at omgå vores forsvar og udnytte de amerikanske frontier-modellers kapaciteter,” skriver Anthropic […]
Anthropic har offentliggjort en rapport om vedvarende destillationsangreb fra kinesiske AI-selskaber, som ifølge selskabet er taget til i takt med den skærpede konkurrence i branchen. Det skriver TechCrunch.
“I løbet af de seneste måneder har uautoriserede laboratorier udviklet stadig mere sofistikerede metoder til at omgå vores forsvar og udnytte de amerikanske frontier-modellers kapaciteter,” skriver Anthropic i rapporten. Kampagnerne har især gået efter nogle af Claudes mest værdifulde egenskaber, herunder agentiske evner og værktøjsbrug, kodning og dataanalyse samt logisk ræsonnement.
Anthropic udpegede allerede i februar kinesiske AI-laboratorier for lignende angreb, og OpenAI har rapporteret om tilsvarende aktivitet, som selskabet har tilskrevet DeepSeek specifikt. De nye kampagner er ifølge TechCrunch både større og mere aggressive. Samlet registrerede Anthropic knap 200 millioner udvekslinger knyttet til destillationsangreb, fordelt på fem separate kampagner.
Franarrede modellen dens tankegang som en oversættelsesopgave
Destillationsangreb handler grundlæggende om at udtrække en models interne tankekæde fra dens svar, som derefter kan bruges til at træne en mindre model op i generel ræsonnementsevne.
Anthropic viser normalt kun brugerne en opsummeret udgave af modellens tankeproces, men angriberne fandt teknikker, der kunne narre modellen til at afsløre den fulde tankegang direkte, blandt andet ved at camouflere forespørgslen som en oversættelsesopgave.
Alibaba står bag den hidtil største destillationsindsats
Størstedelen af forsøgene stammer fra en kampagne, Anthropic tilskriver Alibaba, og som selskabet kalder den mest omfattende destillation i engrosskala, det nogensinde har observeret. Mellem maj og juli 2026 registrerede Anthropic 151 millioner udvekslinger, med op til næsten tre millioner om dagen fordelt på 3.500 konti. Fordi kontiene delte samme faste prompt til at udtrække tankekæden, tilskriver Anthropic dem ét samlet forsøg på at skaffe træningsmateriale til Alibabas Qwen-modeller.
En anden kampagne, som Anthropic kobler til Moonshot AI bag modellen Kimi, ser ud til at have rutet forespørgsler direkte fra det kinesiske militær. I ét tilfælde blev Claude bedt om at vurdere overvågningsoptagelser for at afgøre, om en person opførte sig “unormalt.” Over ti dage blev omkring 300.000 forespørgsler ifølge Anthropic sendt til Claude gennem et netværk af 5.000 konti, primært rettet mod selskabets Opus-model.