Udviklingen inden for kunstig intelligens bevæger sig så hurtigt, at verden bør overveje mekanismer til midlertidigt at sænke tempoet, ifølge Anthropic. AI-systemerne kan snart ramme et punkt, hvor de selv kan forbedre deres evner uden direkte menneskelig indblanding. I et nyt indlæg offentliggjort torsdag fremlægger Anthropic interne data, som efter virksomhedens vurdering viser en markant […]
Udviklingen inden for kunstig intelligens bevæger sig så hurtigt, at verden bør overveje mekanismer til midlertidigt at sænke tempoet, ifølge Anthropic. AI-systemerne kan snart ramme et punkt, hvor de selv kan forbedre deres evner uden direkte menneskelig indblanding.
I et nyt indlæg offentliggjort torsdag fremlægger Anthropic interne data, som efter virksomhedens vurdering viser en markant acceleration i de mest avancerede modellers udvikling.
Selskabet argumenterer for, at det kan være hensigtsmæssigt at have mulighed for at bremse eller pause den mest avancerede AI-forskning, hvis samfundets institutioner og sikkerhedsforanstaltninger ikke kan følge med. Det skriver Wall Street Journal.
En revolutionerende udvikling
Marina Favaro, der leder virksomhedens interne forskningsinstitut, samt medstifter Jack Clark peger på, at udviklingen ser ud til at bevæge sig i retning af et scenarie, hvor AI-systemer kan optimere sig selv uden menneskelig hjælp.
Blandt flere eksperter betragtes netop dette som en mulig milepæl med både enorme muligheder og betydelige risici.
Anthropic understreger dog, at teknologien endnu ikke har nået dette niveau, og at udviklingen ikke nødvendigvis vil ende dér. De advarer samtidig om, at et sådant gennembrud kan komme hurtigere, end mange myndigheder og organisationer er forberedt på.
Som en mulig løsning foreslår Anthropic, at verdens førende AI-aktører indgår fælles aftaler om, hvordan udviklingen kan bremses, hvis det bliver nødvendigt. Derudover efterlyser virksomheden systemer, som kan kontrollere, at alle parter overholder sådanne aftaler.
Voldsom debat
Debatten kommer på et tidspunkt, hvor Anthropic oplever kraftig vækst. Virksomheden afsluttede for nylig en finansieringsrunde, der værdisatte selskabet til tæt på 1 billion dollar, og har samtidig indledt processen mod en børsnotering.
Samtidig er konkurrencen med OpenAI intensiveret, efterhånden som begge selskaber kæmper om førerpositionen på markedet for avancerede AI-modeller.
Omsætningen er også steget markant. Anthropic forventer ifølge egne prognoser at nå en årlig omsætningstakt på omkring 50 milliarder dollar inden udgangen af måneden. Til sammenligning lå tallet omkring 9 milliarder dollar ved afslutningen af 2025.
Virksomheden har siden sin grundlæggelse profileret sig på AI-sikkerhed, men netop det fokus har også mødt kritik.
Modstandere hævder, at sikkerhedsargumenterne i praksis kan fungere som et middel til at begrænse konkurrenternes muligheder. Blandt kritikerne er venturekapitalinvestoren David Sacks, der har beskyldt Anthropic for at arbejde for øget regulering, som kan gavne de største aktører på markedet.
Sacks har blandt andet advaret om, at strengere regulering kan føre til begrænsninger for open source-modeller, som ofte er billigere og lettere for virksomheder at tilpasse til egne formål.
Andre skeptikere mener, at Anthropics advarsler også kan have en markedsføringsmæssig dimension. De peger eksempelvis på virksomhedens beslutning om kun i begrænset omfang at frigive den avancerede cybersikkerhedsmodel “Mythos”, som efter sigende er særligt effektiv til at identificere softwarefejl og sikkerhedshuller.
Anthropic afviser, at sikkerhedsarbejdet handler om markedsføring. Ledelsen fastholder, at formålet er at skabe større opmærksomhed omkring de potentielle konsekvenser af stadig mere avancerede AI-systemer. Og således sikre, at samfundet er bedre rustet til at håndtere udviklingen.
Læs mere: