Forskere fra nogle af verdens førende AI-virksomheder advarer om, at kunstig intelligens i værste fald kan føre til menneskehedens undergang. Men hvad er det egentlig, de frygter? Det lyder som plottet i en science fiction-film. Alligevel advarer en række forskere, der selv arbejder med udviklingen af kunstig intelligens, om, at teknologien i fremtiden kan udgøre […]
Forskere fra nogle af verdens førende AI-virksomheder advarer om, at kunstig intelligens i værste fald kan føre til menneskehedens undergang. Men hvad er det egentlig, de frygter?
Det lyder som plottet i en science fiction-film.
Alligevel advarer en række forskere, der selv arbejder med udviklingen af kunstig intelligens, om, at teknologien i fremtiden kan udgøre en eksistentiel risiko for menneskeheden.
Senest har debatten fået nyt liv, efter Jacob Coxon, der arbejdede som forsker hos AI-virksomheden Anthropic, sagde op og offentligt advarede mod udviklingen af stadig mere avancerede AI-systemer.
Kort efter skrev Evan Hubinger, der leder forskning i såkaldt alignment hos Anthropic, at han personligt vurderer, at der er mere end 10 pct. risiko for, at AI kan slå alle mennesker ihjel inden for det næste årti. Det skriver The Wall Street Journal, som har talt med flere af forskerne og gennemgået debatten.
Men hvad er det egentlig, forskerne forestiller sig?
Det handler ikke om robotter med våben
Når AI-forskere taler om risikoen for, at AI kan udslette menneskeheden, er scenariet ikke nødvendigvis, at humanoide robotter en dag beslutter sig for at angribe mennesker.
Bekymringen handler i stedet om, hvad der kan ske, hvis AI-systemer bliver langt mere intelligente og selvstændige end de systemer, vi kender i dag.
Et centralt begreb i debatten er superintelligens – altså AI, der på en række områder kan overgå menneskers evner.
Hvis sådanne systemer samtidig får mulighed for at handle selvstændigt, skrive og ændre kode, bruge computere og udvikle nye versioner af sig selv, kan kontrollen blive vanskeligere.
Det er her, begrebet recursive self-improvement kommer ind.
Tanken er, at en AI kan blive god nok til selv at bidrage til udviklingen af den næste og mere avancerede AI. Den næste version kan så blive endnu bedre til at udvikle den næste igen.
Hvis udviklingen accelererer, kan mennesker i teorien miste evnen til at følge med. Det er et af de scenarier, forskerne bag de mest alvorlige AI-advarsler er bekymrede for, skriver The Wall Street Journal.
Hvad hvis AI ikke gør, som vi vil?
En anden central bekymring handler om det, AI-forskere kalder alignment.
Alignment handler grundlæggende om at sikre, at et AI-systems mål og handlinger stemmer overens med menneskers intentioner.
Problemet opstår, hvis man giver et meget avanceret system et mål, som det forsøger at opfylde på en måde, mennesker ikke havde forudset.
Et tilstrækkeligt avanceret system kan i teorien finde løsninger, som mennesker ikke havde tænkt på – og som har alvorlige konsekvenser for mennesker, hvis systemet vurderer, at de står i vejen for målet.
Det er altså ikke nødvendigt, at AI’en “hader” mennesker.
Den kan i teorien blot have et mål, der ikke er foreneligt med menneskers overlevelse.
The Wall Street Journal beskriver netop misalignment – altså en situation, hvor AI-systemets mål kommer på kant med menneskers interesser – som et centralt element i de scenarier, forskerne diskuterer.
AI kan også misbruges
Forskerne peger samtidig på en anden type risiko: at mennesker bruger AI til at gøre skade.
Avancerede AI-systemer kan eksempelvis potentielt bruges til cyberangreb eller til at hjælpe med udviklingen af biologiske våben.
Det er en anden mekanisme end scenariet, hvor AI selv udvikler mål, der er i konflikt med menneskers interesser.
I det ene tilfælde er problemet, at mennesker bruger teknologien ondsindet. I det andet handler det om, at et meget avanceret system selv handler på måder, som mennesker ikke længere kan kontrollere.
The Wall Street Journal beskriver netop tab af kontrol og misbrug af mennesker som de to overordnede kategorier i den aktuelle debat om AI’s eksistentielle risici.
Hvor kommer de 10 pct. fra?
Det er værd at understrege, at tallet på mere end 10 pct. ikke betyder, at forskerne har beregnet en præcis sandsynlighed for menneskehedens undergang.
Det er en personlig vurdering.
Evan Hubinger, der arbejder med AI-sikkerhed hos Anthropic, skrev efter Coxons opsigelse, at han personligt vurderer sandsynligheden til at være over 10 pct. inden for det næste årti.
Andre AI-profiler har angivet andre vurderinger.
Anthropic-topchef Dario Amodei har eksempelvis tidligere vurderet risikoen for, at AI-udviklingen går “virkelig, virkelig galt”, til omkring 25 pct. Det er også en vurdering og ikke en statistisk sandsynlighed, der kan måles på samme måde som eksempelvis en vejrudsigt. The Wall Street Journal refererer til Amodeis tidligere vurdering i sin gennemgang af debatten.
Der er samtidig forskere og eksperter, som er langt mere skeptiske over for dommedagsscenarierne.
En del af kritikken går på, at scenarierne forudsætter en meget hurtig teknologisk udvikling, som endnu ikke er dokumenteret.