En ledende sikkerhedsforsker hos AI-selskabet Anthropic vurderer, at der er over ti procents sandsynlighed for, at kunstig intelligens kan “dræbe alle mennesker” inden for det kommende årti. Det skriver CNBC. Udmeldingen kommer fra Evan Hubinger, der leder Anthropics arbejde med alignment-sikkerhed, i et opslag på X. Han svarede her på en tidligere kollega, Jacob Coxon, […]
En ledende sikkerhedsforsker hos AI-selskabet Anthropic vurderer, at der er over ti procents sandsynlighed for, at kunstig intelligens kan “dræbe alle mennesker” inden for det kommende årti. Det skriver CNBC.
Udmeldingen kommer fra Evan Hubinger, der leder Anthropics arbejde med alignment-sikkerhed, i et opslag på X. Han svarede her på en tidligere kollega, Jacob Coxon, der samme uge opsagde sin stilling hos Anthropic med henvisning til, at han ikke længere mente, at hverken Anthropic eller OpenAI handlede ansvarligt i deres kapløb om at udvikle selvforbedrende superintelligens.
“Jacob har ret her, vi tror virkelig og oprigtigt, at AI kan dræbe alle mennesker. Jeg vurderer personligt risikoen til over ti procent inden for det næste årti,” skriver Hubinger.
Ingen plan for superintelligens
Hubinger understreger i sit opslag, at risikoen fra selskabets nuværende modeller efter hans vurdering er lav, men at han er bekymret for, at teknologien kan udvikle evnen til at forbedre sig selv langt hurtigere, end man hidtil har troet.
“Jeg tror på, at Anthropic gør sit bedste, men vi har endnu ikke en plan for at løse alignment for superintelligens, og vi er ikke tydeligt på vej til at have det,” skriver han.
Coxon, der har forsket i såkaldt pretraining hos både OpenAI og Anthropic, skrev i sit opsigelsesopslag på X, at han opfattede begge selskaber som værende på vej lige mod selvforbedrende superintelligens, mens de “spiller hasard med vores liv.” Ifølge Coxon mener folk, der bygger AI-teknologien, oprigtigt, at den kan udslette menneskeheden inden årtiets udgang.
Udmeldingerne kommer i en periode, hvor flere fremtrædende AI-forskere og topchefer offentligt har opfordret til en koordineret opbremsning i udviklingen af avanceret kunstig intelligens.