Mere end 100 AI-eksperter opfordrer i et fælles brev Anthropic og OpenAI til at gøre det lettere og mere gennemsigtigt for udenforstående at kontrollere, om deres AI-modeller er sikre. Det skriver CNBC. “Vi er glade for at se de store AI-selskaber bede eksterne organisationer om at vurdere, hvor hurtigt AI’ens evner og risici vokser,” skriver […]
Mere end 100 AI-eksperter opfordrer i et fælles brev Anthropic og OpenAI til at gøre det lettere og mere gennemsigtigt for udenforstående at kontrollere, om deres AI-modeller er sikre. Det skriver CNBC.
“Vi er glade for at se de store AI-selskaber bede eksterne organisationer om at vurdere, hvor hurtigt AI’ens evner og risici vokser,” skriver eksperterne i brevet.
Baggrunden er, at Anthropic-topchef Dario Amodei for nylig foreslog at give udvalgte eksperter en form for medarbejderadgang, så de kan kigge techselskaberne over skulderen og undersøge, hvordan de nyeste AI-modeller bliver udviklet. Mens flere store navne i branchen ønsker, at myndighederne skal stramme reglerne for AI, har både USA’s præsident, Donald Trump, og hans tidligere AI-rådgiver, David Sacks, været imod den slags indgreb.
Ønsker fælles spilleregler
Conrad Stosz, der leder gruppen af eksperter bag brevet, understreger, at de ikke går ind for én bestemt løsning.
“Vi forsøger bare at finde et fælles grundlag om nogle grundlæggende principper, så uafhængig kontrol reelt kan bruges til at holde styr på risiciene ved AI,” siger Stosz.
Han tilføjer, at målet i stedet er at få sat nogle klare og ens spilleregler for de eksperter, der arbejder uafhængigt af de store AI-selskaber, så de ved, hvad de kan forvente, og hvad der forventes af dem.
Brevet kommer kort tid efter, at Anthropic offentliggjorde, at konsulentgiganten Accenture bliver selskabets første eksterne kontrollant som led i en plan om at bremse tempoet i udviklingen af de mest avancerede AI-modeller. Både Anthropic og Accenture har lovet at investere mindst en milliard dollar i arbejdet over de kommende fem år.