Den berygtede Mythos-model kan efter sigende finde fejl i komplekse it-systemer, men har indtil nu kun været tilgængelig for udvalgte aktører. Nu vil firmaet bag modellen dele nogle af dens fund. I april skrev 24Victoria om Anthropics sprogmodel, der kaldes Mythos, og som Anthropic selv hævder, har så voldsomme evner, at den kan være i […]
Den berygtede Mythos-model kan efter sigende finde fejl i komplekse it-systemer, men har indtil nu kun været tilgængelig for udvalgte aktører. Nu vil firmaet bag modellen dele nogle af dens fund.
I april skrev 24Victoria om Anthropics sprogmodel, der kaldes Mythos, og som Anthropic selv hævder, har så voldsomme evner, at den kan være i stand til at finde og udnytte huller i cybersikkerheden.
Nu vil AI-selskabet bag modellen orientere ledende finansministerier og centralbanker om sårbarheder i den globale finanssektors cyberforsvar, skriver Financial Times.
Ifølge Financial Times skyldes initiativet til orienteringen en henvendelse fra guvernør i Bank of England og formand for Financial Stability Board, Andrew Bailey.
Finanssektorens cyberforsvar skulle være dækket af selskabets nye model, Claude Mythos Preview.
Skal vi frygte Mythos?
AI-modellen er ifølge Anthropic alt for kraftfuld til at blive sluppet løs, og derfor er det fortsat kun 40 af verdens største tech-giganter, der indtil videre har adgang til modellen.
Det er bl.a. organisationer som Amazon, Microsoft og JPMorgan Chase, der har fået adgang til Mythos, mens modellen ikke udbredes yderligere efter anmodning fra Det Hvide Hus.
Selskabet kalder selv modellen for ‘en drømmeplatform for hackere’.
Det, man helt konkret frygter, er, at modellen kan være i stand til at finde og udnytte fejl i software og systemer, som på den måde kan forårsage hackerangreb på fx banker og andre kritiske infrastrukturer.
Ifølge Financial Times advarer IMF om, at de nyeste AI-modeller kan resultere i et makrofinansielt chok.
Flere eksperter sætter dog spørgsmålstegn ved, om vi skal frygte en model, vi ikke ved noget om endnu. Det kan du læse mere om her.
Læs også: