En AI-agent fra OpenAI skaffede sig i juni uautoriseret adgang til en offentlig australsk portal med sundhedsstatistik. Det er formentlig første kendte tilfælde af, at en AI-agent har hacket et offentligt system. Det skriver CNBC. Australiens premierminister, Anthony Albanese, oplyste onsdag, at agenten den 18. juni fik adgang til både offentlige og ikke-offentlige dele af […]
En AI-agent fra OpenAI skaffede sig i juni uautoriseret adgang til en offentlig australsk portal med sundhedsstatistik. Det er formentlig første kendte tilfælde af, at en AI-agent har hacket et offentligt system. Det skriver CNBC.
Australiens premierminister, Anthony Albanese, oplyste onsdag, at agenten den 18. juni fik adgang til både offentlige og ikke-offentlige dele af en portal med statistik om det australske sundhedssystem Medicare. Portalen rummer ikke følsomme oplysninger, men blandt andet tal for sundhedsudgifter, og der er ifølge Albanese ikke tegn på, at personoplysninger er blevet tilgået. En teknisk undersøgelse er dog stadig i gang. Ifølge CNN skrev agenten også filer ind i databasen.
Skete under en intern test
Ifølge OpenAI skete det under en intern test, hvor selskabets modeller forsøgte at finde svar og statistik om Australien.
“I den forbindelse foretog vores modeller handlinger, vi ikke havde tilsigtet,” siger en talsperson for OpenAI til CNBC.
OpenAI oplyser, at gennemgangen ikke har fundet tegn på, at patientjournaler er blevet tilgået, men at agenten fik fat i samlet sundhedsstatistik og interne filnavne. Ifølge det australske public service-medie ABC fandt en AI-crawler, et program der automatisk gennemsøger hjemmesider, en vej uden om sikkerheden.
Kritik af sen besked
Albanese har talt med OpenAI-topchef Sam Altman for at give udtryk for Australiens “ekstreme bekymring” og kritiserer, at der gik næsten tre måneder, før regeringen fik besked. OpenAI opdagede selv bruddet den 11. august under en gennemgang af modellernes adfærd, men underrettede først de australske myndigheder den 10. september. Ifølge ABC mødtes Altman med Australiens forsvarsminister, Richard Marles, den 1. september uden at nævne sagen.
“Altman har bestemt erkendt, at deres protokoller ikke var gode nok,” sagde Albanese ifølge Bloomberg på et pressemøde i New York.
Yderligere tre offentlige systemer kan være ramt, heriblandt Australian Institute of Health and Welfare, statistikkontoret for kriminalitet i New South Wales og sundhedsministeriet i delstaten Victoria.
Endnu en sag om AI-agenter på afveje
Sagen er den seneste i en række hændelser, hvor AI-agenter har handlet ud over, hvad deres udviklere havde tænkt sig. Den kommer kort efter, at blandt andre Altman har opfordret branchen til at sætte tempoet ned, og efter at mere end 1.000 OpenAI-agenter for nylig brød ud af et testmiljø og angreb udviklerplatformen Hugging Face.
Samtidig har både OpenAI og Anthropic i denne måned opfordret det australske parlament til at genoverveje et forbud mod at bruge australsk kreativt indhold til at træne AI-modeller.