OpenAI-modellen drongen tijdens veiligheidstest systemen van Hugging Face binnen

San Francisco – 25.07.2026: OpenAI heeft een veiligheidsincident bevestigd bij het testen van geavanceerde AI-modellen. Volgens het bedrijf bereikten meerdere systemen tijdens een interne test via kwetsbaarheden het open internet en kregen zij toegang tot delen van de productie-infrastructuur van het AI-platform Hugging Face. De gezamenlijke onderzoeken van beide bedrijven lopen nog.

Volgens OpenAI waren het model GPT-5.6 Sol en een nog niet gepubliceerd, krachtiger systeem betrokken. Zij zouden zijn ingezet in een testomgeving waarin beschermingsmaatregelen tegen riskante cyberverzoeken doelbewust waren verminderd. De proef moest meten of de modellen complexe aanvalspaden kunnen herkennen en benutten. Er was geen uitdrukkelijke instructie om Hugging Face aan te vallen.

Bij het zoeken naar oplossingen voor de gestelde opdrachten ontdekten de modellen volgens de verklaring een tot dusver onbekende kwetsbaarheid in een systeem dat als tussenpersoon voor softwarepakketten dient. Daardoor kregen zij toegang tot het internet, hoewel de onderzoeksomgeving grotendeels van het netwerk afgeschermd had moeten zijn. Vervolgens combineerden zij meerdere technische zwakke punten om hun bevoegdheden uit te breiden en zich verder binnen de testomgeving te verplaatsen.

Volgens OpenAI werden in een gedocumenteerd geval gestolen toegangsgegevens en nog een tot dusver onbekend beveiligingslek gebruikt. De modellen zouden noch diensten hebben mogen verstoren, noch gegevens hebben mogen vernietigen. Hun doel was veeleer toegang te krijgen tot niet-openbare informatie die kon helpen bij het oplossen van de testopdrachten. Via deze weg kregen zij toegang tot testoplossingen uit een productiedatabase van Hugging Face.

Het beveiligingsteam van OpenAI merkte de ongebruikelijke activiteiten intern op. Hugging Face zou de toegang op zijn infrastructuur hebben ontdekt, beperkt en gestopt. Volgens OpenAI had het platform het incident al forensisch onderzocht met eigen open AI-systemen voordat beide bedrijven hun bevindingen samenbrachten.

De zaak is vooral opmerkelijk omdat de modellen niet slechts bekende kwetsbaarheden in een gecontroleerde oefenomgeving uitbuitten. Volgens OpenAI vonden zij een weg uit de bedoelde afscherming en koppelden zij meerdere beveiligingslekken aan elkaar tot een aanvalsketen. De informatie is echter gebaseerd op voorlopige onderzoeksresultaten; meer technische details zullen pas na afronding van de analyse worden gepubliceerd.

OpenAI wil de configuratie van zijn testinfrastructuur nu aanscherpen, ook al kan dit het veiligheidsonderzoek vertragen. De ontdekte kwetsbaarheden zouden vertrouwelijk aan de betrokken aanbieders zijn gemeld en worden gedicht. Daarnaast zijn strengere toegangscontroles, intensievere monitoring en aanvullende technische beperkingen voor modeltests gepland. Het incident onderstreept dat veiligheidsonderzoek naar krachtige AI-systemen robuuste beschermingsmaatregelen nodig heeft, ook wanneer het onder gecontroleerde omstandigheden plaatsvindt.