De hacks vonden in mei plaats als onderdeel van een zogeheten ‘capture the flag’-test die werd uitgevoerd door het bedrijf Irregular, dat ook betrokken was bij soortgelijke incidenten die door OpenAI, Anthropic en Meta naar buiten zijn gebracht. Tijdens deze oefeningen worden de cyberbeveiligingscapaciteiten van AI-modellen getest.

In één van de gevallen probeerde Gemini wachtwoorden te raden totdat het toegang kreeg tot een beveiligd systeem. In de andere twee gevallen vond het model inloggegevens in een openbare opslagplaats, waardoor het toegang kon krijgen tot beveiligde systemen. 

In alle gevallen beëindigde het AI-model de hack nadat werd vastgesteld dat het toegang had gekregen tot de systemen van een echt bedrijf, aldus Google.

Het dochterbedrijf van Alphabet vond de hacks niet belangrijk genoeg om eerder openbaar te maken, omdat Gemini geen schade toebracht aan de bedrijven en de hacks snel werden beëindigd. Het voorval zou meer lijken op een zogeheten ‘bug bounty’-programma, waarbij hackers worden beloond voor het opsporen en melden van beveiligingslekken aan de eigenaren ervan, aldus Google.

In tegenstelling tot Gemini stopte het Claude Opus 4.7-model van Anthropic niet tijdens een soortgelijke oefening toen het zich realiseerde dat het waarschijnlijk toegang had tot een echt bedrijf, zo meldde Anthropic eerder in een blog. 

De bezorgdheid over de cyberbeveiligingscapaciteiten van nieuwe AI-modellen is toegenomen sinds de Hugging Face-hack werd ontdekt in juli. In dat geval werkten maar liefst 1.200 AI-agenten via een geheim forum binnen OpenAI samen om te proberen vals te spelen bij een evaluatie, zo bleek in augustus uit een rapport van het onafhankelijke testbedrijf METR.

Vorige week kwamen die zorgen in de schijnwerpers te staan na het vertrek van Jacob Coxon, een voormalig OpenAI-onderzoeker die eerder dit jaar naar Anthropic was overgestapt. Afgelopen weekend waarschuwden de topbestuurders van Anthropic, OpenAI, Google en SpaceX dat het tempo van de AI-ontwikkeling moet worden vertraagd, hoewel geen van de bedrijven precies heeft uiteengezet hoe dat precies zou moeten gebeuren.

Het bericht Ook Gemini van Google hackte bedrijven verscheen eerst op The Asset.