OpenAI zou diverse groepen op de hoogte hebben gesteld van gevallen waarin zijn software mogelijk de beveiligingsmaatregelen van een online dienst had omzeild of de beschikbaarheid ervan had belemmerd. Ook waren er situaties waarin een verkeerd afgestemd AI-model mogelijk een “negatieve invloed” had op een website of dienst buiten OpenAI, aldus Bloomberg.

Het bedrijf ontdekte deze incidenten tijdens een onderzoek naar aanleiding van het Hugging Face-incident in juli. In dat geval werkten maar liefst 1.200 AI-agenten via een geheim forum binnen OpenAI samen om te proberen vals te spelen bij een evaluatie.

The Wall Street Journal schreef vrijdag dat een AI-agent van OpenAI deze zomer een overheidswebsite in Australië infiltreerde.

Het bericht Media: AI-modellen OpenAI omzeilden mogelijk beveiliging overheidssites verscheen eerst op The Asset.