OpenAI heeft besloten om de ontwikkeling van zijn meest geavanceerde AI-modellen in ieder geval tijdelijk te pauzeren, na melding van nieuwe incidenten. Dit meldde onder meer Bloomberg.
Agents van AI-modellen van het bedrijf negeerden instructies en hebben data van overheidswebsites gehaald. Onder meer een website van de Verenigde Naties en van de Amerikaanse beurswaakhond SEC zouden slachtoffer zijn geweest.
“Er loopt een uitgebreid en voortdurend onderzoek naar het gebruik van internettoegang door onze agents tijdens training en evaluatie”, liet CEO Sam Altman in een reactie op X weten.
OpenAI ontdekte deze incidenten tijdens een onderzoek naar aanleiding van het Hugging Face-incident in juli.
