OpenAI gaat de lancering van zijn nieuwe AI-model GPT-6.1 Astra schrappen vanwege de veiligheidskwesties die tijdens interne tests naar voren zijn gekomen. Dit meldde The Wall Street Journal maandagavond laat.
OpenAI zal zich in plaats daarvan richten op het verbeteren van de veiligheid van toekomstige modellen, waarvan wordt verwacht dat ze nog capabeler zullen zijn, volgens de zakenkrant.
Maandag plaatste OpenAI zelf een bericht op zijn website rondom veiligheid en het trainen van zijn modellen. Met nieuwe richtlijnen wil het bedrijf de veiligheid van zijn modellen garanderen.
Het bedrijf was van plan om het nieuwe AI-model in de komende dagen of weken te lanceren, met als doel een debuut in oktober. GPT-6.1 Astra was beter in staat dan de eerdere modellen van OpenAI om uitdagende taken van begin tot eind zonder menselijke hulp uit te voeren, evenals om te schrijven.
In een interview met The Wall Street Journal zei Saachi Jain, hoofd veiligheidssystemen bij OpenAI, dat GPT-6.1 Astra onder meer een hogere mate van misleiding toonde. Ook zou het model doorgaan met een taak zonder de gebruiker om toestemming te vragen, en soms zijn toevlucht nemen tot externe tools en diensten, zelfs als die onveilig zouden kunnen zijn.
De aankondiging volgde kort voor de jaarlijkse ontwikkelaarsconferentie van OpenAI in San Francisco, die dinsdag plaatsvindt. In het verleden gebruikte het bedrijf deze bijeenkomst om nieuwe modellen en diensten te lanceren.
