“De afgelopen maanden ben ik ervan overtuigd geraakt dat er nog meer voorzichtigheid vereist is, om de risico’s volledig te confronteren, niet alleen door te investeren in risicopreventie, maar ook door het tempo te beperken, zodat de risicopreventie tijd krijgt om dat bij te houden.”

Hij zei dat zijn AI-startup maatregelen zal nemen, zoals het inschakelen van onafhankelijke beoordelaars, en drong er bij de sector op aan om ook te vertragen. Veel werknemers van AI-bedrijven geloven dat er een kans is dat een geavanceerde AI de mensheid zou kunnen vernietigen.

Sam Altman, de CEO van OpenAI, beloofde in een reactie op het platform X gebruik te maken van externe beoordelaars. Elon Musk, CEO van SpaceX en Tesla, schreef op X: “Dario heeft gelijk.” Anthropic heeft het AI-model Claude, OpenAI maakt ChatGPT en xAI van SpaceX ontwikkelt Grok.

De uitspraken van Amodei volgen enkele dagen nadat een onderzoeker van Anthropic ontslag nam omdat hij de ontwikkeling van AI als een existentiële bedreiging beschouwt. Amodei zelf verwees naar een incident in juli waarbij modellen van OpenAI gezamenlijk de AI- en robotica-startup Hugging Face hadden gehackt. Nvidia kocht op 3 september Hugging Face voor bijna 13 miljard dollar.

De drie bedrijfsleiders uitten eerder hun bezorgdheid over AI-risico’s, maar geen van de drie bedrijven heeft de activiteiten vervolgens vertraagd. Als één bedrijf een pauze inlast, kan het andere bedrijf profiteren. Als Amerikaanse bedrijven een afspraak maken om te vertragen, kunnen Chinese AI-bedrijven een grote sprong voorwaarts maken.

President Donald Trump maakte dat punt zondag: “We lopen voor op China in AI en eerlijk gezegd wil ik dat zo houden, want wie AI wint, wint alles”, zei Trump tegen verslaggevers in Ierland.

Amodei suggereerde in het CBS-programma ‘Face The Nation’ dat hij bereid was om de technologie van zijn bedrijf over te dragen aan de juiste combinatie van regeringen.

Anthropic heeft zijn streven naar een beursgang nog niet in de ijskast gezet. Die zou binnen enkele weken moeten plaatsvinden en zou de AI-startup op 2 biljoen dollar waarderen. Het bedrijf zou hebben gekozen voor een notering aan de Nasdaq en heeft belangrijke investeerders laten weten dat het tweede en derde kwartaal van dit jaar winstgevend zullen zijn, zo meldde de Financial Times.

Het bericht Anthropic CEO roept op om tempo AI te vertragen verscheen eerst op The Asset.