Angestoßen hatte die Debatte Jacob Coxon. Der 27-jährige Brite hat drei Jahre lang am Training großer Modelle gearbeitet, den größten Teil davon bei OpenAI, seit Mai bei Anthropic. Vergangene Woche kündigte er und ging an die Öffentlichkeit. „Keines der beiden Unternehmen handelt verantwortungsvoll“, schrieb er auf X. OpenAI und Anthropic rasten auf eine Superintelligenz zu, die sich selbst verbessert, und spielten dabei „mit unserem Leben“. Die Menschen, die solche Systeme bauten, glaubten ernsthaft, KI könne die Menschheit vor Ende des Jahrzehnts auslöschen. Sein früherer Kollege Evan Hubinger, der bei Anthropic die Belastungstests dafür leitet, ob die Modelle sich an menschliche Absichten halten, sprang ihm bei. „Wir glauben wirklich und ernsthaft, dass KI alle Menschen töten könnte. Ich persönlich halte die Wahrscheinlichkeit innerhalb der nächsten zehn Jahre für größer als zehn Prozent“, schrieb er, ebenfalls auf X. Anthropic tue sein Bestes, habe aber bislang keinen Plan, wie sich eine Superintelligenz zuverlässig unter Kontrolle halten ließe.