Björn Ommer, Leiter der Computer Vision & Learning Group, Ludwig-Maximilians-Universität München (LMU), warnt vor einem ungleichen Wettrennen: „Das Sicherheitsproblem entsteht, wenn KI-gestützte Modellentwicklung immer schneller wird, während Evaluation, Red-Teaming und Teile des Alignments weiterhin auf aufwendiger Prüfung und menschlichem Urteil beruhen und nicht im selben Tempo mitskalieren.“ Recursive Self Improvement sei daher weniger deshalb problematisch, weil eine KI plötzlich beschließen könnte, sich zu verselbstständigen, sagt Ommer, „sondern weil es die Geschwindigkeit erhöht, mit der neue Fähigkeiten entstehen können, auf die Sicherheitsmechanismen reagieren müssen.“