Die Bedenken wegen möglicher KI-Risiken nehmen zu, weil neue Modelle immer mächtiger werden. Das erhöht das Risiko einer missbräuchlichen Nutzung von KI durch Kriminelle und die Gefahr, dass KI-Systeme einen gefährlichen Alleingang starten. Hintergrund sind mehrere beunruhigende Vorfälle mit selbstständig handelnden Programmen. Jüngst hatte eine Testsoftware von OpenAI ohne Auftrag die Systeme einer anderen Computerplattform angegriffen, um an benötigte Informationen zu gelangen.
KI-Chefs plädieren für Verlangsamung der Ki-Entwicklung
Die Bundesregierung nimmt die Warnungen ernst. „Wenn KI-Modelle immer wirkmächtiger werden, ausbrechen und in andere Systeme eigenständig eindringen, haben wir es mit einem völlig neuen Bedrohungsszenario zu tun“, sagte ein Sprecher des Digitalministeriums. Nur: Lässt sich die KI-Entwicklung verlangsamen?
„Forderung kaum umsetzbar“
Der Präsident des Ifo-Instituts, Clemens Fuest, hält die Forderung zwar „für richtig, aber kaum für umsetzbar“. Unserer Redaktion sagte Fuest: „Da Forschung grundsätzlich schwer zu überwachen ist, und China sich kaum einbinden lassen wird, halte ich die Erfolgsaussichten einer Vereinbarung über langsamere KI-Entwicklung für gering.“ Es gebe gerade ein Wettrennen um die Technologieführerschaft. „Über die leistungsfähigste KI zu verfügen, ist nicht nur wirtschaftlich wichtig, sondern auch für die nationale Sicherheit“, betonte Fuest. „Es hilft nichts, wir müssen Forschung auch in die Richtung vorantreiben, Sicherheitsrisiken einzudämmen.“
Auch der Sozialethiker Elmar Nass hält eine Verlangsamung in der Praxis für „nicht zielführend“. Er kritisierte, dass sich die „Avantgarde der Technik-Mogule“ zur Moralinstanz aufschwinge. Zudem stelle sich die Frage, wer die Geschwindigkeit vorgebe und wie der Prozess kontrolliert werden soll. Statt einer Verlangsamung forderte Nass Leitplanken für die KI-Forschung. „Entscheidend ist, dass eine solche Forschung ethisch flankiert werden muss. Damit sollte sofort begonnen werden. Und es sollte darüber hinaus internationale Regeln und auch Verbote geben wie bei entsprechenden Waffen“, sagte er.
Forderung nach weltweiten Standards
Der CDU-Politiker Ralph Brinkhaus, Vorsitzender der Arbeitsgruppe Digitales und Staatsmodernisierung der Unionsfraktion, sprach sich für „weltweite Standards für die Rolle von und den Umgang mit KI“ aus. „Nicht als regulatorische Innovationsbremse, sondern als Rahmen und Orientierung. Deutschland würde es gut anstehen, diesen Prozess weiter zu treiben“, sagte Brinkhaus. „Es ist gut, dass die Debatte eröffnet worden ist.“
Die Linken-Politikerin Donata Vogtschmidt, Sprecherin für Digitalpolitik, betonte, in der EU müsse „die europäische KI-Verordnung jetzt nachgeschärft statt dereguliert werden“. Vogtschmidt fügte hinzu: „Gleichzeitig hoffe ich, dass man sich in der UN sehr bald auf erste rote Linien verständigt, was den internationalen Einsatz von Künstlicher Intelligenz betrifft.“ Zudem verwies sie auf Eigeninteressen der Unternehmen. „Während Sicherheitsbedenken wachsen und KI gleichzeitig den Nachweis schuldig ist, dass sie zur Gesamtproduktivität beiträgt, versuchen Anthropic und OpenAI einen Börsengang vorzubereiten. Es ist ein leicht durchschaubares Spiel, dass das dargestellte Verantwortungsbewusstsein dieser Unternehmen dem Zweck dient, das Vertrauen für weitere Investitionen herzustellen“, sagte sie.
Auch der Digitalexperte Thomas Köhler hält die jüngsten Warnungen teilweise für eine PR-Aktion, hinter der mehrere Motive stünden. Zum einen sei die Wirtschaftlichkeit vieler KI-Geschäftsmodelle weiterhin „hochfragil“, KI im Moment „ein erhebliches Milliarden-Zuschussgeschäft“. Köhler sagte: „Es gibt noch keine Perspektive, damit Geld zu verdienen. So erkläre ich mir auch den verschobenen Börsengang von OpenAI.“ Hinzu komme, dass der Druck durch immer leistungsfähigere Open-Source-Sprachmodelle wachse. „Genau das bedroht die Geschäftsgrundlage der großen kommerziellen Anbieter“, sagte er. Open-Source-Sprachmodelle sind KI-Modelle, deren Quellcode und oft auch Trainingsdaten öffentlich zugänglich sind und von anderen genutzt und weiterentwickelt werden können. Köhler ist sich daher sicher, dass es in der Debatte „nicht nur um Sicherheit, sondern auch um Marktinteressen und globale Machtfragen“ gehe.
Dennoch schließe das nicht aus, dass beschriebene Gefahren real sind, so der Digitalexperte. Zu den Fortschritten von KI sagte Köhler: „Kurzfristig werden die Effekte oft überschätzt, langfristig eher unterschätzt.“