Die Warnung der Tech-Giganten hatte es in sich: Wenn sich Künstliche Intelligenz (KI) im gleichen Tempo weiterentwickelt wie bisher, droht die Auslöschung der gesamten Menschheit. Deshalb braucht es sofort ein KI-Moratorium, staatliche Regulierung und mehr Kontrolle – das wollen Dario Amodei (Anthropic), Sam Altman (OpenAI) und Tech-Milliardär Elon Musk (SpaceX) selbst. Die Schäden, die KI bereits in sechs bis zwölf Monaten anrichten könnte, seien ansonsten womöglich nicht mehr kontrollierbar.
Wirtschaft in Berlin
Abonnieren Sie kostenlos den Wirtschafts-Newsletter der Berliner Morgenpost
Wirtschaft in Berlin
Abonnieren Sie kostenlos den Wirtschafts-Newsletter der Berliner Morgenpost
Nun schließen sich dieser Mahnung vermehrt Experten und Politiker aus Deutschland an. Bundesdigitalminister Karsten Wildberger fordert internationale Regeln, um KI unter Kontrolle halten zu können. „Letztendlich brauchen wir eine globale Diskussion über die Notwendigkeit regulatorischer Leitplanken für Künstliche Intelligenz, um autonomere Systeme sicher zu machen“, sagte der CDU-Politiker dieser Redaktion. Die mit leistungsfähigen KI-Modellen und KI-Agenten verbundenen Gefahren machten nicht an nationalen Grenzen halt. Sicherheitsrelevante Risiken müssten deshalb frühzeitig erkannt und eingedämmt werden.
ChatGPT, Anthropic und Co.: Ex-Ethikratsvorsitzende Buyx warnt
Auch die ehemalige Vorsitzende des Ethikrates, Alena Buyx, blickt beunruhigt auf die rasende Entwicklung von KI – und die damit einhergehenden Risiken. Zwar gebe es auf der einen Seite viel verantwortungsvolle Entwicklung. „Auf der anderen Seite beobachte ich mit großer Sorge, wie unverantwortlich einige der großen Technologieunternehmen im globalen Entwicklungswettlauf agieren“, so Buyx im Gespräch mit dieser Redaktion. „Wenn selbst die Entwickler vor schwersten Schäden warnen, ist es sehr ernst.“
Karsten Wildberger, Bundesminister für Digitales und Staatsmodernisierung, fordert klare KI-Regeln.© FUNKE Foto Services | Reto Klar
Sowohl Buyx als auch Wildberger wiesen aber auch darauf hin, dass Deutschland und Europa bereits starke Regeln zur Regulierung der KI‑Technologie hätten. Deutschland baue derzeit ein nationales KI-Sicherheitsinstitut auf, „das uns helfen wird, sicherheitsrelevante Risiken frühzeitig zu identifizieren und ihnen zu begegnen“, sagte Wildberger. Und schob hinterher: „Deutschland muss hier eine viel aktivere Rolle einnehmen und nicht nur Anwender, sondern souveräner Gestalter dieser Technologie sein.“
Buyx verwies zudem auf die europäische KI‑Verordnung. Damit stünden Instrumente zur Verfügung, um besonders riskante Systeme einzuordnen und zu kontrollieren – wenn man sich denn auch an diese bestehenden Regeln hielte: „Wir in Europa bräuchten deshalb kein KI‑Moratorium, wie es jetzt Sam Altman und Co. wollen“, so Buyx. In den USA sehe es allerdings anders aus.
KI-Experte: Dieses Kalkül steckt hinter den dystopischen Warnungen der KI‑Giganten
Mit Blick auf die dystopischen Warnungen, die die KI-Giganten selbst ausstoßen, sagte KI-Experte Paul Elvers: „Was mir derzeit in der ganzen Diskussion fehlt, ist Evidenz. Es fehlen belastbare Daten, Dokumente und Aufzeichnungen, die diese schwerwiegenden Vermutungen untermauern.“ Elvers ist Chief AI Officer der FUNKE Mediengruppe, zu der auch diese Zeitung gehört, sowie Host des Podcasts „KI Köpfe“.
Der KI-Experte vermutet hinter den dystopischen Warnungen Kalkül. Denn bei den Tech-Giganten stehen die Börsengänge bevor. OpenAI-Chef Altman, zu dessen Unternehmen auch ChatGPT gehört, hat zwar gerade erst den mit Spannung erwarteten Börsengang seines Unternehmens in diesem Jahr mit Verweis auf die aktuelle Debatte ausgesetzt: „Man wäre schlecht beraten, genau jetzt an die Börse zu gehen.“ Doch die Vermutung liegt nahe, dass Altman mit seinem Vorstoß zum KI-Moratorium verloren gegangenes Vertrauen der Anleger zurückgewinnen möchte – um später dann mit neuer Wucht den Börsengang voranzutreiben.
Seltene Erden in Deutschland – KI kann sie finden
„Die Lage ist wahrscheinlich nicht so schlimm, wie sie teilweise dargestellt wird“, urteilt Elvers. Er sagt aber auch: „Das bedeutet aber nicht, dass die Technologie ungefährlich wäre. Sie kann sehr gefährlich sein, und wir müssen Wege finden, uns zu schützen.“ Gelingt das, könne die Technologie viel Gutes bringen.
„Deutschland steht in den kommenden Jahren vor großen Herausforderungen. Dazu gehören der demografische Wandel und der Arbeitskräftemangel“, weiß Elvers. „KI kann uns unterstützen, indem sie beispielsweise das Wissen von Mitarbeitern, die in den Ruhestand gehen, in KI-Systemen konserviert und an die nächste Generation weitergibt.“ Der Experte erzählt zudem noch von einem deutschen Start-up, das sich in Sachsen auf die Suche nach seltenen Erden spezialisiert hat – mittels KI. „Seltene Erden sind wichtige Rohstoffe für die Entwicklung von Chips, die wiederum für Computer und Smartphones – und KI – benötigt werden“, erklärt Elvers. „Vielleicht können wir in einigen Jahren selbst seltene Erden abbauen, eigene Chips entwickeln und unabhängiger werden. Das sind enorme Möglichkeiten. Wir sollten optimistisch und selbstbewusst darauf schauen.“
Mitglied des Ethikrates: „Brauchen KI, um uns vor KI zu schützen“
Auch Dr. Aldo Faisal, Mitglied des Ethikrates, Professor am Imperial College London und an der Universität Bayreuth, arbeitet an KI in der Medizin und blickt „vorsichtig optimistisch auf die Entwicklung Künstlicher Intelligenz“, wie er dieser Redaktion sagte. „In der Medizin zeigt sich bereits heute, dass KI Ärztinnen und Ärzte bei schwierigen Entscheidungen unterstützen, Fachkräfte entlasten und Patientinnen und Patienten helfen kann. Diese Chancen sind real, die Risiken sind es auch. Wir müssen beides ernst nehmen.“
Auch er lehnt einen Entwicklungsstopp ab. „Der Zug ist abgefahren“, sagt er. Und weiter: „Wirksamer ist es, Risiken dort zu regulieren, wo sie entstehen. Dazu gehören unabhängige Prüfungen, klare Haftung und Transparenz und unsere eigenen KIs.“ Denn KI-Sicherheit entstehe nicht durch Stillstand, sondern durch Gestaltung. Faisal ist sich sicher: „Wir werden daher KI brauchen, um uns selbst vor KI zu schützen.“