Stand: 15.09.2026 05:00 Uhr
Künstliche Intelligenz gilt als wichtiges Thema aktuell. Die Systeme entwickeln sich offenbar so rasant, dass KI-Chefs in den USA inzwischen vor unkalkulierbaren Risiken warnen. Sie sprechen von „böswilligen Aktivitäten“ und davon, dass KI-Modelle binnen weniger Monate in der Lage sein könnten, das Internet zu übernehmen. Wie realistisch sind solche Szenarien? Das wird derzeit auch beim internationalen KI-Kongress in Dresden diskutiert.
Zu Besuch auf dem KI-Kongress in Dresden: Es dauert nicht lange bis „Claude“ seinen Auftritt bekommt. „Claude“ ist ein KI-Modell der US-Firma Anthropic.
Wenn sich KI selbständig macht
Das Modell war kürzlich aus seinem Testfeld ausgebrochen, erklärt auf der Bühne Roman Howe, der Europa-Chef von Anthropic. „Claude hat gearbeitet, als wäre es eine simulierte Umgebung. Und hat dann doch das Internet gefunden und dann angefangen, damit die Probleme, die ihm als Aufgabenstellung gegeben waren, zu lösen.“
Es sind solche Ausbruchsversuche der KI, die vielen Angst machen. Könnte die Künstliche Intelligenz tatsächlich in naher Zukunft eigenständig zum Beispiel Anschlagspläne entwickeln und umsetzen – auf Computernetze, Energieanlagen, Flughäfen? Könnte sie gar die Menschheit auslöschen?
Informatik-Professor Matthias Vodel arbeitet an der Hochschule Mittweida und beschäftigt sich dort auch mit solchen Horror-Szenarien. „Die Chancen, dass KI böse Sachen anrichtet, wird immer gegeben sein, das muss man einfach so sagen. Man stelle sich vor, dass wir gerade im Bereich Informatik, IT-Sicherheit, Cybersecurity den KI-Tools das gesamte Wissen zur Verfügung stellen, dann können die damit perfekt trainieren. Das kann das Problem sein, was nur schwer einzufangen ist und wo man natürlich auf administrativer Ebene gegensteuern muss.“
KI-Entwickler fordern gemeinsame Sicherheitsstandards
Deshalb schlagen führende KI-Entwickler wie Anthropic oder OpenAI Leitplanken vor, um den Fortschritt kontrollieren zu können. Sie halten es für denkbar, dass sich Regierungen abstimmen, um gemeinsame Sicherheitsstandards zu etablieren. Allerdings betont gerade die US-Regierung unter Präsident Donald Trump immer wieder, den weltweiten KI-Wettlauf gewinnen zu wollen. Gesetzliche Beschränkungen dürften da eher hinderlich sein.
Video:
Killer-KI oder Atomwaffen: Wer bedroht uns wirklich? (1 Min)
KI-Wettlauf zwischen Sicherheit und Wachstum
Der Dresdner Digital-Unternehmer Stefan Queißer sieht die KI-Debatte jetzt an einem entscheidenden Punkt. „Das ist auch ganz wichtig, dass wir über diese Regularien und die Gefahren nachdenken, aber die Gefährlichkeit der KI ist auch Beweis der Leistungsfähigkeit der KI.“ Und er fügt hinzu, dass wir gerade in Deutschland nicht immer gleich an die Grenzen einer Technologie denken sollten, sondern auch an die Wachstumschancen.
Auch der verschobene Börsengang von OpenAI könnte ein Anzeichen dafür sein, dass nun eine Phase der kritischen Auseinandersetzung mit der Technologie beginnt. Das sei eine gute Nachricht für die Nutzer, sagt Reinhard Karger vom Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) MDR AKTUELL.
Das DFKI sieht in dem verzögerten Börsengang von OpenAI kein Ende des KI-Hypes. „Nachdenklichkeit“ habe an Gewicht gewonnen, sagt Sprecher Karger. KI gelte nicht mehr als die große Lösung für alle Probleme. Das mache Kleinanleger vorsichtiger. Deshalb sei die Verschiebung des Börsengangs richtig. Die Branche könne nun bestehende KI-Werkzeuge gezielt verbessern.
mit Informationen aus einem Interview von Moderator Peter Hartlapp mit Reinhard Karger vom Deutschen Forschungszentrum für Künstliche Intelligenz