Mark Zuckerberg hat sich diese Woche in die Debatte über das Aussterben durch künstliche Intelligenz (KI) eingeschaltet. Er erklärte, dass der Marktdruck KI-Labore bereits dazu bringt, Sicherheit zu priorisieren, auch ohne neue Vorschriften.
Der Chef von Meta (META) veröffentlichte diese Aussagen einige Wochen, nachdem er vor Superintelligenz gewarnt hatte. Er sagte, die Technologie solle einzelnen Nutzern helfen, nicht nur wenigen Unternehmen.
Eine Debatte, die Zuckerberg nicht begonnen hat
In diesem Essay im August erklärte er, dass weder ein einzelnes Unternehmen noch eine Regierung Superintelligenz-Systeme kontrollieren sollte. Stattdessen befürwortete er eine breite Verteilung.
Der Beitrag erschien, während Washington sich mit Warnungen aus der eigenen KI-Branche auseinandersetzt. Der Anthropic-Forscher Jacob Coxon kündigte dieses Monat seinen Job, da sein Arbeitgeber und OpenAI angeblich selbstverbessernde Systeme ohne ausreichende Schutzmaßnahmen vorantreiben.
Der Austritt von Coxon verstärkte die Forderung nach einem Verbot von Superintelligenz. Senator Bernie Sanders und Abgeordneter Greg Casar führen diesen Vorstoß im Kongress an.
OpenAI-Sicherheitsforscher Marcus Williams schätzte die Wahrscheinlichkeit des Aussterbens der Menschheit auf 70% innerhalb von drei Jahren. Er sagte, die Wahrscheinlichkeit könne sinken, wenn Labore langsamer arbeiten oder Regulierungsbehörden eingreifen.
Was Zuckerberg tatsächlich sagte
Zuckerberg argumentierte, dass die Ausrichtung, nicht Verbote, entscheidend dafür sei, welche KI-Agenten bestehen. Vertrauen werde zum wichtigsten Merkmal der Branche.
Die Menschen wollen keine Agenten nutzen, die nicht auf sie abgestimmt sind und nicht tun, was sie verlangen. Deshalb haben Labore einen starken, natürlichen Anreiz, ihre Modelle besser auszurichten.
Mark Zuckerberg äußerte sich dazu in einem Beitrag auf X.
Er verwies auch auf Metas eigene Maßnahmen zur Sicherheit. So verschob Meta den Start ihres Muse-Personal-Assistants vom ursprünglichen Termin im April, um Sicherheitsbedenken zu prüfen. Zuckerberg sagte, Meta habe eigenständig gehandelt, ohne auf branchenweite Vorgaben zu warten.
Er betonte weiterhin, dass Meta Superintelligence Labs (MSL) bereits unabhängige Gutachter einsetzt, um die Arbeit zu prüfen. Zuckerberg schlug vor, dass andere Labore ähnliche externe Prüfungen nutzen könnten.
Der Meta-Gründer ergänzte, dass es Entwicklung sicher mache, wenn der Großteil der Rechenleistung den Menschen dient und nicht der Selbstverbesserung.