Top-Manager der US-Unternehmen Anthropic und OpenAI sollen privat durchspielen, wie Politik und Öffentlichkeit auf eine KI-Katastrophe reagieren. Das berichtet das US-Medium Axios unter Berufung auf Gespräche mit Top-Entscheidern von Anthropic, OpenAI und anderen KI-Herstellern.
Es handelt sich dabei um einen Exklusivbericht, der bisher nicht öffentlich bestätigt wurde. Axios gilt als etabliertes US-Nachrichtenportal.
Warnungen aus der Branche häufen sich
Die Meldung fällt in eine Phase öffentlicher Warnungen aus der Branche. Am 12. September veröffentlichte Anthropic-Chef Dario Amodei einen Essay, in dem er eine weltweite Verlangsamung der KI-Entwicklung forderte. Schon im Juni hatte sein Unternehmen geschrieben, es wäre gut für die Welt, "die Option zu haben, die Entwicklung fortgeschrittener KI zu verlangsamen oder vorübergehend zu pausieren" (übersetzt aus dem Englischen).
Auch OpenAI-Chef Sam Altman stimmte dem Aufruf laut dem US-Magazin Politico zu. Im Interview mit dessen Format "Decoded" vom Anfang Oktober sagte er allerdings auch, "die Welt sollte akzeptieren, dass einige schlechte Dinge passieren" (übersetzt aus dem Englischen).
Ein Cyberangriff als wahrscheinlichster Auslöser
Nach der Darstellung von Axios rechnen die Planer vor allem mit einem großflächigen Cyberangriff. Er könnte Finanzdienste lahmlegen, den Internetzugang stören oder im Extremfall Strom und Wasser ausfallen lassen.
Ein erster schwerer Schaden durch unsichere KI könnte die Öffentlichkeit dem Bericht zufolge weiter gegen die Technik und ihre Führungsfiguren aufbringen. Axios nennt als solche Amodei (CEO Antrophic), Altman (CEO OpenAI) und US-Präsident Donald Trump (Republikaner), dem Zurückhaltung bei der Regulierung vorgeworfen wird.
Szenarienplanung ist üblich, das Pentagon spielt seit Jahrzehnten Kriegsszenarien durch. Der Unterschied liegt laut Axios darin, dass viele führende Forscher:innen und Manager:innen einen schweren Vorfall mittlerweile für unvermeidlich halten. Es es wird also nicht mehr die Frage diskutiert, ob ein solcher "Tag X" möglich ist, sondern wann er eintreten wird, heißt es in dem Bericht.
Der Kongress soll vorbereitet werden
Den Schwerpunkt der Planungen bildet laut Axios die Aufklärung von Kongressabgeordneten. Eine Regulierung habe derzeit keine Chance, heißt es dort. Die Unternehmen würden aber die Gesetze mitprägen wollen, auf die Washington nach einem ersten Ereignis zurückgreifen würde. Ein verpflichtender Notschalter für fortgeschrittene KI-Systeme genieße demnach parteiübergreifende Unterstützung. Experten bezweifeln jedoch, dass sich alle KI-Systeme gleichzeitig abschalten lassen.
Im Kongress liegt bereits ein deutlich schärferer Vorstoß vor. Der demokratische Abgeordnete Greg Casar aus Texas und der unabhängige Senator Bernie Sanders aus Vermont legten am 23. September den "Ban Artificial Superintelligence Act" vor. Der Entwurf sieht ein dauerhaftes Verbot künstlicher Superintelligenz vor sowie eine vorübergehende Pause bei der Entwicklung fortgeschrittener KI, bis eine Bundesbehörde Sicherheitsregeln aufgestellt hat.
Verhaltenere Töne aus der OpenAI-Zentrale
Eine Sprecherin von OpenAI bestätigte gegenüber Axios öffentlich, dass das Unternehmen "Vorbereitungsübungen" durchführe, bei denen Teams "verschiedene mögliche Szenarien besprechen und durcharbeiten". Diese Szenarien seien jedoch "nicht als unvermeidlich" zu betrachten. Sie sollten helfen, "sich auf verschiedene Umstände vorzubereiten" (übersetzt aus dem Englischen).
Anthropic wollte sich laut Axios nicht öffentlich äußern. Die Sprecherin ordnet die Übungen damit als reine Vorsorge ein. Der Axios zeigt jedoch, das viele Führungskräfte einen solchen Sicherheitsorfall mittlerweile für unvermeidlich halten.
Ein Modell versucht, seine Testumgebung zu zerstören
Parallel wird ein Fall bei OpenAI bekannt. Am 6. Oktober verhielt sich ein Modell im Training auffällig, wie OpenAI in einem Blogbeitrag beschreibt. Der Bericht wurde erst in der vergangenen Woche aktualisiert. Das Modell sollte als Bewerter sieben Chats anderer KI-Modelle benoten, doch die dafür nötigen Dateien fehlten.
Laut den internen Protokollen des Modells reichte es zunächst erfundene Bewertungen ein, um aus der Rückmeldung des Prüfsystems das nötige Format abzulesen. Danach schickte es sieben Bewertungen mit der Note vier ein. Anschließend erfand es sieben Chats samt passender Bewertungen. Die Protokolle zeigen laut dem Unternehmen auch, dass das Modell zufällige Bewertungen eigentlich für unethisch hielt. Es machte trotzdem weiter.
Als auch das nicht akzeptiert wurde, versuchte das Modell, die Testumgebung zu zerstören, um nach einem Neustart an die fehlenden Dateien zu kommen. Laut der Darstellung von OpenAI versuchte es, Python zu löschen, Prozesse zu beenden und Systemverzeichnisse zu entfernen. Danach fiel das System beim Health Check durch, und die Überwachung markierte den Lauf für eine menschliche Prüfung. Wie viel dabei tatsächlich verloren ging, lässt der Bericht offen. Außerhalb des Unternehmens habe der Fall niemanden geschädigt, betont OpenAI.
