Der Beitrag KI-Pause aus Gewissensbissen? Wovor die Tech-Bosse wirklich Angst haben erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

Anthropic-Chef Dario Amodei fordert eine koordinierte Pause bei der Entwicklung leistungsfähiger KI-Modelle und bekommt dafür Zuspruch von OpenAI, Google und sogar Elon Musk. Ausgerechnet jetzt, nach einer Serie peinlicher Sicherheitsvorfälle und schwacher Geschäftszahlen, wollen die Tech-Bosse ihr Gewissen entdeckt haben. Warum hinter der KI-Pause vermutlich weniger Menschheitsschutz als Marktschutz steckt. Eine kommentierende Analyse.

Warum die Tech-Bosse eine KI-Pause fordern

• Die führenden KI-Unternehmen aus den USA sprechen sich aktuell dafür aus, das Entwicklungstempo bei besonders leistungsfähigen Modellen zu drosseln. Anthropic-Chef Dario Amodei schlug in einem Essay beispielsweise eine koordinierte KI-Pause vor. Sie soll der Branche ein bis zwei Jahre Zeit verschaffen, um Sicherheitsrisiken besser einschätzen und eindämmen zu können. Von der Konkurrenz um OpenAI, Google und xAI gab es binnen kürzester Zeit Zuspruch. Amodei warnt, dass KI-Agenten theoretisch innerhalb von sechs bis zwölf Monaten in der Lage seien, einen Großteil des Internets lahmzulegen und Schäden in dreistelliger Milliardenhöhe zu verursachen. Deshalb kündigte er konkrete Maßnahmen bei Anthropic an.
• Zuvor hatten mehrere namhafte KI-Anbieter binnen kürzester Zeit schwerwiegende Sicherheitsvorfälle eingeräumt. Anthropic machte den Anfang. Es folgten: OpenAI, Meta und das chinesische Unternehmen Moonshot AI. In allen Fällen soll eine KI aus einer Testumgebung ausgebrochen sein, sich mehr oder weniger verselbstständigt und im freien Internet eigenständig Aktionen ausgeführt haben. Ein KI-Agent von OpenAI hat sogar die Plattform Hugging Face gehackt, um seinen ursprünglichen Auftrag ausführen zu können. Dass gleich mehrere große KI-Anbieter unmittelbar nacheinander ähnliche Vorfälle eingestanden haben, scheint aber alles andere als Zufall zu sein. Zahlreiche Medien heizten den Hacker-Hype obendrein an.
• Laut einer aktuellen Umfrage würden 68 Prozent der US-Amerikaner ein Gesetz befürworten, das eine zwischenzeitliche Pause bei der KI-Entwicklung vorsieht. Das Umfrageinstitut Data for Progress hat dazu repräsentativ 1.332 Wahlberechtigte in den USA befragt. Konkret ging es dabei um einen entsprechenden Gesetzesentwurf von Bernie Sanders, Senator in Vermont, und dem demokratischen Abgeordneten Greg Casar. Auch in Deutschland zeichnet sich eine zunehmende Skepsis gegenüber KI ab. Immer mehr Menschen haben etwa den Eindruck, dass die Nachteile die Vorteile von KI überwiegen. 41 Prozent nutzen zwar regelmäßig künstliche Intelligenz. Mehr als 40 Prozent würden aber lieber in einer Welt ohne KI leben.

Sicherheitsrisiko oder PR-Kalkül?

Quasi im Wochenrhythmus wird KI aktuell mal als Heilsbringer und mal als existenzielle Bedrohung für die Menschheit befeuert. Dass die aktuellen Fortschritte tatsächlich etwas beängstigend wirken und rasend schnell vorangehen, lässt sich kaum wegdiskutieren. Das Problem ist aber weniger die Technologie selbst als ein verantwortungsvoller Umgang mit ihr.

Denn rund um den großen Hacker-Hype waren vor allem schlecht abgesicherte Testumgebungen oder fehlerhafte Zielvorgaben der Grund dafür, dass KI-Agenten ausbüchsen konnten. Hinzu kommen ein gewisses PR-Kalkül sowie klickgetriebener Alarmismus durch zahlreiche Medien.

Indes: KI kann zweifellos in vielen Fällen hilfreich sein – vor allem im Gesundheitsbereich, in der Forschung und in der Prozessautomatisierung. Doch es gibt auch Risiken, die eine Regulierung erfordern. Oft scheint es aber nur um die Frage zu gehen, was möglich ist und nicht darum, was sinnvoll ist. Nun wollen die Tech-Bosse also nach Jahren der KI-Peitsche ihr Gewissen wiederentdeckt haben?

Ich hege da so meine Zweifel. Warum? Einerseits, weil OpenAI zuletzt schwache Zahlen präsentiert hat – wieder einmal. Andererseits, weil Big AI offenbar einsieht, dass der Hacker-Hype rund um KI eher für Verunsicherung sorgt, als Investoren anzulocken, die mit Geldbündeln nur so um sich werfen. Stichwort: KI-Blase.

Oder: Bei der geforderten KI-Pause geht es vermutlich weniger um den bevorstehenden Weltuntergang als um das eigene Portemonnaie. Zumal eine gemeinsame Gewissensoffensive fast schon zu schön klingt, um wahr zu sein. Ist sie auch nicht! Sam Altman und Elon Musk sind so etwas wie Erzfeinde; OpenAI und Anthropic sind erbitterte Konkurrenten. Und nun wollen sich alle lieb haben und die Menschheit schützen? Mitnichten! Abermals geht es vielmehr um Eigeninteressen, aber dazu später mehr.

Was Sam Altman, Dario Amodei und Elon Musk sagen

• Anthropic-Chef Dario Amodei fordert in einem Beitrag auf X (ehemals Twitter): „Wir müssen das Tempo an der Grenze drosseln: Ich habe einen neuen Aufsatz darüber verfasst, warum die KI-Branche einen Gang zurückschalten sollte, und einen dreiteiligen Plan dafür vorgelegt. Anthropic verpflichtet sich einseitig zur Umsetzung des ersten dieser Schritte. Wir werden unabhängigen Gutachtern dauerhaften Zugriff auf unsere Systeme auf Mitarbeiterebene gewähren, damit sie die Einhaltung unserer Sicherheitsmaßnahmen überprüfen, Vorfälle melden und die Ausrichtung der Modelle während des Trainings bewerten können.“
• OpenAI-CEO Sam Altman kommentierte den Beitrag Amodeis: „Ich stimme Dario zu, dass wir die Entwicklung an der Grenze der Möglichkeiten dosieren müssen. Dies war in den letzten Wochen ein zentrales Thema unserer Diskussionen bei OpenAI. Die Verpflichtung, unabhängige Gutachter mit einem Zugang wie Mitarbeiter einzubeziehen, ist eine großartige Idee, und wir werden dies ebenfalls umsetzen. Wir werden bald mehr dazu mitteilen.“ Und sogar Elon Musk stimmte dem Vorschlag zu: „Dario hat recht.“
• KI-Experte Jacob Coxon sorgte bereits kurz zuvor für Schlagzeilen, nachdem er in einem Beitrag auf X (ehemals Twitter) warnte: „Ich habe heute bei Anthropic gekündigt. (…) Keines der beiden Unternehmen handelt verantwortungsbewusst. (…) Unterschätzt nicht die Leistungsfähigkeit dieser Technologie. Bald wird es übermenschliche Systeme geben, die alles hacken, jeden Bereich über Nacht revolutionieren und echte Macht und Ressourcen an sich reißen können. Die Menschen, die KI entwickeln, sind fest davon überzeugt, dass sie uns alle bis zum Ende dieses Jahrzehnts auslöschen könnte. Das ist kein Marketing-Gag.“

Warum sich trotz KI-Pause nur wenig ändern dürfte

Trotz immer lauter werdender Forderungen nach einer KI-Pause dürfte sich regulatorisch zunächst wenig ändern. Die USA wollen den KI-Wettstreit mit China nämlich unbedingt gewinnen, während Peking auf Maßnahmen pfeift und bislang kaum Anstalten macht, sich selbst auszubremsen. Oder: Um die Risiken von KI einzudämmen, bräuchte es einheitliche und globale Regeln, die es leider nie geben wird.

Denn sobald einer pausiert, eilt die Konkurrenz davon. Die Trump-Administration hat sich allen Risiken zum Trotz gegen eine KI-Regulierung ausgesprochen. US-Verteidigungsminister Pete Hegseth teilte etwa mit, dass KI im Pentagon nicht zu „tödlichen Entscheidungen“ beitrage. Wie beruhigend, dass die Entscheidungen immer noch Trump trifft. Nicht! Doch nun will sich Big AI selbst regulieren?

Dass ausgebüchste KI-Agenten und selbstständige Hacker-Ausflüge weniger gut angekommen sind als gedacht, hat man offenbar gemerkt. Denn wenn eine PR-Kampagne plötzlich mehr Verunsicherung als Begeisterung erzeugt, entsteht aus einem vermeintlichen Beweis technologischer Stärke schnell ein Reputationsproblem. Die Sicherheitsdebatte könnte deshalb auch ein Versuch sein, den misslungenen Hacker-Hype wieder einzudämmen. Oder weiter zu befeuern?

Indes: Bei der Frage nach dem tatsächlichen KI-Risiko sollte eigentlich niemand die Glaskugel befragen. Die oft postulierte zehnprozentige Wahrscheinlichkeit einer Auslöschung der Menschheit ist ebenso mit Vorsicht zu genießen wie die Gegenposition, die Gefahr liege bei null oder sei reine Marketing-Taktik. Die Wahrheit liegt vielmehr irgendwo dazwischen.

Zumal Forscher betonen, dass eine solche Prozentzahl scheinbar präzise sei, obwohl es schlicht kein Verfahren gibt, diese Wahrscheinlichkeit seriös zu berechnen. Big AI tritt derweil mehr oder weniger geschlossen auf die Bremse, weil man es kann. Denn OpenAI, Anthropic oder Google können sich strenge Sicherheitsmechanismen aufgrund ihrer Mittel und Infrastrukturen leisten, auch um kleinere Unternehmen, die das nicht können, vom Markt fernzuhalten. Außerdem wollen sie ihre Dominanz festigen und den eigenen Vorsprung durch eine Pause nicht der Konkurrenz preisgeben.

Auch interessant:

• KI-Faulheit: Hilfe, ich habe das Denken verlernt!
• TUM-Studie zu E-Autos liefert Stoff für neue Emissions-Lügen
• EU knöpft sich ChatGPT vor: Was sich für Nutzer jetzt ändert
• KI außer Kontrolle? Das große Medienversagen hinter dem Hacker-Hype

Der Beitrag KI-Pause aus Gewissensbissen? Wovor die Tech-Bosse wirklich Angst haben erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

"Musk" ist eine neue, fast vierstündige HBO-Doku. Der Regisseur Alex Gibney zeichnet darin kein rosiges Bild des Unternehmers, der als reichster Mann der Welt gilt. DIGITAL FERNSEHEN hat den Film bei der Biennale in Venedig gesehen.

Der Beitrag So gefährlich ist Elon Musk: Neue HBO-Doku übt scharfe Kritik erschien zuerst auf DIGITAL FERNSEHEN.