Wenn die Maschine ihren eigenen Nachfolger baut: KI-Entwickler ruft selbst zur Vollbremsung auf

Es ist eine bemerkenswerte Szene: Ausgerechnet jene, die das Feuer entfacht haben, rufen nun nach dem Löschzug. Anthropic, das US-Unternehmen hinter dem KI-Chatbot Claude, fordert eine weltweite Pause bei der Entwicklung besonders leistungsstarker KI-Systeme. Wenn schon die Entwickler kalte Füße bekommen, sollte uns das zu denken geben.

Der Brandstifter ruft die Feuerwehr

In einem aktuellen Blogeintrag formuliert das Unternehmen unmissverständlich, es wäre gut für die Welt, über die Möglichkeit zu verfügen, die Entwicklung besonders fortgeschrittener Modelle verlangsamen oder pausieren zu können. Das Ziel: Gesellschaftliche Strukturen sollen sich anpassen, die Sicherheitsforschung soll aufholen. Vor allem aber gehe es darum, sicherzustellen, dass künstliche Intelligenz im Interesse der Menschen handle – und nicht gegen sie.

Besonders alarmierend wirkt eine interne Zahl, die Anthropic selbst nennt: Mehr als 75 Prozent des Codes, der in die eigene Codebasis einfließe, werde inzwischen vom Chatbot Claude geschrieben. Man lese das ruhig zweimal. Die Maschine programmiert sich selbst. Wenn Systeme ihre eigenen, fähigeren Nachfolger erschaffen, dann hält der Mensch nicht mehr den Hebel in der Hand – er steht nur noch daneben und schaut zu.

Die Macht in den Händen weniger

Dario Amodei, Chef von Anthropic, hatte bereits Anfang 2026 bekannt, er fühle sich höchst unwohl damit, dass eine kleine Gruppe von Firmenchefs – ihn selbst eingeschlossen – faktisch über die Zukunft dieser Technologie entscheide. Die größte Gefahr sieht er darin, dass Autokraten die KI nutzen könnten, um ihren Bürgern dauerhaft die Freiheit zu rauben und einen totalitären Staat zu errichten, dem niemand mehr entkomme.

Technologischer Fortschritt verbessert nicht zwangsläufig das Leben der breiten Bevölkerung – er verbessert vor allem die Lage jener, die ihn kontrollieren.

Genau dies argumentierten auch die MIT-Ökonomen Daron Acemoglu und Simon Johnson in ihrem Werk „Power and Progress“. Ihr Befund: Die KI sei in einem beunruhigenden Maß auf wenige Konzerne konzentriert. Schon 2023 unterzeichneten über tausend Experten – darunter Elon Musk und Apple-Mitgründer Steve Wozniak – einen offenen Brief, der eine sechsmonatige Entwicklungspause forderte. Passiert ist nichts. Musk gründete kurz darauf kurzerhand sein eigenes KI-Unternehmen. So viel zur Glaubwürdigkeit selbsternannter Mahner.

Warum die Bremse nicht greift

Amodei selbst räumt ein, dass einseitige Pausen nichts bewirkten. Sie verschöben lediglich, wer im Wettlauf vorne liege. Die Technologiekonzerne haben Milliarden in Rechenzentren versenkt und ihr gesamtes Geschäftsmodell auf diese Zukunftstechnologie ausgerichtet. Wer freiwillig vom Gas geht, überlässt das Feld der Konkurrenz. Ein klassisches Dilemma – und niemand will der Erste sein, der verliert.

Drei Millionen Arbeitsplätze im Wandel

Für den normalen Bürger dürfte die unmittelbarste Sorge der eigene Arbeitsplatz sein. Das McKinsey Global Institute rechnet damit, dass bis 2030 rund 30 Prozent der Arbeitsstunden in Europa und den USA automatisiert werden könnten. In Deutschland wären bis zu drei Millionen Arbeitsplätze von Veränderungen betroffen – besonders im Bürobereich. Während andere Nationen wie Kanada mit ehrgeizigen KI-Strategien voranpreschen und neue Arbeitsplätze schaffen wollen, fragt man sich, wo eigentlich die deutsche Antwort bleibt. Statt Zukunftstechnologien strategisch zu fördern, verliert sich Berlin in Symbolpolitik und Schuldenbergen.

Die wahren Risiken kommen leise

Deepfakes und KI-generierte Desinformation können politische Prozesse destabilisieren und ganze Gesellschaften ins Wanken bringen. Biometrische Massenüberwachung untergräbt die Privatsphäre, autonome Waffensysteme entziehen sich der menschlichen Kontrolle. Geoffrey Hinton, einer der Väter des modernen maschinellen Lernens, trat 2023 bei Google zurück und bereute öffentlich einen Teil seiner Lebensarbeit. Wenn der Schöpfer sein Werk verflucht, ist Wachsamkeit geboten.

Was bleibt: Werte, die keine Maschine schreiben kann

In einer Welt, in der Maschinen ihre eigenen Nachfolger programmieren, Desinformation Wahrheit von Lüge ununterscheidbar macht und ganze Branchen über Nacht verschwinden könnten, stellt sich die Frage nach echter Stabilität dringlicher denn je. Vertrauen lässt sich nicht in Code gießen. Physische Edelmetalle wie Gold und Silber kennen keine Algorithmen, keine Server, keine plötzlichen Updates. Sie liegen greifbar im Tresor und haben über Jahrtausende bewiesen, dass sie auch dann Bestand haben, wenn die digitalen Versprechen der Gegenwart sich in Luft auflösen. Als Beimischung zu einem breit gestreuten Vermögen bleiben sie ein Anker der Beständigkeit – gerade in unsicheren Zeiten.

Haftungsausschluss: Die in diesem Beitrag dargestellten Inhalte geben ausschließlich die Meinung unserer Redaktion sowie die uns vorliegenden Informationen wieder. Sie stellen keine Anlageberatung dar. Jeder Anleger ist verpflichtet, eigenständig zu recherchieren und trägt die Verantwortung für seine Anlageentscheidungen selbst. Wir übernehmen keinerlei Haftung für etwaige Verluste oder Schäden, die aus Entscheidungen auf Basis dieses Artikels resultieren.