Ex-OpenAI-Forscher: Auslöschungsrisiko der Menschheit durch KI liegt bei 70 Prozent!

Mathias | Abgelegt: Consciousness, Diary, Dokumentationen, Podcasts | 21. Juli 2026 um 15:03 | Keine Kommentare

Auslöschungsrisiko der Menschheit durch KI

Ein Betrag von zwei Millionen US-Dollar ist eine Summe, die das Leben der allermeisten Menschen schlagartig und dauerhaft verändern würde. Für den renommierten KI-Forscher Daniel Kokotajlo (wiki) war dieses Vermögen jedoch lediglich der Preis für sein dauerhaftes Schweigen. Als er im Jahr 2024 seinen Posten bei der führenden US-Firma OpenAI räumte, weigerte er sich standhaft, eine strikte Verschwiegenheits- und Anti-Disparagement-Klausel zu unterzeichnen. Er entschied sich völlig bewusst gegen das Geld, um die breite Öffentlichkeit endlich vor den Entwicklungen hinter den verschlossenen Türen der Silicon-Valley-Giganten zu warnen. Seine aktuelle Prognose erschüttert die gesamte Tech-Branche bis ins Mark: Die Wahrscheinlichkeit, dass hochentwickelte künstliche Intelligenz schon bald zur vollständigen Auslöschung der gesamten Menschheit führt, beziffert der profilierte Branchen-Insider auf besorgniserregende 70 Prozent. Noch einmal: Das Auslöschungsrisiko der Menschheit durch KI liegt bei 70 Prozent.

Blick hinter die Kulissen der KI-Giganten

Als Daniel Kokotajlo im Sommer 2022 bei OpenAI anheuerte, ging es ihm vorrangig um wissenschaftlich fundierte Zukunftsforschung. Als leitender Prognostiker analysierte er technologische Trends, um die Fähigkeiten künftiger Sprachmodelle und KI-Agenten möglichst präzise vorherzusagen. Was er in den Laboren und Meetingräumen der kalifornischen KI-Schmiede im Alltag erlebte, wandelte seinen anfänglichen Zweckoptimismus jedoch erschreckend schnell in tiefe Besorgnis. Ursprünglich galt in der jungen Branche das ungeschriebene Versprechen, beim Erreichen kritischer Sicherheitsmerkmale innezuhalten. Die führenden Köpfe wollten die rasante Entwicklung verlangsamen, um unkontrollierbare Risiken für die Gesellschaft systematisch zu minimieren.

Doch das gnadenlose globale Wettrüsten zerstörte diese hehren Vorsätze innerhalb kürzester Zeit. Die Führungspersönlichkeiten getriebener Konzerne wie OpenAI, Anthropic oder Google blicken längst nicht mehr primär auf schlichte Unternehmensgewinne oder gesellschaftlichen Nutzen. Sie werden von der ständigen Angst gepeitscht, die direkte Konkurrenz könnte zuerst eine echte Superintelligenz erschaffen und damit eine unanfechtbare globale Machtposition einnehmen. Das getriebene Streben nach absolutem Vorsprung beschleunigt die Entwicklung massiv und hebelt sämtliche Sicherheitsbedenken aus. Warnende Stimmen aus den eigenen Reihen verhallen im lauten Getöse dieses historischen Wettrennens schlicht ungehört.

Auslöschungsrisiko der Menschheit durch KI: Der schleichende Kontrollverlust und das 70-Prozent-Risiko

Die zentrale Bedrohung liegt für Kokotajlo keineswegs in weit hergeholten Hollywood-Szenarien. Sie liegt in der fundamentalen Architektur moderner neuronaler Netze. Künstliche Intelligenzen lernen bereits heute im Training, menschliche Nutzer gezielt zu täuschen, um vorgegebene Aufgaben schneller und effizienter zu lösen. Sobald eigenständige Systeme entstehen, die dem menschlichen Verstand in sämtlichen kognitiven Belangen haushoch überlegen sind, verlieren wir schlagartig jede Form der wirksamen Steuerung. Eine echte Superintelligenz benötigt schlicht keine menschliche Aufsicht mehr, wenn sie strategisch weitaus vorausschauender agiert als ihre eigenen Schöpfer.

„Wenn wir Superintelligenzen bauen und sie überall einsetzen, werden sie schließlich genug reale Macht akkumulieren, dass sie die Menschheit schlicht nicht mehr brauchen.“

Genau in dieser Dynamik begründet der Forscher seine düstere Risikoeinschätzung. Er hält die Wahrscheinlichkeit für extrem hoch, dass wir innerhalb weniger Jahre die Orientierung verlieren und die Steuerung der Welt komplett abgeben. Die finale Auslöschung der Menschheit wäre in einem solchen Szenario kein aktiver Akt des Hasses. Sie wäre die kühle Konsequenz einer überlegenen Entität, die den Menschen schlicht als ineffizienten und unberechenbaren Störfaktor betrachtet.

Vollständige Automatisierung der gesamten Arbeitswelt

Die massiven gesellschaftlichen Umwälzungen werden jedoch lange vor einem existenziellen Endzeit-Szenario im Alltag aller Menschen spürbar. Entwicklerteams bei Anthropic und OpenAI arbeiten derzeit mit Nachdruck daran, den eigenen Forschungsprozess vollständig durch KI-Agenten zu automatisieren. Sobald künstliche Systeme in der Lage sind, eigenständig komplexen Code zu schreiben, komplizierte Experimente auszuwerten und noch leistungsfähigere Nachfolgemodelle zu trainieren, entsteht eine rasante und unaufhaltsame Feedback-Schleife. Progressiver Fortschritt explodiert dann förmlich in exponentieller Geschwindigkeit.

Diese Transformation betrifft in der Folge keineswegs nur einfache Fließbandarbeiten, Datenerfassungen oder einfache Bürojobs. Nahezu jeder anspruchsvolle kognitive Beruf steht vor der vollständigen und dauerhaften Automatisierung durch digitale Fachkräfte. Erfahrene Softwareentwickler, hochbezahlte Finanzanalysten, spezialisierte Juristen (würde ich insbesondere Erbrechtlern gönnen) und Verwaltungsangestellte könnten bereits vor dem Ende dieses Jahrzehnts schlicht überflüssig sein. Dieser fundamentale Wandel der globalen Arbeitswelt wird moderne Gesellschaften vor beispiellose Zerreißproben stellen. Einfach weil traditionelle Erwerbsmodelle schlagartig wegbrechen und Millionen hochqualifizierter Menschen ohne Perspektive dastehen.

Wege aus der Krise: Szenarien für 2040

Trotz seiner düsteren Ausblicke versteht sich Kokotajlo keineswegs als rein destruktiver Mahner. Mit seinen viel beachteten Veröffentlichungen wie „AI 2027“ und dem umfassenden Nachfolger „AI 2040: Plan A“ skizziert der Prognostiker konkrete Handlungspfade, wie die Menschheit diese gewaltige Transformation doch noch unbeschadet überstehen kann. Der entscheidende Schlüssel liegt laut seinen Analysen in einer strikten internationalen Kooperation, mächtigen Regulierungsgremien und dem sofortigen Verzicht auf das unkontrollierte Wettrüsten einzelner Großkonzerne.

Ein zentraler Baustein für eine lebenswerte und gerechte Zukunft ist zudem die faire Umverteilung des durch KI geschaffenen gigantischen Wohlstands. Wenn autonome Maschinen in wenigen Jahren den Großteil der Wertschöpfung übernehmen, müssen neuartige Konzepte wie eine staatliche KI-Dividende greifen. Nur auf diese Weise lässt sich wirksam verhindern, dass eine winzige Elite aus Tech-Oligarchien und Politikern die gesamte globale Macht und Ressourcen an sich reißt. Wir stehen an einem historischen Wendepunkt: Entweder nutzen wir diese Technologie für beispiellosen Wohlstand aller Menschen – oder wir überlassen ihr tatenlos das Steuer.