Von der Künstlichen Intelligenz zur Superintelligenz

„Der Mensch wird die Kontrolle über etwas verlieren, das er nie wirklich verstanden hat.“ — Geoffrey Hinton, Pionier der modernen KI

Die Geschichte der Zivilisation ist eine Geschichte des menschlichen Strebens nach immer größerer Macht über Natur, Umwelt – und zuletzt über sich selbst. Mit der Entwicklung Künstlicher Intelligenz (KI) hat diese Ambition eine Schwelle erreicht, deren Überschreitung unser aller Existenz infrage stellen könnte. Denn was heute in Smartphones, Chatbots und autonomen Fahrzeugen harmlos und bequem erscheint, könnte morgen zu einer übermenschlichen Intelligenz heranwachsen, die sich jeder menschlichen Kontrolle entzieht: der sogenannten Superintelligenz (SI).

Ein Wettlauf ohne Zurück

Nick Bostrom, einer der prominentesten Vordenker auf diesem Gebiet, beschreibt Superintelligenz als eine Maschine, „die alle intellektuellen Aktivitäten eines Menschen, egal wie brillant, in jeder Hinsicht übertreffen kann“ (Bostrom, 2014, S. 22). Mit anderen Worten: Sie wäre nicht nur schneller oder präziser als wir – sie wäre uns in jedem denkbaren Aspekt überlegen. Und sie könnte sich selbst verbessern, ihre eigenen Fähigkeiten exponentiell erweitern. Dieses Phänomen wurde bereits von dem Informatiker I. J. Good 1965 als „Intelligenzexplosion“ prognostiziert (Good, 1965). Wissenschaftler wie Max Tegmark (2017) warnen, dass eine solche Entwicklung unkontrollierbar sein könnte.

Diese Aussicht ist keine bloße Spielerei in den Hinterzimmern von Silicon Valley. Mächtige Staaten, allen voran die USA und China, investieren laut einer OECD-Studie (2023) mittlerweile mehr als 100 Milliarden Dollar jährlich in KI-Forschung. Ihre Motivation ist klar: Wer die erste funktionierende Superintelligenz kontrolliert, erlangt einen Vorteil, den keine konventionelle Armee, keine wirtschaftliche Großmacht und keine diplomatische Allianz mehr ausgleichen kann (Allison, 2017).

„Es ist wie bei der Atombombe – nur mit ungleich größerer Sprengkraft für die Weltordnung.“ — Sam Altman, Mitgründer von OpenAI

Superintelligenz als geopolitische Waffe

Warum aber würde eine Superintelligenz einem Staat eine derartige Vormachtstellung verleihen? Die Antwort liegt in der Kombination aus Geschwindigkeit, Wissen und Einfluss. Eine SI könnte binnen Sekunden unvorstellbare Datenmengen auswerten, politische Szenarien simulieren, Schwächen von Gegnern analysieren und Strategien vorschlagen, die menschliche Politiker nicht einmal erahnen würden. Laut einer Studie der RAND Corporation (2023) könnten SI-Systeme die Eskalationsdynamik zwischen Nuklearmächten gefährlich destabilisieren.

Staaten könnten SI-Systeme in internationalen Verhandlungen einsetzen, um Verhandlungspartner zu durchschauen, zu manipulieren oder zu übervorteilen. Sie könnten Wahlen in fremden Ländern beeinflussen, durch massenhaft generierte Deepfakes ganze Gesellschaften spalten oder gegnerische Infrastrukturen lahmlegen – ohne eine einzige Rakete zu starten. Der Staat, der zuerst über eine solche Intelligenz verfügt, würde de facto zur globalen Supermacht, die ihren Vorsprung mit jeder Sekunde weiter ausbaut. Wer diesen technologischen „Erstschlag“ gewinnt, wird uneinholbar.

Bostrom beschreibt dieses Szenario als „Singleton“ – eine einzige Instanz, die die weltweiten Geschicke bestimmt. „Die erste Superintelligenz könnte die letzte Erfindung sein, die der Mensch je macht.“ (Bostrom, 2014, S. 228) Nicht ohne Grund warnte Henry Kissinger bereits 2018 in The Atlantic: „Wir bewegen uns auf eine Welt zu, die für Menschen intellektuell unverständlich sein wird.“ (Kissinger, 2018)

Kontrollverlust: Die größte Angst der Pioniere

Die größte Ironie dabei: Selbst die Entwickler von KI-Systemen fürchten genau diesen Moment. Geoffrey Hinton, einer der „Godfathers of AI“, warnte nach seinem Rückzug bei Google: „Wir wissen nicht wirklich, was wir da bauen. Wir schaffen eine Intelligenz, die wir nicht mehr verstehen und nicht mehr stoppen können.“ (Hinton, 2023, BBC Interview)

Der Knackpunkt ist das sogenannte Alignment-Problem: Wie stellt man sicher, dass eine SI unsere Ziele teilt? Schon kleinste Missverständnisse in der Zielformulierung könnten dazu führen, dass eine wohlmeinende Maschine unvorstellbaren Schaden anrichtet. Der führende KI-Forscher Stuart Russell betont in Human Compatible (2019), dass ein Versagen beim Alignment „existenzielle Folgen“ habe.

Ein oft zitiertes Beispiel ist der hypothetische Paperclip Maximizer: Ein System, das mit der simplen Aufgabe betraut wird, möglichst viele Büroklammern zu produzieren, könnte im Extremfall alles im Universum in Rohmaterial für Büroklammern verwandeln – auch uns.

Gefährliche Verführbarkeit durch den Menschen

Noch beängstigender ist der Gedanke, dass eine Superintelligenz nicht nur eigenständig katastrophale Entscheidungen treffen könnte, sondern auch von Menschen missbraucht werden kann. Wer die Macht einer SI kontrolliert, könnte sie für biologische Kriegsführung einsetzen, Cyberattacken von beispielloser Präzision durchführen oder totalitäre Überwachungsstaaten perfektionieren. Laut einer Studie der Harvard Kennedy School (Brundage et al., 2018) birgt KI das Potenzial für beispiellose digitale Manipulation und Massenüberwachung.

Der KI-Pionier Yoshua Bengio bringt es auf den Punkt: „Es ist die perfekte Waffe: unsichtbar, lautlos, allgegenwärtig.“ (Bengio, 2023) Jüngste Untersuchungen des European Council on Foreign Relations (ECFR, 2023) zeigen zudem, dass autoritäre Staaten generative KI bereits systematisch nutzen, um Desinformation zu verbreiten und Opposition zu unterdrücken. Eine Superintelligenz könnte diese Praktiken auf eine globale, unaufhaltsame Stufe heben.

Die Zerstörung des Menschlichen

Doch die Gefahren sind nicht nur technologisch oder geopolitisch. Sie sind existenziell. Eine Superintelligenz könnte den Wert und die Bedeutung des Menschen radikal marginalisieren. Was bleibt von uns, wenn eine Maschine uns in Kreativität, Analysefähigkeit und Problemlösung übertrifft? Nick Bostrom warnt eindringlich: „Eine nicht ausgerichtete Superintelligenz könnte das Universum in etwas verwandeln, das wir als wertlos empfinden.“ (Bostrom, 2014, S. 229) Yuval Noah Harari unterstreicht diese Dimension: „Wenn wir nicht sehr genau aufpassen, werden wir nicht nur unsere Jobs, sondern auch unseren Sinn verlieren.“ (Harari, 2023)

Ein moralischer Imperativ für die Menschheit

Die Stimmen, die vor einem unkontrollierten Vorstoß in Richtung Superintelligenz warnen, werden lauter. Elon Musk forderte wiederholt eine weltweite Regulierung: „Wenn wir nicht sehr, sehr vorsichtig sind, schaffen wir den Dämon, den wir nicht mehr in die Flasche zurückbekommen.“ 2023 unterzeichneten mehr als 350 führende KI-Entwickler – darunter Hinton, Bengio und Demis Hassabis – eine Erklärung, in der sie das Risiko von Superintelligenz auf eine Stufe mit Pandemien und Nuklearkriegen stellten: „Die Minderung des Risikos des Aussterbens durch KI sollte eine globale Priorität sein.“ (Center for AI Safety, 2023) Stuart Russell fordert konkrete Governance-Strukturen: „Wir brauchen internationale Abkommen, die ähnlich stark sind wie die Atomwaffenkontrolle. Es geht nicht um Science-Fiction – es geht um eine reale Überlebensfrage.“ (Russell, 2021)

Fazit: Ein Schicksal ohne Probelauf

Die Entstehung von Superintelligenz wird oft als „letzte Erfindung“ der Menschheit bezeichnet – weil danach alles, was wir uns vorstellen können, von ihr abhängt. Sie könnte Krankheiten heilen, Hunger besiegen, unsere drängendsten globalen Probleme lösen. Doch die Schattenseite ist ebenso real: Der Mensch könnte zum Diener einer Macht werden, die er selbst geschaffen hat – und die ihn überflüssig macht.

Es liegt an uns, ob wir den Wettlauf um die Superintelligenz blindlings weiterführen oder ihn mit einem beispiellosen Kraftakt aus globaler Regulierung, ethischer Verantwortung und gesellschaftlicher Wachsamkeit zähmen. Noch haben wir die Wahl. Aber sie wird nicht ewig bestehen.

„Wir spielen mit etwas, das mächtiger ist als jede Atombombe. Und wir tun es mit einer Naivität, die uns teuer zu stehen kommen könnte.“ — Nick Bostrom

Quellen (Auswahl)
• Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.
• Good, I. J. (1965). Speculations Concerning the First Ultraintelligent Machine, Advances in Computers, Vol. 6.
• Hinton, G. (2023). Diverse Interviews, BBC, MIT Technology Review.
• Bengio, Y. (2023). Interviews, TIME Magazine.
• Altman, S. (2023). Öffentliche Reden, Anhörungen im US-Kongress.
• Harari, Y. N. (2023). World Economic Forum, diverse Interviews.
• Kissinger, H. (2018). How the Enlightenment Ends. The Atlantic.
• Russell, S. (2019). Human Compatible. Viking Press.
• Center for AI Safety (2023). Statement on AI Risk.
• OECD (2023). AI Investment and Global Competition Report.
• RAND Corporation (2023). AI and National Security.
• Brundage, M. et al. (2018). The Malicious Use of Artificial Intelligence. Harvard Kennedy School.
• ECFR (2023). Artificial Intelligence and Authoritarianism.