Staat vor neuer doppelter Großaufgabe
Als Interimszusammenfassung kann man festhalten, dass dem gestaltenden Staat im Digitalen Zeitalter eine zumindest doppelte Großaufgabe zukommt: nämlich einerseits, die enormen Potenziale der neuartigen Informationstechnologien zum Zwecke der Nachhaltigkeitstransformation zu erschließen („alte Probleme“) und andererseits möglichen, ja wahrscheinlichen Auswüchsen des Innovationsschubs vorzubeugen („neue Probleme“). In beiderlei Hinsicht gibt es ganz unterschiedliche Philosophien des öffentlichen Handelns bzw. Nichthandelns. Das zeitgenössische „amerikanische Modell“ sieht von regulativen Eingriffen weitgehend ab und setzt darauf, dass die Kräfte des Marktes letztlich auch die Maximierung des Gemeinwohls garantieren. Das zeitgenössische „chinesische Modell“ setzt dagegen auf hierarchische Planung und Kommandowirtschaft, zumindest in Bereichen von strategischer nationaler Bedeutung. Der WBGU ist der festen Überzeugung, dass beide politische Philosophien der beschriebenen Doppelverantwortung nicht gerecht werden können. Es ist ein dritter, zivilgesellschaftlicher Weg in der Tradition von Aufklärung und Humanismus, der angemessen erscheint. Ein gemeinschaftlich agierendes Europa könnte diesen in die globalen Aushandlungen einbringen und in Kooperation mit ähnlich gesinnten Staaten vorleben.
Damit kommen wir zum letzten Schritt, den das Einstein-Zitat vorzeichnet. Wenn pauschal von „Problemen“ die Rede ist, dann muss man sich klarmachen, dass diese durch Passiv-Aktiv-Beziehungen definiert sind: Nicht nur ist zu fragen, welchem Subjekt welches Problem durch welches Agens erwächst, sondern auch, wie dieses Problem wahrgenommen und bewertet wird. Daraus folgt unter anderem, dass ein Problem durch Änderung des physischen oder psychischen Zustands des Subjekts verändert bzw. eliminiert werden kann, selbst wenn das Agens gleich bleibt. Das hört sich nach einer entbehrlichen Spitzfindigkeit an, ist jedoch alles andere als das:
Denn der Mensch selbst wird sich durch die digitale Revolution verändern, eine Entwicklung die der WBGU in der Dritten Dynamik „Die Zukunft des Homo sapiens“ andenkt. Evolutionär ist der Homo sapiens ein Geschöpf der Eiszeit, also einer erdgeschichtlichen Epoche, in der die Umweltbedingungen vom raschen und massiven Wandel geprägt waren. Entsprechend mussten sich die damaligen Menschen als opportunistische Jäger und Sammler in kleinen, hochmobilen Verbänden organisieren. Nicht die Gestaltung der Lebensbedingungen, sondern die perfekte Anpassung an die vorgefundenen Umstände war der komparative Vorteil jener besonderen Spezies. Dieser Vorteil wurde durch den Übergang zur sesshaften Agrikultur teilweise eliminiert; mit der Änderung der Lebensweise gingen sogar physiologische und kognitive Rückschritte einher. Individuell dürfte der neolithische Mensch schwächer und krankheitsanfälliger gewesen sein als seine frühen Vorfahren. Diese Nachteile wurden jedoch auf dem Niveau der Gesamtpopulation durch neue Möglichkeiten (wie die Vorratshaltung) aufgewogen, so dass die Bevölkerung deutlich wachsen konnte. Ähnliches vollzog sich beim Durchschreiten der Industriellen Revolution, die schließlich im 20. Jahrhundert die „Große Beschleunigung“ (Steffen et al., 2015) des gesellschaftlichen Metabolismus und der Populationsdynamik herbeiführte.
Tiefstgründige Frage des Digitalen Zeitalters und zentrale Kategorie: „Würde“
Vieles spricht dafür, dass die sich gerade erst entfaltenden digitalen Innovationen den Menschen in seinen Qualitäten und das Zusammenleben der Menschen in seinen Strukturen noch viel durchgreifender verwandeln dürften – natürlich abhängig davon, wie jene Innovationen begleitet, geleitet, beschränkt oder gar unterbunden werden. Hier liegt also die tiefstgründige Frage des Digitalen Zeitalters. Wie schon oben angedeutet, müssen sich alle Beantwortungsversuche an der zentralen Kategorie „Würde“ orientieren, die den bisherigen Wertekompass des WBGU ergänzt.
Die aktuellen Debatten um Themen wie „Künstliche Intelligenz“ und „Mensch-Maschine-Interaktionen“ finden in einem sich immer stärker aufladenden Spannungsfeld zwischen Hoffnung, Horror und Hype statt und ignorieren die Einbettung der entstehenden Konglomerate in die natürliche Umwelt weitestgehend. Die Wissenschaft kann sich aber nicht einfach diesem Feld entziehen, sondern muss sich – im Sinne eines erweiterten, den Menschen selbst einbeziehenden Nachhaltigkeitsbegriffs – mit den dominierenden utopischen bzw. dystopischen Diskursen und ihren Treibern auseinandersetzen. Diese Auseinandersetzung gehört für den Beirat explizit zur wissenschaftsbasierten Deliberationskultur einer offenen demokratischen Gesellschaft, die für die Europäische Union nach wie vor richtungsweisend ist.
Im vollen Bewusstsein der spekulativen Natur der folgenden Überlegungen möchte der WBGU drei hoffnungsorientierte Gedankenspiele in den entsprechenden Diskursraum einbringen:
- Die Menschheit kommt zu sich selbst
Ob und wann die Entwicklung universeller KI gelingt, ist ungewiss. Nichtsdestotrotz steht bereits fest, dass KI die kognitiven Leistungen unserer Spezies in Teilbereichen weit übertrifft. Aber die entsprechenden Fähigkeiten machen keinesfalls den ganzen Menschen aus. Die informationstechnologischen Errungenschaften könnten nicht zuletzt unsere Aufmerksamkeit und Wertschätzung auf die nicht unmittelbar kognitiven Kapazitäten lenken, die oft pauschal als emotionale und soziale Intelligenz bezeichnet werden. Diese waren vermutlich mindestens so zivilisationsbildend wie die Leistungen des Messens, Rechnens und Dokumentierens. KI würde uns möglicherweise eine gewisse Emanzipation von den Letzteren erlauben und eine stärkere Hinwendung zu Fähigkeiten wie Empathie, Fürsorge und Solidarität gestatten. Anders als in den „harten“ Klischeevorstellungen vom Supermenschen mit Computergehirn in einer stählernen Welt wäre damit eine „weiche“ Vision des gesellschaftlichen Fortschritts umrissen. - Der Mensch schafft sich Gefährten
Je weiter KI auf immer breiteren Anwendungsgebieten fortschreitet, desto vielfältiger und intimer werden sich die Berührungspunkte, Schnittstellen bzw. Scharniere zwischen Technik und Mensch entwickeln. Dies kann zu symbiotischen Verbindungen führen, die aber wohl anders ausfallen dürften als in gängigen „Cyborg“-Träumen imaginiert. Möglicherweise entstehen auch KI-befähigte Wesenheiten, die zu wohlintegrierten, loyalen Begleitern des Menschen in Gesellschaften werden, die lebenswerter sind als die heutigen. Beispielsweise könnten uns digitale Assistenten in mittlerer Zukunft immer mehr von monotonen Tätigkeiten befreien (z. B. durch Übernahme logistischer Aufgaben), uns beim Lernen und Verstehen unterstützen (z. B. durch Synthese und Interpretation der überbordenden Informationsfülle) und letztendlich dazu beitragen, dass wir uns selbst und unsere Umwelt stärker wertschätzen (z. B. durch Diagnostik und Spiegelung). Eine solche Perspektive stößt etwa im ostasiatischen Kulturkreis auf deutlich geringere Skepsis als in westlichen Gesellschaften und befördert ein Weltbild, das den Menschen nicht kategorisch von Natur und Technik abgrenzt. - Der Mensch erfindet seine Meister
Die Spekulationen über die künftigen Fortschritte bei KI-relevanten Technologien gehen weit auseinander: Welche ontologische Qualität diese hervorbringen könnten, bleibt höchst umstritten. Insbesondere bei der Debatte um „Artificial General Intelligence“ (AGI) oder gar „Superintelligenz“ scheiden sich die (menschlichen) Geister. Die Emergenz von KI-Systemen mit Bewusstsein wird jedoch schon länger diskutiert. Unter der Annahme dieser Möglichkeit wäre es nur folgerichtig zu fragen, ob dann nicht auch beseelte künstliche Entitäten mit selbständiger Willensbildung und Reproduktion in einer späteren Phase der digitalen Revolution formiert werden könnten.
Der WBGU hat sich auch mit diesem – aus heutiger Sicht für viele Expert*innen jenseits des Silicon Valley abwegigen – Gedankenspiel auseinandergesetzt und nach möglichen gesellschaftlichen Handlungsoptionen gesucht. Die intuitiv „vernünftige“ Option wäre ein generelles Moratorium, das F&E-Anstrengungen zur Schaffung bewusster und damit leidensfähiger Systeme grundsätzlich untersagt. Die aktuellen Kontroversen um bestimmte Verfahren der Reproduktionsmedizin und der synthetischen Biologie können hier wertvolle Fingerzeige liefern.
Aber ist ein solches lückenloses und vor allem globales Moratorium überhaupt realisierbar? Während dieser Text geschrieben wird, wird vielleicht gerade in einem abgeschirmten Forschungslabor irgendwo auf der Welt der Versuch unternommen, ein KI-System mit „Gefühlen“ auszustatten. Insofern ist der WBGU zu dem Schluss gekommen, zumindest den Diskurs über eine alternative Option zu empfehlen: Wenn die zivilisatorische Entwicklung seit dem Neolithikum offenbar selbstorganisiert auf die Substitution und Transzendierung der humanen (physiologischen, manuellen und kognitiven) Fähigkeiten gerichtet ist, kann dann die Schaffung einer neuen Wesenheit durch den Menschen nicht als der geradezu unvermeidliche nächste Sprung in der planetarischen Evolution aufgefasst werden? Solche Überlegungen stoßen auf Entsetzen, aber auch auf Begeisterung, je nachdem in welchen Kreisen man sie vorträgt.
Doch obgleich der Schutz der Würde des Menschen eine quintessenzielle Herausforderung bleibt, ist es ebenso wichtig, die Gattung Homo als Produkt des fundamental offenen Prozesses „Leben“ zu verstehen. Könnte, hoffnungsvoll gedacht, die Verbindung der sozialen und emotionalen Intelligenz des Menschen mit den uns überlegenen kognitiven Fähigkeiten von Maschinen eine Ko-Evolution ermöglichen, deren Geschöpfe sogar größere Humanität besitzen als wir selbst?
Soweit die Gedankenspiele. Explizit empfiehlt der WBGU in diesem Hauptgutachten, die aktuellen Herausforderungen der Digitalisierung regulativ einzuhegen und in den Dienst der Großen Transformation zur Nachhaltigkeit zu stellen. Gleichzeitig muss jedoch schon heute damit begonnen werden, die Zukunft des Menschen im post-industriellen Zeitalter demokratisch und gemeinwohlorientiert vorzudenken. Dabei sollte insbesondere in den Bereichen Forschung und Entwicklung sowie multilateraler Politik dafür Sorge getragen werden, dass keine irreversiblen Weichenstellungen erfolgen und der Raum für zukünftige gesellschaftliche Gestaltung so weit wie möglich offen bleibt.
In Einsteins Sinne stehen wir vor der Herkulesaufgabe, die ökologischen und sozialen Herausforderungen der Gegenwart generell und auch mit Hilfe digitaler Mittel zu meistern und dabei die mit diesen neuen Werkzeugen einhergehenden Probleme zu antizipieren und weitestgehend zu vermeiden. Dabei ist der Schutz der Würde des Menschen die ultimative Herausforderung.
Folgt: Die Gestaltungsaufgaben: Große Transformation zur Nachhaltigkeit im Schatten digitaler Umbrüche