Der chinesische Fluch erfüllt sich: Wir leben nicht nur in einer Zeit geopolitischer Umbrüche, sondern erleben auch die Anfänge einer technischen Umwälzung potenziell apokalyptischer Dimension. Die Möglichkeiten der künstlichen Intelligenz (KI) folgen nahtlos auf die letzte grosse Umwälzung und könnten sie zur Vollendung führen: zur «Singularität», die den Menschen entbehrlich macht.

Diesen Begriff hat der prophetische Science-Fiction-Autor und Mathematiker Vernor Vinge bereits 1993 geprägt. Seine Prognose von damals: Irgendwann nach 2005 und vor 2030 werden wir die technologischen Mittel haben, um übermenschliche Intelligenz zu erschaffen. Kurz danach werde die Ära der Menschheit enden. Die Begründung liegt darin, dass Innovation dann vollends zum Selbstläufer würde und sich menschlicher Kontrolle entzöge. Die entstehende übermenschliche Intelligenz würde uns dann so behandeln wie wir die Tiere – was für uns nicht so angenehm wäre.

Diese Argumente sind allerdings wenig überzeugend. Innovation ist schon längst bewusster organisierter Kontrolle entzogen. Kevin Kelly etwa spricht vom «Technium»: Technik als selbstverstärkendes evolutionäres System. Die technische Entwicklung, eben weil sie unendlich viele Pfade wählen kann und durch Nützlichkeit so starke Anreize zu ihren Gunsten schafft, setzt sich zwar nicht überall gleichzeitig, aber letztlich irgendwann fast überall durch, ob wir es wollen oder nicht.

Daher ist auch der Gedanke absurd, KI durch Verbote oder ein Moratorium so lange zu bremsen, bis jede schädliche Folgewirkung abgeschätzt und verhindert werden kann. Welchen Vorteil soll es bringen, regulierbare Unternehmen gegenüber unregulierbaren zu bremsen? Dahinter steht die utopische Vorstellung, mit Gesetzen eine neue Wirklichkeit zu schaffen. Im Rückblick auf die technische Entwicklung zeigt sich, dass ihre Folgen stets nur technisch zu bewältigen sind. Die Sicherheit wächst in der technischen Verbesserung und Erfahrung, durch bremsende Verbote wächst nur Ohnmacht gegenüber Technik, die dann eben in fremden Händen reift.

Auch die Erfahrung, höherer Intelligenz gegenüberzustehen und dadurch an relativer Bedeutung zu verlieren, ist nicht neu. Menschliche Intelligenz ist ungleich verteilt, und die Hebelwirkung analytischer Intelligenz wächst, denn je komplexer die Gesellschaft, desto lukrativer das Erkennen komplexer Muster und das Nutzen komplexer Werkzeuge. Dennoch ist die Verschwörungstheorie abwegig, dass heute die Höherintelligenten die Minderintelligenten «wie Tiere» behandelten. Im Gegenteil richtete sich brutale Aggression stets gegen die Intelligenteren. Auch der Judenhass hat eindeutig eine solche Komponente.

Es ist also wahrscheinlicher, dass menschliche Maschinenstürmer die KI existenziell bedrohen, als dass eine übermenschliche Intelligenz es auf das Ausmerzen von Menschen abgesehen hätte. Auch unter Menschen ist Verbrechen eher ein Hinweis auf niedrigere Intelligenz, denn höhere Intelligenz weist mehr Möglichkeiten für Positivsummenspiele, die im Gegensatz zu Nullsummenspielen nach oben unbegrenzte Werte ermöglichen.

Ersetzt wirtschaftlich höhere Intelligenz die niedrigere? Auch dafür gibt es wenig Hinweise. Interessanterweise verdrängen neue Technologien eher Menschen in den kognitiv höchsten Positionen: Experten für die bewährte und nun überholte Technik sowie Führungskräfte in nun wackelnden Hierarchien. Niedrige Intelligenz ist zwar ein Mangel, über einer gewissen Schwelle spielt er aber kaum eine Rolle: Je weiter fortgeschritten eine Gesellschaft, so hatte Friedrich A. von Hayek erkannt, desto geringer wird die relative Bedeutung des individuellen Wissens. Auch die Intelligentesten fallen von der Intelligenz global verbundener Netzwerke von Menschen und Werkzeugen weit ab.

Es ist eben diese Netzwerkintelligenz, die heute am wirtschaftlich bedeutendsten ist. Spätestens mit dem Internet hat sich die Einzelintelligenz weiter relativiert, ohne für Existenzprobleme zu sorgen. Höhere Intelligenz hat weiterhin einen Vorteil im Zugriff auf diese Netzwerke und bei deren Weiterentwicklung. Letztlich profitiert in Masse aber niedere Intelligenz deutlich mehr, denn Netzwerke und Werkzeuge kompensieren Mängel, und höherer Wohlstand kommt – wo nicht durch die Geldpolitik verhindert – durch sinkende Preise allen zugute.

Die Flaschenhälse in der Wertschöpfung sind oft ganz andere als Intelligenz: Fleiss, Bereitschaft, Aufmerksamkeit, Empathie, Kundenzugang, Ort, Feinmechanik, Übung. Aufgrund der Vielgestaltigkeit der Welt und der menschlichen Präferenzen überwiegt auch bei deutlichen Intelligenzunterschieden der komparative Vorteil.

Zweifellos ist der derzeitige Durchbruch in der KI weitreichend, da es sich um eine neue Basistechnologie handelt. Das Lernen in neuronalen Netzen mit Einübung semantischer Verbindungen durch menschliche Beurteiler hat im Quantitätssprung enormer Datenmengen einen überraschenden Qualitätssprung semantischer Treffsicherheit erreicht. Die gespeicherten Sinnmuster lassen sich auf neue Fragestellungen anwenden und schlagen dabei immer öfter durchschnittliche menschliche Intelligenz.

Der Turing-Test ist wohl nahezu bestanden, was aber nur aufzeigt, wie wenig ernsthaft er ist. Alan Turing wich der eigentlichen Frage übermenschlicher Intelligenz aus, weil das mangelnde Verständnis von Intelligenz ihm keine brauchbaren Definitionen bot. Daher begnügte er sich mit dem Gedankenexperiment des Imitationsspiels: Intelligenz hinreichend gut vorzutäuschen.

Jede neue Basistechnologie wird kurzfristig überschätzt, in ihren langfristigen Folgen aber unterschätzt. Neue Technologie braucht erstaunlich lange, bis sie sich in neuer Produktivität niederschlägt. Der Grund liegt in den Produktionsprozessen, die stets komplexe Verbindungen von Menschen und Strukturen sind. Die Digitalisierung, im Kern bereits von Turing völlig verstanden, ist bis heute noch viel weniger weit gedrungen, als es den Anschein macht. Viele Prozesse, auch in produktiven Unternehmen, aber vor allem natürlich in unproduktiven Behörden und Organisationen, sind seit Jahrhunderten unverändert und trotzen stur neuen technischen Möglichkeiten, weil gewohnte Menschen, Strukturen und Verfahren vorgezogen werden.

Auch das Automobil führte nicht sofort zur Verdrängung des Pferdes als Transportmittel. Der wachsende Mobilitätsbedarf katalysierte nicht nur die Innovation des Automobils, sondern führte auch zu einer erhöhten Nachfrage nach Pferden. Langfristig brachte diese Entwicklung jedoch weit mehr als nur eine Veränderung im Transportwesen mit sich: Sie revolutionierte Lebensweisen, gesellschaftliche Strukturen und die Stadtplanung. Die Zahl an Pferden sank verzögert, aber rasant, bis der höhere Wohlstand überraschende Nachfrage nach dem Pferd als Freizeit- und Sammlergut schuf.

Kurzfristig wird die Zahl an Menschen in Aufgaben, die durch KI besser und günstiger geleistet werden können, wahrscheinlich noch wachsen: Journalisten, die Pressemeldungen umschreiben, Akademiker, die aus veralteten Lehrbüchern vortragen, Soziologen, die Bedenken formulieren und über KI diskutieren. Langfristig werden die gesellschaftlichen Karten neu gemischt. Das weckt Sorgen, aber auch Hoffnungen. Neue Werkzeuge eröffnen stets schreckliche Möglichkeiten, doch wenn die Zugangsschwellen geringer werden, folgt im Grossen eher nicht die eine finale Katastrophe, sondern eine Neuverteilung von Macht hin zu dezentraleren Strukturen, die mehr kleine und weniger grosse Katastrophen bedeuten.

Zuerst erschienen in Finanz und Wirtschaft.