Der rund 120 Seitenstarke Essay glieder sich in neben Vor- und Nachwort, in drei große Kapitel auf. „Würde des Menschen“, „Herrschaft der Maschinen“ und „List der Vernunft“.

Der Ausgangspunkt des Essay ist die Gegenwart und führt hin zu einer „imaginierten Zukunft“. Dabei fängt Simanowski mit einer These an, dass jede digitale Technik die länger überlebt ein „Tötungsinstinkt“ haben muss. Als Beispiel zieht er das Email-System heran. Ohne Spam-Assasin (Spam-Attentäter) würde die Emailkommunikation schon längst unbrauchbar sein. Der Spam-Assassin schneidet ninjagleich in aller Stille und ohne viel Aufsehen zu erregen, den digitalen Mülloverhead aus unserem Posteingang ab. Etwas muss sterben damit es seinen Zweck erfüllen kann.

Seine These spinnt Simanowski weiter und wendet sie auf das autonome Fahren an, von dem im öffentlichen Diskurs viel die Rede ist. Er macht aber gleichzeitig deutlich das der Versuch das „Weichenstellerproblem“ digital zu lösen Verfassungswidrig ist. Eine „Lebenswertverrechnung“ ist mit der „Würde des Menschen“ aus Artikel 1 Grundgesetz unvereinbar. Die gleiche Würde, die verfasst ist im Grundgesetz und die den selben Impetus hat wie die Präambel der UN-Menschenrechtscharta von 1948.

An der Stelle greift Simanowski das Bühnenstück Terror von Ferdinand von Schirach auf. An dem Drama lässt sich gut darstellen, dass es mit der Verfassungstreue der Deutschen dann doch nicht immer so einhellig einher geht ist wie gedacht. Zum Ende jeder Film- und Theateraufführung dürfen die Zuschauer abstimmen. Schuldig oder Freispruch.

Entführer zwingen die Piloten eines Passagierflugzeug Kurs auf das derzeit vollbesetzte Münchner Fußballstadion zu nehmen. Gegen den Befehl seiner Vorgesetzten schießt Luftwaffenpilot Lars Koch den Flieger ab.

Ist der Soldat wegen Mordes zu verurteilen oder Frei zu sprechen? Das Ergebnis lautet jeweils Freispruch und zeigt: Die Mehrheit der Theaterbesucher (63%) und Fernsehzuschauer (87%) denkt oder fühlt Verfassungswidrig. In Asien kehrt sich Verhältnis um – Schuldig. Die kulturelle Prägung durch den Taoismus und den Buddhismus ist eine Erklärung. In fernöstlichen Kulturen werden schicksalhafte Ereignisse mehr als natürlicher Lauf der Dinge angesehen und wo eine Intervention wie den Abschuss des Passagierflugzeug als Bruch der göttlichen Bestimmung bewertet wird. – Schuldig. Im Übrigen weißt Simanowski darauf hin, dass mindesten 34 asiatische Länder mit dem universellen Anspruch der UN-Menschenrechtscharta nicht einverstanden sind, weil sie ihrer Meinung nach „westliche Werte“ widerspiegelt. Mit der „Bangkok Declaration“ von 1993 haben sie deshalb eine Menschenrechtscharta mit „Asia Value“ verabschiedet.

In einen zweiten Beispiel stellt Simanowski die „Moral Maschine“ vor. Es handelt sich um ein Experiment des Massachusetts Institute of Technology (MIT), bei dem Probanden ein Dilemmaszenario zu Ende spielen müssen. In tausendfachen Varianten wird Leuten z.B. die Frage gestellt wer beim Autounfall sterben soll, die vierköpfige Familie oder vier junge Schülerinnen, der alleinerziehende Vater oder zwei Omas, usw.. An dem Experiment nahmen bisher mehr als 200 Millionen Personen teil. Mit „kaltem Blut“ wird von den Studienmachern ein Verrechnungsergebnis forciert. Die Ergebnisse der Experimente am MIT, so Simanowski legen nah, dass das einzelne Individuum weniger Wert geschätzt wird. Auf dem Spiel steht das „Tabu“ der Unantastbarkeit der Menschenwürde., zitiert Simanowski Josef Isensee.

Bisher hat das Recht seine Grundlagen aus der Moral bezogen. Simanowski schreibt, dass gerade das Beispiel des autonomen Fahrens, dazu geeignet ist einen Paradigmenwechsel in der Rechtsordnung zu vollziehen. Nämlich, dass sich das Recht nicht mehr von menschlichen Überlegungen ableitet, sondern von technologischen Zwängen. Technische Systeme haben eine Vereinheitlichungstendenz. Das ist wesensimmanent. Ein Phänomen das in der Technikwelt schon lange bekannt ist. Vereinheitlichung, Standardisierung, Normierung. Technische Welten fördern Gleichförmigkeit. Individualismus, Andersartigkeit führen zur Diskriminierung.

Nudge mich, wenn du kannst.

In dem Essay greift Simanowski einen Diskussionsstrang der aktuellen Klimadebatte auf. Eine mögliche Bewältigungsstrategie die Klimakrise in den Griff zu bekommen. – „Protect me from what I want.“ (Halte mich fern von dem was ich will). Das hört man lt. Simanowski manchmal aus den Reihen der Klimabewegung FridaysForFuture.

Ist das Selbstvertrauen der jungen Generation so gering? Hat sie es verlernt ihrem eigenen Anspruch nachzukommen und ist die menschliche Spezies so schwach geworden das sie eine Nanny (Kindermädchen) braucht?

Die Überlegung scheint logisch. Unsere datafizierten Wissenschaften hat die Klimakrise genau vermessen. Zahlen spielen in der evidenzbasierten Wissenschaft eine wichtige Rolle. Zahlen spielen in der Politik bei z.B. dem 1,5-Grad-Ziel von Paris eine wichtige Rolle. Emmisionsmengen, pro Kopfverbräuche sind berechnet, jeder kennt ihn, seinen persönlichen CO2-Fussabdruck in Tonnen pro Jahr usw.. Und doch gelingt es uns nicht uns einzuschränken. Braucht es eine außermenschliche Instanz die uns bei der Hand nimmt und uns vor uns selber schützt, damit mir unsere Lebensgrundlage den Planeten nicht unbewohnbar machen? Eine Nanny die uns den Sonntagsbraten vom Speiseplan streicht, uns keine Flugtickets in den Süden buchen lässt?

Eine andere Gruppe die sich einen starken Einsatz von KI-Systemen bei der Bewältigung der Klimakrise wünscht sind Technikapologeten. Sie propagieren KI und andere technische Systeme. Zwei typische Vertreter sind Entrepreneurs (Unternehmer) der Gründerszene und Politiker. Sie preisen den deutschen Ingenieurgeist. Dabei ist diese Lobhudellei eine Ausrede nicht politisch handeln zu müssen. Jedes mal wenn jemand "smart" sagt wird Verantwortung und politisches Handeln an Technik ausgelagert.

Überträgt der Mensch, in Bezug auf den menschengemachten Klimawandel, seine Verantwortung auf eine KI, wird diese zu einer Öko-Diktatur. Die wohlmeinende KI wird den Menschen in seine Schranken weisen aus denen er nicht mehr heraus kommt. Was immer auch der Zweck der KI ist, sie wird es mit „kaltem Blut“ durchführen.

Zwar ist die KI der Öko-Diktatur kein Spam-Assassin, aber das zur Einhaltung des 1,5-Grad-Ziel von den vielen Milliarden Menschen ein paar Milliarden davon der Kopf abgetrennt wird ist nicht ausgeschlossen.

Ob diese Macht sich gegen die Menschen richtet, um sie zu beseitigen oder um ihr Überleben zu sichern, ist die Frage der KI-Forschung. Es ist eine Frage von Leben und Tod, die in ein teuflisches Paradies führen könnte.

Hegels Weltgeist

Es ist nicht ausgemacht, das der Mensch die Krone der Schöpfung bleibt für die er sich hält. Seit der Vertreibung des Menschen aus dem Paradies will er selber zum Schöpfergott werden. Sein Traum eine neue Kreatur zu erschaffen könnte in der KI Erfüllung finden.

Ungefährlich ist das für die Menschheit nicht. Eine KI könnten den Menschen in die zweite Reihe stellen. Der unentwegt fortschreitende Weltgeist könnte vom Menschen überspringen auf die höher entwickelte Superintelligenz springen. Der Mensch könnte zurückkehren zu seinen biologischen Wurzeln. Aus dem Blickwinkel einer Superintelligenz könnten wir Menschen den selben Stellenwert einnehmen wie wir heute den Feldhamster beimessen.

Bedeutet die Entwicklung einer starken KI, die Rückkehr des Menschen ins Paradies? – Ein höllisches Paradies? Was Simanowski zu bedenken aufgibt ist, dass eine KI die letzte Erfindung des Menschen sein wird. Jede Neuerung der KI wird schneller und besser sein als was wir auf die Beine stellen. Bei dem Hase-Igel-Rennen sind wir sicherlich der Hase. Der Hase rennt, der Igel ist immer schon da. Das Rennen, das Dilemma der der künstlichen Intelligenz können wir nicht gewinnen. Die Fragen des Todesalgorithmus müssen wir jetzt klären. Vor dem Rennen und nicht währenddessen. Es ist eine Menscheitsfrage. Wie wollen wir in Zukunft leben?

Etwas muss sterben damit es seinen Zweck erfüllen kann. Muss der Mensch sterben damit KI seinen Zweck erfüllen kann?

Fazit:

In seinem Essay stellt sich Simanowski auf keine der beiden Seiten, weder prognostiziert er einen hoffnungsfrohen Utopismus in dem KI ganz toll ist, noch sagt er eine unausweichliche Entwicklung hin zur Killer-KI vorraus. Er plädiert das man über KI, in all seinen Fassetten diskutieren muss. Öffentlich. Und zwar genau jetzt. Was in den gesellschaftlichen Diskursverläufen bedacht werden sollte, dazu hat er in seinem Essay zahlreiche Implikationen offenbart. Der Essay Todesalgorithmen ist ein scharfer Aufschlag an alle, endlich eine Metadiskussion zur Künstlichen Intelligenz zu führen und sich nicht im klein-klein von Anwendungsfällen von KI zu verlieren.

Simanowski gewann mit seinem Essay 2020 den renommierten Tractatus-Preis, hier eine Videoaufzeichnung seiner Rede dazu.

Roberto Simanowski, geboren 1963, war bis 2018 Professor für Kultur- und Medienwissenschaft in Providence, Hongkong und Basel und lebt seitdem als Publizist in Berlin und Rio de Janeiro.

Text auf Mastodon teilen:

Instance: Share

Fakten:
Autor:	Roberto Simanowski
Titel:	Todesalgorithmus – Das Dilemma der künstlichen Intelligenz
Seiten:	ca 120
Verlag:	Passagen Verlag – Wien
VÖ-Jahr:	2020