Beim Chat-GPT-Entwickler Open AI streitet man sich über die Zukunft der KI. Dabei spielt eine würdige Denkschule eine wichtige Rolle: der effektive Altruismus
Hinter der hyperrationalen Lieblingsphilosophie im Silicon Valley steckt eine totalitäre Weltsicht, die Demokratie und Menschenwürde widerspricht.
War der inzwischen verurteilte Krypto-Milliardär Sam Bankman Fried, ein Grossteil der Belegschaft der Chat-GPT-Firma Open AI und die Initianten des offenen Briefs für eine sechsmonatige Pause in der Entwicklung künstlicher Intelligenz (KI) gemeinsam?
Wie viele Silicon-Valley-Größen hängen sie dem effektiven Altruismus an: einer philosophischen Bewegung, die an Vernunft und Ethik appelliert. In den USA gewinnt sie an Einfluss, und auch in der Schweiz spricht sie gezielt junge Talente an. Höchste Zeit, sich näher mit ihren Ideen zu befassen. Denn was auf den ersten Blick unschuldig oder sogar vernünftig klingt, ist in seiner Konsequenz eine totalitäre Weltsicht, die die Demokratie untergräbt.
Intuition und Empathie widersprechen oft der Vernunft
Beginnen wir am Anfang. 1972 stellte der Philosoph Peter Singer ein Gedankenexperiment auf: Stellen Sie sich vor, Sie spazieren an einem Teich entlang und sehen ein Kind, das zu ertrinken droht. Retten Sie es, oder sind Sie verärgert, weil Sie Ihre Kleidung ruinieren könnten?
Natürlich würde niemand zweifeln, dass das Kind zu retten ist. Darauf fragt Singer: Was ist mit all den Kindern, die an Hunger oder Malaria sterben? Er findet, wenn wir teure Schuhe kaufen, statt Geld für sie auszugeben, sei das gleich schlimm, wie das Kind ertrinken zu lassen. Denn warum sollten Nähe und Distanz in der Moral eine Rolle spielen?
Singer ist ein radikaler Vertreter der ethischen Strömung des Utilitarismus. Die Grundidee: Ob eine Handlung gut oder schlecht ist, hängt allein von ihren Konsequenzen ab: Ob Schuhe kaufen oder lügen – es geht nicht um die Tätigkeit an sich, sondern um ihre Auswirkungen, genauer gesagt, ob sie das Glück auf der Welt insgesamt vergrössert oder verringert.
Sein Gedankenexperiment soll zeigen, dass Intuition und Empathie nicht immer verlässliche Wegleiter der Ethik sind. Er plädiert für mehr Abwägen, mehr Vernunft.
In den 2000ern nehmen junge Philosophen die Idee auf und machen sie populär. Gerade junge Menschen, die Mathematik und Fakten lieben, spricht die Denkrichtung an. Sie beginnen in Onlineforen zu diskutieren: Wie soll man leben, um das Maximum an Gutem zu bewirken? Wem gibt man sein Spendengeld, um ein Maximum an Effekt zu erreichen? Der effektive Altruismus ist geboren.
Besser reich werden und ausgeben als von Hand Leben retten
Was als Versuch begann, unvoreingenommen über Gut und Schlecht nachzudenken und das Bauchgefühl zu hinterfragen, wird aber bald zu einem Wettlauf der Spitzfindigkeiten, bei dem es vor allem um die Überlegenheit der eigenen Argumentation zu gehen scheint.
Anhänger lieben es, darauf hinzuweisen, dass oft für die «falschen» Dinge gespendet wird: Wer etwa für die Erforschung seltener Krankheiten ausgegeben wird, ist irrational. Denn dort habe das Geld wenig Aussicht, einen Unterschied zu machen. Vielzitiert als beste Investition sind Moskito-Netze für Menschen in Malaria. Gegen: Nirgendwo sonst gäbe es so viel gerettetes Leben für so wenig Geld.
Aus Onlinediskussionen entstehen Ortsgruppen und Ableger-Vereine. Zum Beispiel GiveWell, eine Nonprofitorganisation im Silicon Valley, die Listen der kosteneffektivsten Wohltätigkeitsorganisationen veröffentlicht und nach eigenen Schätzungen bereits mehr als eine Milliarde Spendengeld umgelenkt hat.
Mit Ständen an Universitäten, Online-Seminaren und mehrtägigen Retreats spricht die Organisation gezielt junge Menschen an, die Gutes tun wollen, aber nicht recht wissen, wie. Besonders beliebt ist die Beratung für die wohltätigste Berufswahl. Das sei nicht etwa eine Tätigkeit bei Ärzten ohne Grenzen oder das Erfinden neuer Medikamente. Zielführender sei es, sehr viel Geld zu verdienen und einen Grossteil davon auszugeben, denn damit rette man mehr Leben, als es ein Arzt oder eine Forscherin könnte.
Künstliche Intelligenz schlägt Klimawandel und Hunger
Größenwahn, Wohltätigkeit und das Reduzieren von Fragen auf eine mathematische Gleichung: Der effektive Altruismus ist wie gemacht fürs Silicon Valley. Kein Wunder, dass er dort floriert.
Dass immer mehr Tech-Nerds mitreden, verändert den Diskurs jedoch. Es macht sich eine neue Bewegung breit, die diese Rechnung ganz ins Absurde kippen lässt: der «Longtermism». Man könnte es mit «Langfristigkeit» übersetzen. Gemeint sind Überlegungen auf sehr lange Frist.
Was das bedeutet, zeigt ein weiteres Gedankenspiel. Vergleichen Sie drei Szenarien. Im ersten sind 100 Prozent der Menschheit durch einen Nuklearkrieg gestorben, im zweiten 99 Prozent, im dritten gibt es ewigen Frieden. Ist der Unterschied zwischen dem ersten und dem zweiten größeren oder dem zweiten und dem dritten?
Langzeitwissenschaftler würden sagen: Der Unterschied zwischen 100 und 99 Prozent Ausrottung ist größer, denn das eine Prozent kann die Menschheit wiederbeleben. Und all dieses zukünftige Leben wiegen schwerer als das Wohlergehen der Menschen im Jetzt.
Nimmt man das ernst, sollte man in Bunker für ein Prozent der Menschheit investieren statt in Moskitonetze, von Diplomatie und Friedensbemühungen ganz zu schweigen. Und tatsächlich ziehen die effektiven Altruisten solche Konsequenzen.
Nur dass sie im Horrorszenario den Nuklearkrieg durch den Aufstand der eigenmächtigen KI ersetzt haben. Den zu verhindern, ist nun oberste Priorität der Bewegung. Auf der Liste der wohltätigsten Berufe steht im Moment auf Platz eins „Erforschung von KI-Sicherheit“ und auf Platz zwei „Steuerung von KI, um katastrophale Auswirkungen zu minimieren“.
Der Klimawandel, Hunger auf der Welt, seltene Krankheiten und Malaria: Gefahren, die «nur» großes Leiden schaffen und nicht die ganze Menschheit auf einen Schlag ausrotten, kommen in der Kosten-Nutzen-Rechnung der effektiven Altruisten nicht gegen das Risiko einer mörderischen Superintelligenz ein. Obwohl, und das muss man dieser Tage betonen, im Moment überhaupt nicht klar ist, ob so eine Superintelligenz überhaupt gebaut werden kann, geschweige denn, dass das in den nächsten Jahren geschieht.
Das alles wäre kein Problem, wenn die effektiven Altruisten nicht in der Tech-Szene langsam zur dominanten Gruppe würden. In der Chat-GPT Firma Open AI sassen bis vor kurzem effektive Altruisten im Verwaltungsrat, um die ethische Ausrichtung der Firma zu überwachen. Einflussreiche Forschungsinstitute sind der Organisation eng verbunden. Das Future-of-Life-Institut am MIT in Boston steckte hinter dem prominenten Brief, der im Frühling eine Pause in der KI-Forschung forderte.
Das hat Folgen: Wenn es um die Risiken von KI geht, ist nicht davon die Rede, ob das Programm zuverlässig funktioniert, ob etwa ihre Aussagen zur Eignung von Jobanwärtern wirklich stimmen. Oder darüber, wie KI zur Überwachung eingesetzt werden kann, oder ob sie auf gestohlenen Daten basiert. Stattdessen spricht man über existenzielle Risiken, die aus einer imaginären Maschine hervorgehen könnten.
Es gibt keinen Algorithmus für das Beste für alle
Kann man dem Utilitaristen Peter Singer für all das die Schuld geben? Nein. Er selbst hat sich sogar explizit von der Langfrist-Fraktion der Bewegung distanziert. Und doch macht die Rechnung um langfristige Risiken nur sichtbar, an welchen Problemen diese Ethik grundsätzlich krankt.
Das grundlegendste Problem ist die Selbstüberschätzung ihrer Anhänger. Sie halten sich für die einzigen rationalen Denker, glauben, sie seien jenen überlegen, die konventioneller Moral folgen.
Nehmen wir den Vergleich zwischen den verschiedenen Zwecken, für die man ausgeben kann: Grundlagenforschung gegen Moskitonetze. Man könnte noch hinzufügen: Brunnen, Schulbildung, Hilfsgüter für die Ukraine. Verschiedene Menschen werden sich für verschiedene Spendenzwecke entscheiden. Nicht alle werden sich ausrechnen, wie ihr Geld am effektivsten Leben rettet. Menschen haben unterschiedliche Bewegungsgründe.
Es hat mit Menschenwürde und Demokratie zu tun, dass Menschen auch aufgrund dessen entscheiden, was sie ganz persönlich berührt. Dieses Recht ist ein Kern des Liberalismus.
Für die effektiven Altruisten ist es aber Irrationalität, die überwunden werden muss. Sie sind Technokraten, die davon überzeugt sind, dass das Schicksal der Welt am besten in ihren Händen liegt. Schliesslich bauen sie so radikal wie keiner sonst auf Rechnungen und Wahrscheinlichkeiten. Dabei übersehen sie jedoch die Komplexität der Welt.
Dass Betroffene mitreden, ist eine Stärke der Demokratie
Um aufs Moskitonetz zurückzukommen: Tatsächlich ist überhaupt nicht bewiesen, dass das Moskitonetz von allen humanitären Interventionen am meisten Leben schützt. Es ist einfach eine Intervention, die von Ökonomen besonders genau untersucht wurde.
Moskitonetze und Tod durch Malaria: Das lässt sich gut quantifizieren. Doch was ist mit Schulbildung? Was ist mit Freiheit? Gibt es einen Wert, der darin besteht, über sich selbst zu entscheiden? Haben Menschen in Malariagebieten ein Recht, mitzubestimmen, ob sie sich ein Netz kaufen wollen oder etwas anderes?
Wenn man die Vogelperspektive verlässt und über einzelne Leben spricht, dann wird klar: Die eine Zauberformel, die das Wohle aller optimiert, gibt es nicht. Den effektiven Altruisten stünde es gut an, wären sie bescheiden genug, das einzusehen.
Anderen helfen zu wollen, ist gut. Und es ist eine gute Idee, dabei seine Intuitionen zu hinterfragen. Das ist der große Verdienst von Denkern wie Peter Singer. Doch wenn man nicht anerkennt, dass man selbst nur einen Bruchteil der Welt kennt, wenn man aus Denkspielen Moralvorschriften macht, dann driftet man ab in eine technokratisch-totalitäre Weltsicht.
Was effektive Altruisten nicht verstehen: Es ist kein tragischer Nachteil der Demokratie, dass Betroffene mitreden und ihre «unobjektiven» Sichtweisen einbringen. Es ist ihre Stärke.
Auch wenn es um die Zukunft der KI geht, müssen diejenigen mitentscheiden, die mit ihrem Leben werden. Die Ideen der klugen Köpfe bei Open AI und anderswo reichen nicht aus.