Open AI begann als idealistisches Projekt. Doch Chat-GPT machte den Konflikt zwischen Kommerz und Moral unlösbar

Nach fünf chaotischen Tagen ist klar: Sam Altman ist wieder CEO von Open AI, der Firma hinter der künstlichen Intelligenz Chat-GPT. Die Meldungen über die Querelen innerhalb der Führungsriege des Unternehmens, die in den vergangenen Tagen aufgetaucht sind, zeigen, wie sehr ideologische Konflikte und Machtkämpfe Open AI inzwischen prägen.

Dabei begann alles mit einer großen Vision: der Entwicklung einer guten, den Menschen wohlgesinnten künstlichen Intelligenz. Doch je weiter die Entwicklung voranschritt, desto größer wurden die Ängste derer, die sich vor den Fähigkeiten einer möglichen Superintelligenz fürchteten. Ausgerechnet der große Erfolg von Chat-GPT liegt alles aus den Fugen geraten.

Der Traum

„Können Maschinen denken?“, fragte der Mathematiker Alan Turing bereits 1950. Wenn sie das können, dann wohl besser als der Mensch, sie sind ja auch sonst stärker, schneller, präziser. Der Gedanke einer übermenschlichen Superintelligenz macht Angst. Denn wer sagt, dass der Mensch solche Maschinen auch kontrollieren könnte?

Vordenker wie Elon Musk sorgen sich dafür, dass eine superintelligente KI die Spezies Mensch eines Tages vollständig verdrängen könnte. Aus dieser Sorge heraus entsteht im Jahr 2015 Open AI: Ein Forschungslabor mit dem erklärten Ziel, eine Superintelligenz zu entwickeln, die nicht nur einzelne Dinge besser kann als der Mensch, sondern alles.

Den aufbauenden Techfirmen misstraut das Gründungsteam. Superintelligenz sei zu gefährlich, um sie profitorientiert zu entwickeln. Stattdessen soll sie bei Open AI entstehen, einem Ort, an dem das Wohl der gesamten Menschheit im Zentrum steht.

Das Team

Mit diesem idealistischen Ansatz schaffen es Musk und seine Mitstreiter, einige der klügsten Köpfe im Silicon Valley zu gewinnen. Dazu gehört auch ein Google-Entwickler namens Ilya Sutskever, der massgeblich an einem bahnbrechenden Algorithmus zur Bilderkennung beteiligt war. Genau wie Musk ihm die potenziellen Fähigkeiten der Maschine große Sorgen machen.

Musk überzeugt Sutskever davon, dass der Google-Gründer Larry Page potenzielle Sicherheitsrisiken nicht ernst genug nimmt, und holt ihn zu Open AI, wo er die Forschungsabteilung leiten soll.

Vorstandsvorsitzende des neuen Unternehmens sind Musk und Sam Altman. Altman, damals 30 Jahre alt, ist im Silicon Valley zu dieser Zeit bereits eine große Nummer – als Präsident von Y Combinator, einem Gründerzentrum, das unter anderem Dropbox, Reddit und Airbnb früh gefördert hat.

Technologiechef wird Greg Brockman, der diese Position zuvor beim Bezahldienstleister Stripe innehatte. Open AI hat prominente Unterstützer, unter ihnen Reid Hoffman, Mitbegründer von Linkedin, und Peter Thiel, Mitbegründer von Paypal. Insgesamt versprechen die Geldgeber eine Milliarde Dollar.

Zu der Zeit, zu der Open AI entsteht, sind Computer in Brettspielen oft noch schlechter als der Mensch. KI erzeugt erste Fake-Gesichter, die aber noch aussehen wie die Collage eines Kleinkinds. Bei Open AI finden sich diejenigen, die davon überzeugt sind, dass Großes bevorsteht.

Entsprechend eingeschworen ist die Gruppe. 2020 beschreibt eine Journalistin die Kultur bei Open AI als „beeindruckend einförmig“, selbst für Silicon-Valley-Verhältnisse. Die Angestellten gingen zu denselben Partys, sprächen ununterbrochen über ihre Arbeit.

Viele hängen dem effektiven Altruismus an, einer Philosophie-Strömung, die man als extremen Utilitarismus bezeichnen könnte: Demnach bedeutet moralisch richtiges Handeln, den maximalen Nutzen der Menschheit im Blick zu haben – hyperrational und ohne Emotionen. Gepaart ist das oft mit der Überzeugung, dass man selbst zur exklusiven Gruppe gehört, die klug genug für dieses Kalkül ist. Und deshalb muss Verantwortung für große Dinge wie künstliche Superintelligenz übernommen werden.

Die Verbundenheit bei Open AI reicht so weit, dass Ilya Sutskever bei der Hochzeit des Technologiechefs Brockman und von dessen Partnerin den Standesbeamten spielt, vor einem Open-AI-Logo aus Blumen.

Der erste Bruch

Unterdessen schreitet die Entwicklung im Bereich künstliche Intelligenz rasant voran. Im Jahr 2017 verdoppeln sich bei der Konkurrenz alle drei Monate die Rechenkapazitäten, die verwendet werden, um die Modelle weiterzuentwickeln. Den Open-AI-Gründern wird klar: Mit dem Geschäftsmodell einer Non-Profit-Organisation ist das Ganze nicht finanzierbar.

Open AI verfasste daraufhin im April 2018 eine Charta, in der das Unternehmen erklärt, dass es „primär der Menschheit“ verpflichtet ist und eine übermächtige KI verhindern will. Aber man legt in der Charta auch fest, dass zur Erfüllung der Mission die nötigen finanziellen Ressourcen nötig sind.

Anfang 2019 verlässt Elon Musk das Unternehmen, offiziell aus Sorge vor Interessenkonflikten. Der wahre Grund dürften Meinungsverschiedenheiten gewesen sein: Musk wollte einen stärkeren Fokus auf Forschung zur KI-Sicherheit, statt auf die Entwicklung von Produkten. Offenbar versuchte er vor seinem Austritt erfolglos, die komplette Kontrolle über die Firma zu übernehmen.

Heute wirft Musk Open AI vor, seine ehemaligen Ziele verraten zu haben und zu einem verschlossenen, profitorientierten Unternehmen geworden zu sein. Einen Monat nach Musks Ausscheiden gibt Sam Altman bekannt, bei der Startupschmiede Y Combinator zurückzutreten, um CEO von Open AI zu werden.

Unter der Leitung von Sam Altman legt Open AI seinen rein gemeinnützigen Status ab und gründet einen «Capped profit»-Zweig – ein gewinnorientiertes Tochterunternehmen mit einer 100-fach-Begrenzung der Investoren-Rendite. Zum Vergleich: Wer in der Anfangszeit in Google investierte, hätte seinen Einsatz bis heute etwas mehr als verzwanzigfacht. Open AI kann auch mit dieser Grenze enorm wachsen. Kurz darauf investierte Microsoft eine Milliarde Dollar.

Dennoch verspricht Open AI den Mitarbeitern, dass die Kommerzialisierung nicht das wichtigste Ziel sei. Der profitorientierte Zweig wird weiterhin von einem Non-Profit-Vorstand überwacht. Und in diesem sitzen keine Investoren-Vertreter, sondern Personen, die das große Ganze im Blick haben sollen. Ihre Aufgabe ist es, sicherzustellen, dass die Firma eine sichere, wohlwollende KI erzeugt.

Die Besetzung dieses Verwaltungsrates wird sich in den nächsten Jahren oft ändern, immer wieder treten Mitglieder wegen angeblicher Interessenkonflikte zurück. Im November 2023 besteht der Verwaltungsrat aus sechs Personen, was für ein Unternehmen dieser Grösse sehr klein ist: Greg Brockman, Sam Altman, Ilya Sutskever, Adam D’Angelo, Helen Toner und Tasha McCauley.

Neben Sutskever sind McCauley und Toner vor allem skeptisch gegenüber der Technologie. Die Tech-Unternehmerin McCauley sitzt im Aufsichtsrat des britischen Zentrums für KI-Governance und ist bei den effektiven Altruisten aktiv. Auch die KI-Forscherin Helen Toner soll der Organisation nahestehen. Ihre Aufgabe im Verwaltungsrat: die Langzeitrisiken und -effekte der KI im Blick behalten.

Der große Erfolg

So aufgestellt, fühlt sich Open AI bereit, Fortschritt und Idealismus unter einen Hut zu bekommen. Mit der neuen Struktur, vor allem aber mit dem neuen Geld, kommt der Durchbruch.

Das Sprachmodell GPT-2 aus dem Jahr 2019 belächeln noch viele. Der Nachfolger GPT-3, ein hundert Mal größeres Modell, generiert 2020 bereits Argumente für einen Essay im «Guardian», der viral geteilt wird. Open AI macht sich an die nächste Stufe: GPT-4 soll noch größer und besser werden.

Die Mitarbeiter sind gerade dabei, GPT-4 zur Veröffentlichung vorzubereiten, da mehren sich Gerüchte, dass das Konkurrenzinstitut Anthropic, gegründet von ehemaligen Open-AI-Mitarbeitern, einen Chatbot veröffentlichen will.

Sam Altman wird schneller sein. Open AI soll einen Chatbot veröffentlichen, der auf dem bereits getesteten Vorgänger von GPT-4 basiert. Altman verspricht sich davon auch, an mehr Daten über das Nutzerverhalten zu kommen.

Der Chatbot Chat-GPT wird online geschaltet, ohne dass es alle Angestellten mitbekommen, im Zuge einer «zurückhaltenden Forschungsvorschau». Mitarbeiter schliessen Wetten ab, wie viele Nutzer den Chatbot in der ersten Woche ausprobieren werden. Der mutigste soll auf 100 000 getippt haben. Tatsächlich sind es nach wenigen Tagen eine Million.

Der Kontrollverlust

Chat-GPT macht der Öffentlichkeit auf einen Schlag klar, wie weit Sprach-KI schon ist. Die Dynamik, die so eine Technologie entfalten kann, die vielen Anwendungen, die sich Leute ausdenken, den Hype sah keiner voraus.

Diese Dynamik ist es, die Open AI an den Rand des Zusammenbruchs bringt.

Sprach-KI ist nicht nur in der Herstellung aufwendig, auch ihre Anwendungen benötigen viel Rechenleistung. Um die Kosten zu decken, folgt bald eine Bezahlversion. Das bedeutet, dass man die Wünsche der zahlenden Kunden priorisieren muss. Inzwischen liegt der geschätzte Unternehmenswert bei etwa 90 Milliarden. Microsoft hat insgesamt 13 Milliarden in Open AI investiert.

Die Begeisterung der Nutzer und Investoren schlägt auch auf die Tech-Community über: Alle sind plötzlich KI-Fans. Wer Bedenken darüber äußert, dass die Modelle Fehler machen und Dinge erfinden, wirkt wie ein Nörgler.

Solche Skeptiker gibt es auch bei Open AI. Unter den Sicherheitsforschern sind einige unzufrieden damit, wie rasch man GPT-4 veröffentlicht hat und Firmen dazu antreibt, das Programm direkt in ihre Produkte zu integrieren. Zugleich müssen sie sich immer mehr um geschäftliche Aspekte kümmern, wie etwa darum, illegale erschlichene Zugänge zur Bezahlversion zu stoppen. Für den anfänglichen Idealismus bleiben immer weniger Ressourcen.

Zugleich treiben Ilya Sutskever und andere im Verwaltungsrat immer mehr Sorgen um die Zukunft um. Denn ist Chat-GPT nicht der Beweis, dass das Ziel und die Gefahr der Superintelligenz zum Greifen nahe ist?

Für manche scheint Altman aus Open AI das zu machen, was er und die anderen Gründer genau nicht wollten: noch einen Silicon-Valley-Konzern, der Kunden und Geldgeber bedient und gesellschaftliche Interessen höchstens nebenbei berücksichtigt.

Als die Verwaltungsrätin Helen Toner Open AI in einem Forschungsaufsatz kritisiert, eskaliert der Richtungsstreit intern. Altman zweifelt nicht an der Richtigkeit seines Ansatzes: Je mehr Geld hierher kommt, desto besser sei das für die Forschung und damit auch für die Sicherheit, so sein Credo.

Die Eskalation

Am Freitag, den 17. November, findet der Konflikt seinen vorläufigen Höhepunkt: in der Entlassung von Sam Altman. Der Schritt scheint aus dem Nichts zu kommen, der Verwaltungsrat schreibt in seiner Begründung lediglich, Altman sei „nicht konsequent aufrichtig“ gewesen.

In der Folge kündigte auch Brockman an, das Unternehmen zu verlassen. Er und Altman kommen unmittelbar danach beim Geschäftspartner Microsoft unter, wo sie ein neues KI-Forschungsteam aufbauen sollen.

Als treibende Kräfte hinter dem Rauswurf gelten Ilya Sutskever, Helen Toner und Tasha McCauley. Sutskever legt jedoch nur wenige Tage später eine Volte an hin und unterzeichnet einen offenen Brief, in dem mehr als 700 der 770 Open-AI-Mitarbeiter erklären, zu kündigen, sollte der Verwaltungsrat nicht zurücktreten. Auf der Plattform X schreibt Sutskever, er bereue seine Beteiligung an dem Rauswurf und habe Open AI nicht schädigen wollen.

Die Folge des Briefs sind Verhandlungen zwischen Sam Altman und dem Verwaltungsrat – mit einem überraschenden Ergebnis: Altman kehrt als CEO zurück, das Gremium wird abgesetzt (mit Ausnahme Adam D’Angelos). Nun soll ein neuer Verwaltungsrat aufgebaut werden. Dazu gehören der Salesforce-CEO Bret Taylor und der Ökonom und ehemalige Finanzminister Larry Summers. Es wird gemunkelt, dass künftig auch Microsoft einen Sitz innehaben wird.

Die Zukunft

Hat der Verwaltungsrat überreagiert? Oder sind die Warner und Weltverbesserer unterlegen gegen die Macht des Profits?

Natürlich kann es auch andere Gründe für die Entlassung Altmans haben, einige ehemalige Open-AI-Mitarbeiter gegeben stellen seine Eignung als Führungsperson infrage. Eine interne Untersuchung könnte mehr Klarheit schaffen.

Doch selbst wenn es um die Angst vor der Apokalypse ging: Im Grunde hat der Verwaltungsrat seine Aufgabe ernst genommen – und das, was Leute wie Sutskever, aber auch Altman, immer wieder verkündeten: dass die Superintelligenz nicht weit weg ist, dass damit große Risiken Verbunden sind. Die Warnungen klingen bisweilen wie Untergangsphantasien. Während Altman immer dazu sagte, man habe die Sache schon im Griff, war Sutskever weniger optimistisch.

Unter Fachleuten ist umstritten, ob Superintelligenz realistisch ist oder gar in naher Zukunft zu erreichen ist. Klar ist auf jeden Fall: Altman und Microsoft gehen hervor. Open AI wird kommerzieller werden, dadurch wohl realitätsnäher, weniger durchgeknallt. Einfach eine weitere Techfirma.