Sam Altman scheint außer Kontrolle. Ist die Zukunft der künstlichen Intelligenz bei Open AI in guten Händen?

Als Sam Altman im vergangenen November beinahe seinen Job verlor, war die Welt auf seiner Seite. Der Verwaltungsrat von Open AI hatte dem CEO Altman von einem Tag auf den anderen gekündigt, weil er „nicht immer ehrlich“ gewesen sei. Ein Schock für die Öffentlichkeit: Ausgerechnet der Mann sollte entlassen werden, der Chat-GPT lanciert hatte und trotz dem großen Erfolg immer bescheiden aufgetreten war?

Bei vielen Beobachtern schien schnell klar, dass Altman das Opfer in dieser Affäre sei: untergraben von Schwarzmalern im Verwaltungsrat von Open AI, die aus Angst vor mächtiger künstlicher Intelligenz (KI) im Aktionismus verfielen.

Für diese Interpretation sprach, dass sich über 90 Prozent aller Angestellten von Open AI in einem offenen Brief für die Rückkehr Altmans aussprachen, die ihm nach ein paar Tagen auch gelang. Danach wurde der Verwaltungsrat große Teile ausgetauscht. Die Geschichte geriet in den Hintergrund, während Open AI mit immer neuen Produkten seine Rolle als Marktführer in generativer KI ausbaute.

Jüngste Entwicklungen lassen die Episoden von November 2023 jedoch in einem neuen Licht erscheinen und werfen die Frage auf, ob die Zukunft der künstlichen Intelligenz bei Open AI in guten Händen liegt. Sind die Kontrollen und Prozesse im Unternehmen so gut, wie man das von einem Unternehmen mit potenziell gefährlichen Produkten erwarten würde? Hatte der Verwaltungsrat vielleicht doch recht, als er Altman das Vertrauen entzog?

Der Verwaltungsrat erfuhr von Chat-GPT über Twitter

Argumente dafür bringt Helen Toner ein. Sie war Teil jenes Verwaltungsrats, der Altman kündete. Sie äusserte sich Ende Mai erstmals öffentlich zu den Vorgängen im vergangenen Herbst. In einem Podcast beschreibt sie Altman als manipulativen CEO. Für Jahre habe er dem Verwaltungsrat Informationen vorgelegt, in manchen Fällen habe er das Gremium «geradeheraus angelogen».

Als Beispiel nannten sie die Lancierung von Chat-GPT im Herbst 2022: Altman habe den Verwaltungsrat nicht im Voraus darüber informiert. „Wir führen von Chat-GPT über Twitter“, sagte Toner.

Schlechte Kommunikation von Seiten des CEO ist bei jeder Firma problematisch, denn sie erschwert dem Verwaltungsrat, seine Aufgabe wahrzunehmen. Bei Open AI kommt dazu, dass der Verwaltungsrat eine besonders verantwortungsvolle Aufgabe hat: Toner und ihre Kollegen sollten nicht für die Interessen von Aktionären, sondern für diejenigen der ganzen Menschheit einstehen, so steht es in den Statuten des Unternehmens.

Altman schafft ein Klima der Angst

Toner sagt, Altman habe die Arbeit des Verwaltungsrats torpediert, indem er mehrfach unzutreffende Informationen über die Sicherheitsprozesse von Open AI gegeben habe. Zudem haben er die anderen Verwaltungsratsmitglieder angelogen, um Toner aus dem Gremium zu drängen. Irgendwann war das Vertrauen zwischen Verwaltungsrat und CEO so stark beschädigt, dass sich das Gremium zur Entscheidung durchrang, Altman zu entlassen.

Dass damals über 90 Prozent der Belegschaft Altmans Rückkehr forderte, wertet Toner als Produkt aus Angstmacherei und Gruppendruck. Den Angestellten wurden damals nur zwei Alternativen vermittelt: Entweder zerbrach die Firma, oder Altman kehrte zurück. Viele Angestellte hatten den offenen Brief zur Unterstützung Altmans unterzeichnet, um ihren Job zu behalten.

Altman habe generell ein Klima der Angst geschaffen, in dem Angestellte davor zurückschreckten, Kritik an ihm zu äussern. Toner berichtet von Gesprächen, die sie mit Führungspersonen innerhalb von Open AI gehabt haben. Diese sollen gesagt haben, Altman schaffe eine «toxische» Unternehmenskultur und strafe Personen ab, die es wagten, ihm negatives Feedback zu geben. Eine Person habe Altmans Verhalten als „psychologischen Missbrauch“ bezeichnet.

Sicherheitsforscher verlassen Open AI und warnen

Daraufhin, dass bei Open AI einiges im Argen liegt, deuten auch diverse Kündigungen hin. Der bekannteste Abgänger ist Ilya Sutskever, ein Mitgründer von Open AI. Er leitete das sogenannte Superalignment-Team, das vor rund einem Jahr dafür gegründet wurde, sicherzustellen, dass die KI tatsächlich im Dienst der Menschheit arbeitet, und dem 20 Prozent der Rechenpower des Unternehmens zugesichert wurde.

Jan Leike, der das Team mit Sutskever geleitet hatte, kündete ebenfalls und beklagte öffentlichkeitswirksam, die Sicherheit würde bei Open AI zu wenig gewichtet. Das Superalignment-Team wurde inzwischen aufgelöst.

Kritische Worte von ehemaligen Angestellten bleiben selten – inzwischen weiß man, warum: Die meisten haben strenge Geheimhaltungsvereinbarungen unterzeichnet, die es verbieten, sich dennoch öffentlich über Open AI zu äußern.

Das wurde dank Daniel Kokotajlo bekannt, einem weiteren Sicherheitsforscher, der Open AI verlassen hat. Er unterschrieb den Maulkorb-Vertrag nicht, um weiter offen über die Firma reden zu können – womit er Firmenanteile im Wert von etwa 1,7 Millionen Franken riskierte.

Seitdem hat er mit anderen ehemaligen und gegenwärtigen Angestellten von Open AI und Google in einem offenen Brief Schutz für Angestellte gefordert, welche Bedenken über die sichere Entwicklung von KI in ihrem Unternehmen haben.

Die Unterzeichner scheinen davon überzeugt zu sein, dass Wettbewerbs- und Gruppendruck so groß sind, dass kritische Angestellte besonderen Schutz brauchen.

Wer kontrolliert den CEO`?

Auch externe Experten äußern sich kritisch über Open AI. Dan Ives, Direktor und Finanzmarktanalyst bei der amerikanischen Investmentfirma Wedbush, sagte gegenüber der NZZ, er bezweifle, dass Open AI funktionierende „Checks and Balances“ habe, um potenzielles Fehlverhalten des Chefs auszugleichen. «Sam Altman reisst mehr und mehr Macht an sich. Die Firma braucht dringend effektivere Kontrollmechanismen.»

Ob Altman, der zusätzlich zu seinem Posten als CEO auch einen Sitz im Verwaltungsrat von Open AI hat, seine Machtfülle tatsächlich auf schädliche Weise ausnützt, ist unklar. Möglich wäre auch, dass sich ehemalige Angestellte und ehemalige Verwaltungsratsmitglieder wie Helen Toner an ihn rächen wollen. Unabhängige Untersuchungen zum Führungsstil von Altman sind nicht bekannt. Allerdings gibt es eine Episode um den neusten Produkt-Launch, die problematisches Verhalten des Chefs vermuten lässt.

Als Mitte Mai Chat-GPT 4.o veröffentlicht wurde, stellte Open AI auch eine Audiofunktion vor: Das Modell kann mit gesprochener Sprache antworten. Und offenbar hat Altman dafür gesorgt, dass Chat-GPT eine Stimme verwendet, die ihm besonders gut gefällt.

Hintergrund ist eine persönliche Vorliebe von Altman für den Film „Her“. Er hatte ihn als „prophetisch“ für die Kunst und Weise bezeichnet, wie Menschen künftig mit KI interagieren würden. Im Film verliebt sich ein Mann in ein Computersystem. Die Schauspielerin Scarlett Johansson spricht im Film die Stimme des Computers. Als Chat-GPT 4.o veröffentlicht wurde, postete Altman den Titel des Films auf X: „Her“, ohne weitere Erklärung. Tatsächlich klang die Stimme in den Demo-Videos wie Johansson.

Danach liess die Schauspielerin über Instagram mitteilen, Altman habe vor dem Launch des Modells mehrmals persönlich versucht, sie davon zu überzeugen, ihre Stimme für Chat-GPT freizugeben. Doch Johansson entschied sich dagegen. Umso mehr überrascht und verärgert war sie, ihre Stimme trotzdem in der Demo von Chat-GPT zu erkennen.

Starker CEO braucht starke Mitglieder im Verwaltungsrat

Inzwischen hat Open AI die besagte Stimme offline genommen. Dennoch stellt sich die Frage, ob Altman funktionierende Gegengewichte hat, die ihn kontrollieren.

„Firmen wie Open AI, die einen sehr starken und bekannten CEO haben, brauchen starke und unabhängige Persönlichkeiten im Verwaltungsrat“, sagt Christine Scheef, Assistenzprofessorin an der Universität St. Gallen, die zu Corporate Governance forscht. „Sonst ist die Gefahr groß, dass der Verwaltungsrat zu einem Ja-Sager-Gremium kommt, das seine Kontrollaufgabe nicht ausreichend wahrnimmt.“

Tatsächlich sassen bis März nur drei Personen im Verwaltungsrat von Open AI. „Das waren sehr wenige für eine solche Firma“, sagt Scheef. „Es braucht Leute, die sich getrauen, Altman zu widersprechen. Und Leute, die sich, wenn es nötig wird, ohne seine Einwilligung im Unternehmen umhören.»

Dies scheint Open AI erkannt zu haben. Seit März wurden mehrere starke Persönlichkeiten in den Verwaltungsrat berufen:

Insgesamt hat der Verwaltungsrat nun sieben Mitglieder mit Stimmrecht. «Das ist eine gute Zahl», findet Scheef. «Jetzt können sich die Verwaltungsräte ihre sinnvollen Aufgaben aufteilen.»

Wenig Sinn ergibt laut dem Finanzanalysten Ives allerdings die Tatsache, dass Microsoft, der größte Geldgeber der Firma, nur einen Beobachtersitz hat im Verwaltungsrat, aber kein Stimmrecht. Damit können wichtige strategische Entscheidungen entgegen dem Willen des größten Geldgebers geschehen. Sowohl Scheef wie auch Ives finden, Microsoft sollte das Stimmrecht erhalten.

Unübliche Non-Profit-Struktur

Weiteres Verbesserungspotenzial besteht bei der Struktur des Unternehmens. Diese ist historisch gewachsen. 2015 gründete eine Gruppe um Sam Altman, Elon Musk und Peter Thiel Open AI als nicht profitorientierte Organisation (NPO) mit der Mission, eine allgemeine künstliche Intelligenz zu entwickeln, die «sicher ist und der gesamten Menschheit zugutekommt».

Doch weil die NPO zu wenig Geld eintreiben konnte, um die teuren KI-Dienste zu entwickeln, gründete sie im Jahr 2019 ein gewinnorientiertes Tochterunternehmen, in das Microsoft insgesamt 13 Milliarden Dollar investierte.

Zwar ist die gewinnorientierte Tochterfirma auf dem Papier zu hundert Prozent der NPO unterstellt. Aber aus der ungewöhnlichen Struktur folgen immer wieder Interessenkonflikte.

Die NGO wird bremsen, die gewinnorientierte Firma prescht vor

Die NPO hat die Mission, KI vorsichtig und zum Wohle der Menschheit zu entwickeln. Zugleich treibt die profitorientierte Firma die KI-Entwicklung voran, indem sie ein Modell nach den anderen veröffentlicht. Bedenken darüber, dass Chatbots auch missbraucht werden können, etwa für Desinformationskampagnen oder für Falschinformationen, schob Open AI beiseite.

Geschäftlich funktioniert das hervorragend, Analysten schätzen den Wert der Firma heute auf über 80 Milliarden Dollar. Zum Vergleich: Die Zurich-Versicherung ist etwa 70 Milliarden wert.

Der Finanzmarktanalytiker Ives findet nun, die ungewöhnliche Non-Profit-Struktur passe nicht mehr zum Verhalten von Open AI: «Die Firma ist heute de facto ein gewinnorientiertes Unternehmen mit einer Non-Profit-Vergangenheit.»

Einen einfachen Ausweg aus dieser Situation gebe es wahrscheinlich nicht, vermutet die Corporate-Governance-Expertin Scheef. «Non-Profit-Organisationen können aus rechtlichen Gründen normalerweise nicht einfach in normale Firmen umgewandelt werden.» Sonst würden frühe Geldgeber hintergangen, die ausdrücklich eine Non-Profit-Organisation finanzieren wollten.

Aus der komplizierten, unüblichen Struktur dürfte Open AI auch nicht so schnell herauskommen, obwohl Sam Altman laut dem amerikanischen Tech-Portal „The Information“ mit der Idee liebäugelt, die gewinnorientierte Firma aus der Non-Profit-Struktur herauszulösen.

Derweil mehren sich die Stimmen, die davor warnen, dass KI zu wichtig ist, als dass man ihre E ntwicklung Firmen überlassen sollten, die sich selbst regulieren – zumal bei Open AI, dem gegenwärtigen Branchenprimus, offenbaren einiges nicht so funktioniert, wie es sollte.