INTERVIEW – Google-Forscher zu KI-Hype in der Wirtschaft: «Die Investitionen sind um ein Tausendfaches zu hoch»

Herr Chollet, Sie befassen sich seit Jahren mit künstlicher Intelligenz (KI). Seit Chat-GPT klingt es bei manchen, als würde sich durch KI nun alles ändern. Was halten Sie von diesen Diskussionen?

Es gab echten Fortschritt. Dank KI kann der Computer noch vor Kurzem sehr viel bessere Sprache verarbeiten und Bilder erkennen. Doch der Hype ist übertrieben: In San Francisco war davon die Rede, dass wir in ein, zwei Jahren übermenschliche künstliche Intelligenz (AGI) haben würden. Dass es bald keinen Programmierer mehr braucht. Ich bin davon überzeugt, dass in fünf Jahren mehr Programmierer sein müssen als heute.

Sie halten die Hoffnungen von Investoren und Tech-Firmen für Antrieb?

Es gibt durchaus einen Markt für generative KI. Im Moment betragen die Ausgaben ungefähr 4 Milliarden Dollar im Jahr, 2024 sollen es 6 Milliarden sein. Es ist ein Markt, der schnell wächst. Die meisten Softwareentwickler nutzen Sprach-KI zum Codeschreiben. Das ist der zweitwichtigste Anwendungsfall. Können Sie den wichtigsten erraten?

Schreiben?

Hausarbeiten. Die größte Nutzergruppe sind Schüler.

Wird der Markt weiter wachsen?

In drei Jahren könnte es 10 Milliarden Umsatz geben, aber das Wachstum wird sich bald verlangsamen. Und jetzt denken Sie an die Menge an Kapital, das investiert wurde: 90 Milliarden in weniger als zwei Jahren! Meiner Ansicht nach geht die Rechnung einfach nicht auf.

Sie denken, die Investitionen werden nicht mehr zurückbekommen?

Viele Nutzer zahlen für Sprach-KI-Abonnements. Aber die Renditen sind klein, weil es teuer ist, KI-Modelle zu betreiben, und unter den Anbietern herrscht große Konkurrenz. Die Investitionen sind komplett davon abgekoppelt, um ein Tausendfaches zu hoch.

Wie erklären Sie sich das?

Es herrschen überzogene Erwartungen. Zeitungen titeln: «Bald wird keiner mehr arbeiten.» – «Die US-Wahlen 2028 werden von KI betrieben werden.» Es ist von allgemeiner künstlicher Intelligenz die Rede. Doch diese Sprachmodelle sind eher große Datenbanken.

Mit allgemeiner künstlicher Intelligenz (AGI) ist ein Programm gemeint, das alle denkbaren Aufgaben lösen könnte. Sie bezweifeln, dass Sprach-KI ein Schritt in diese Richtung ist?

Ich glaube nicht, dass uns Sprach-KI näher an eine menschenähnliche oder allgemeine künstliche Intelligenz bringt. Die überzogenen Erwartungen kommen auch von diesen Testergebnissen, bei denen es aussah, als würden KI in Jura- und Mathe-Tests besser abschneiden als Menschen. Inzwischen wissen wir, dass diese Sprachmodelle einfach die richtigen Antworten abspeichern.

Weil die Sprachmodelle die Testfragen schon aus dem Internet kennen?

Genau. Dazu kam gerade eine interessante Studie heraus. Man hat die Mathematikaufgaben von einem dieser Tests so umgestellt, dass sie nicht mehr mit Auswendiglernen zu lösen waren. Die Aufgaben wurden leicht verändert, die Zahlen ersetzt – aber so, dass zu ihrer Lösung die gleichen Denkschritte nötig waren. Das verschlechterte die Ergebnisse der Sprach-KI um 60 bis 80 Prozent!

Bedeutet das, dass Chat-GPT und Co. 60 bis 80 Prozent dieser Fragen nicht wirklich mit Logik gelöst haben, sondern mit Auswendiglernen?

Genau. Das liegt daran, dass diese Tests für Menschen gemacht sind, nicht für Maschinen. Wenn ich Sie frage, was 34 plus 123 ist, dann gehe ich davon aus, dass Sie nicht die Antwort auswendig wissen, sondern dass Sie im Kopf addieren. Sie rufen ein Additionsprogramm ab. Aber die Sprach-KI hat in vielen Fällen einfach das Ergebnis gespeichert.

Allgemeine künstliche Intelligenz würde man dann nennen, wenn die KI tatsächlich die Regeln der Addition gelernt hätte?

Das wäre der erste Schritt für allgemeine Intelligenz: das richtige Programm zur Lösung eines Problems abrufen. Doch selbst wenn KI alle möglichen Programme gespeichert und fähig wäre, das jeweils richtige abzurufen, wäre sie noch nicht allgemein intelligent. Wenn Sie als Mensch ein unbekanntes Problem sehen, erstellen Sie kreativ einen neuen Lösungsweg, um damit umzugehen. Das müsste allgemeine KI können.

Können Sie das an einem Beispiel erklären?

François Chollet zeigt am Laptop das folgende Bild.

Wenn Sie als Mensch dieses Art Rätsel sehen, wissen Sie sofort, wie es weitergeht. Sie erfassen die Regel hinter der Fragestellung und leiten die richtige Lösung ab. Das können auch Kleinkinder – aber die KI-Programme von heute nicht.

Viele sagen, der Mensch lerne auch nur aus Daten – und wenn eine künstliche Intelligenz all den Input zur Verfügung hätte, den ein kleines Kind in den ersten Jahren aufnimmt, dann könnten sie ja vielleicht Ähnliches leisten?

Menschen lernen aus Daten, absolut. Aber nicht wie Sprach-KI. Das ist, wie wenn man sagen würde, Skateboards haben Räder, und Züge haben auch Räder – also sind sie dasselbe. Natürlich lernen Menschen aus Daten. Sie haben ein Gedächtnis, speichern Informationen, aber sie tun viel mehr mit ihren Gehirnen. Vor allem können sie sich an neue Situationen anpassen, Dinge verstehen, die sie nie gesehen haben. Das ist Intelligenz. Die Welt verändert sich unablässig und ist voll von Neuem. Deshalb braucht man allgemeine Intelligenz, um in ihr zurechtzukommen. KI-Sprachmodelle haben jedoch keine Intelligenz. Sie haben nur „Gedächtnis“ – sie haben das Internet abgespeichert, können Fakten und Muster abrufen. Aber sie versteht Dinge nicht, die anders sind als das, was sie gelernt haben. Ein großes Sprachmodell hat hunderttausend- oder millionenfach mehr Dinge abgespeichert als Sie, und doch können Sie mehr neue Situationen bestreiten – weil Sie sich anpassen können. Sprach-KI hat sehr viel mehr Gedächtnis, aber Sie haben mehr Fähigkeiten.

Und Sie sind der Meinung, um das zu lernen, reichen die jetzigen Methoden von KI nicht aus?

Jetzige KI funktioniert durch das Anpassen einer Kurve an existierende Datenpunkte. Die Idee ist, dass Sie anhand der Kurve auch abschätzen können, wo neue, unbekannte Punkte wahrscheinlich liegen werden: eben entlang der Kurve. Mit dieser Methode kann man beispielsweise sehr gut lernen, die Ähnlichkeit zwischen zwei Gesichtern zu schätzen. Für andere Dinge ist sie überhaupt nicht geeignet.

Zum Beispiel?

Für Aufgaben ist abstraktes Denken nötig. Zum Beispiel, wenn es darum geht, ob zwei unterschiedlich formulierte Rechenprogramme genau dieselbe Aktion durchführen. Das geht nicht mit dem Ansatz der ungefähren Ähnlichkeit, sondern nur durch echte Abstraktion. Wir brauchen auch ganz neue Ansätze, um menschenähnliche KI zu erreichen. Der Weg ist sehr weit.

Ist es überhaupt erstrebenswert, allgemeine künstliche Intelligenz zu bauen? Wäre es nicht sinnvoller und sicherer, verschiedene KI-Werkzeuge für verschiedene Zwecke zu haben?

Da wird oft etwas verwechselt: Selbst allgemeine KI wäre immer noch ein Werkzeug, nicht ein künstlicher Mensch. Und sie wäre ein sehr hilfreiches Werkzeug.

Sie glauben nicht, dass so etwas wie Bewusstsein von allein entstehen kann, wenn man intelligente Maschinen baut?

Der Mensch hat sowohl Intelligenz als auch Bewusstsein, aber das sind zwei getrennte Dinge, die nicht direkt etwas miteinander zu tun haben. Emotionen sind etwas anderes als Intelligenz. Intelligente Maschinen werden auch nicht plötzlich ihre eigenen Ziele setzen und Menschen schaden, wie manch einer irrtümlich warnt.

Sie machen selbst Musik und Bilder. Macht es Ihnen Sorge, dass KI Künstler die Arbeit abnimmt?

Es sind zwei Szenarien möglich. Das Gute wäre: Wir sind bald alle von KI-Kunst gelungen, weil sie immer nur Varianten erstellen kann, nichts ganz Neues, wie es Menschen können. Und durch die Konkurrenz könnten Menschen noch kreativer werden – so wie die Fotografie zu neuer Kreativität in der Malerei geführt hat.

Und das Schlechte?

Das schlechte Ende wäre, dass Menschen gar nicht mehr lernen, Bilder zu malen und Musik zu machen, weil man sie mit KI so leicht generieren kann. Das wäre schade, denn wenn man mit KI arbeitet, steht zwischen dem Geist und dem Produkt immer ein Vermittler – das begrenzt die Möglichkeiten. Wenn Künstler diese Grenzen nicht mehr überschreiten, stagniert die Kultur.

Auch Deepfakes und Desinformation bereiten viele Sorgen. Meinen Sie, das geht alles zu schnell für unsere Gesellschaft?

Nein. Es ändert sich gerade vieles. Aber die Veränderungen zwischen 1870 und 1920 waren zum Beispiel viel größer.

Sie haben Anfänge von den großen Investitionen in Sprach-KI gesprochen. Auch Ihr Arbeitgeber Google setzt einen großen Teil seiner Mitarbeiter auf das Thema an. Befürchten Sie, dass andere interessante Forschung dabei ins Hintertreffen gerät?

Ja, da herrscht einiges Gruppendenken. Sprach-KI saugt den Sauerstoff aus dem Raum, es bleibt nichts für andere Ideen. Vor zehn Jahren gab es nur etwa 0,1 Prozent der heutigen Investitionen in KI. Zugleich war mehr Kreativität und Diversität da. Jetzt haben wir eine Sache gefunden, die gut funktioniert, und skalieren die immer weiter. Aber es gibt noch andere interessante Wege, die wir skalieren können, zum Beispiel evolutionäre Algorithmen. Wenn man Milliarden über Milliarden in diese Idee stecken würde, würde ziemlich sicher auch etwas Cooles entstehen.