INTERVIEW – „Es gibt eine gute Chance, dass ich ewig leben werde“, sagt der KI-Experte und Ex-Open-AI-Manager Zack Kass

Künstliche Intelligenz (KI) ist das Thema der Stunde. Die einen hoffen auf einen Produktivitätsschub, bei den anderen nimmt die Angst vor Schäden zu, welche die neue Technologie anrichten könnte. Der Konflikt zwischen wirtschaftlichen Interessen und Vorsicht bei der Entwicklung brachte in den letzten Tagen Open AI, die Firma hinter Chat-GPT, an den Rande des Zusammenbruchs.

Bis Frühjahr 2023 leitete Zack Kass die Abteilung für Markteinführung von Open AI. Jetzt tourt er als Redner und Berater um die Welt und erzählt vom Wandel, den er sich durch KI erhofft, so auch bei der Investorenkonferenz «Eyes on 2024» der Fondsgesellschaft Invesco in Zürich. Dort haben wir ihn gesprochen – vor den Verwerfungen bei Open AI. Zu diesem lieferte er nachträglich einen Kommentar. Das Unternehmen habe starken Zusammenhalt gezeigt, davon sollte sich die Öffentlichkeit bestärkt fühlen, sagt er: „Die Zukunft ist großartig, in großen Teilen, weil Open AI sie baut.“

Seine teilweise nahezu religiös anmutenden Überzeugungen mögen manchen erstaunen, im Silicon Valley und vor allem bei Open AI sind sie jedoch verbreitet. Dazu gehört jene, dass KI nicht nur eine weitere technische Innovation sei, sondern der Beginn eines ganz neuen Zeitalters.

Herr Kass, im Moment gibt es einen großen Hype um künstliche Intelligenz und dazugehörige Aktien: Jene von Nvidia ist in diesem Jahr um 236 Prozent gestiegen, die von Microsoft, das stark mit Open AI kooperiert, um 57 Prozent. Ist das eine Blase?

Ob Chiphersteller und KI-Firmen überbewertet sind, kann ich nicht sagen. Doch ich bin überzeugt, dass KI den Markt total verändern wird – und zwar deflationär: Güter und Dienstleistungen werden sehr viel billiger werden. Dadurch werden die Margen für viele Firmen steigen, zum Beispiel für Fluggesellschaften, die im Moment kaum Geld verdienen.

KI macht Airlines profitabler?

Denken Sie an die Mengen an menschlicher Denkarbeit, die nötig sind, um eine Fluggesellschaft zu betreiben. KI kann diese Arbeit übernehmen. Das reduzierte Personalkosten. Dann sinken entweder die Preise der Fluggesellschaften, oder die Margen steigen. Und so ähnlich wird es in allen Sektoren gehen.

In der Tech-Welt gibt es immer wieder Hypes: Vor kurzem waren Kryptowährungen das große Thema. Schon Anfang der 2000er Jahre platzte die Dotcom-Blase, allerdings entstanden gleichzeitig die großen Internetfirmen. Wo reiht sich KI ein?

Blockchain hat unseren Alltag nicht verändert. Der Einfluss, den KI auf unser Leben hat und haben wird, ist aber um einiges dramatischer. Das wird sich in den nächsten Jahren zeigen.

Welchen Wandel erwarten Sie konkret?

Schauen wir uns Medizin und Biologie an. Ich glaube, wir werden bald viele Krankheiten heilen können, der Sektor wird enorm wachsen. Durch KI wird auch Robotik günstiger, was die Industrie beschleunigt. Auch bei Beratern, Anwälten und in der Kundenbetreuung werden wir eine unglaubliche Automatisierung erleben.

Die Automatisierung senkt Personalkosten. Das bedeutet auch Kündigungen.

Ich glaube nicht. Jede industrielle Revolution hat mehr Jobs geschaffen, als sie zerstört hat. Das bedeutet nicht, dass ein Mühlenarbeiter während der industriellen Revolution ein einfaches Leben hatte. Unsere zukünftigen Jobs können wir uns heute noch nicht vorstellen.

Aber Sie gehen davon aus, dass es auch in Zukunft Jobs gibt, die wir machen und keine Maschinen?

Ich denke, auf lange Sicht werden wir nicht mehr arbeiten.

Wie soll das möglich sein?

Ich glaube, dass künstliche Intelligenz die Knappheit der Ressourcen beendet hat. Wenn wir erstmalig unendliche Energiequellen haben und Superintelligenz, dann folgt daraus, dass die Kosten von allem in die Richtung null gehen. Dann können wir alle Krankheiten heilen und sehr günstig alles bauen, was wir wollen. Das führt in eine Welt, in der Menschen nicht mehr arbeiten müssen. Langfristig. Kurzfristig wird die Marktökonomie stark profitieren. Aber irgendwann brauchen wir den Kapitalismus nicht mehr. Und ich sage das als Kapitalist. Aber wie bepreist man Dinge, wenn sie nicht mehr knapp sind?

Von welchem ​​Zeithorizont sprechen Sie da?

Ich denke, es gibt eine gute Chance, dass ich selbst ewig leben werde. Falls ich nicht von einem Auto überfahren werde.

Wirklich?

Das sind keine verrückten Aussagen. Wenn Sie sich lange genug mit KI beschäftigen, dann werden Sie wahrscheinlich zu dem Schluss kommen, dass sie alle Probleme löst oder uns alle umbringt. Ich glaube an Ersteres.

Sie fürchten sich nicht vor KI, die außer Kontrolle gerät und die Menschheit vernichtet?

Die Grundfrage ist, ob wir es schaffen, KI mit unseren menschlichen Werten zu vereinen. Wir nennen es das Alignment-Problem. Ich muss darauf vertrauen können, dass mein zukünftiger KI-Assistent mir Frühstück holen kann, ohne dabei Unheil anzurichten. Das geht nicht mit einer langen Liste von Regeln, die jeden Fall genau klären. Sondern wir müssen diesen Assistenten beibringen, unsere menschlichen Werte zu respektieren und selbständig das Richtige zu tun.

Welche Rolle spielt die staatliche Regulierung dabei?

Regulierung ist aus vielen Gründen wichtig. Und sie hat das Potenzial, KI stark zu hemmen. Aus meiner Sicht müssen grundsätzlich zwei Dinge reguliert werden. Das ist das angesprochene Alignment-Problem, also dass KI mit menschlichen Werten in Einklang gebracht werden muss. Das zweite ist die Erklärbarkeit. Alle Modelle sollten ihre Vorgehensweisen und Entscheide bis zu einem gewissen Grad erklären oder uns Bescheid sagen, wenn diese nicht erklärbar sind.

Es gibt auch Fachleute, die in KI weder Untergang noch Allheilmittel sehen. Warum gehen Sie davon aus, dass aus Chat-GPT, das im Moment auch Fehler macht und Fakten erfindet, bald eine den Menschen übertreffende Superintelligenz wird, die echte Innovation hervorbringt?

Die Leute, die daran zweifeln, dass es eine maschinelle Superintelligenz geben wird, sind dieselben, die nicht geglaubt haben, dass die jetzigen Systeme möglich sind. Wenn man sich die Entwicklungen ansieht, ist es doch unmöglich, zu erkennen, dass wir auf einer exponentiellen Kurve der Innovation sind.

Es könnte auch sein, dass die Fortschrittswelle sich verlangsamt. Etwa weil uns die Daten ausgehen, anhand derer die Modelle neue Dinge lernen können.

Wir werden es bald herausfinden. Aber ich sehe noch keine Anzeichen dafür. Und die Kosten der Modelle sinken, auch werden sie sich immer weiter verbreiten.

Wir haben diesen großen Fortschritt auf einer Seite. Zugleich ist die geopolitische Situation der Welt schwierig. Sind wir wirklich auf dem Weg in eine bessere Welt?

Ich bin froh, dass ich jetzt lebe und nicht in einer anderen Zeit. Die meisten Historiker würden dem zustimmen. Ich will sagen: Es gab immer wieder dunkle Zeiten, aber grundsätzlich ist die Menschheitsgeschichte eine Fortschrittsgeschichte.

„Ich glaube, die Antwort auf alle wissenschaftlichen Fragen liegt in KI und nicht in menschlichem Denken.“

Was ist mit dem Klimawandel?

Ich glaube, wir werden sehr bald durch Fusionsreaktoren unbegrenzten Energiezugang haben. Das wird die Klimakrise lösen. Wenn Sie Chat-GPT fragen, wie wir CO₂ Aus der Atmosphäre nehmen können, kommen schon jetzt ganz gute Antworten heraus. Extrapolieren Sie das, und rechnen Sie dazu, dass Robotik billiger wird, und die Zukunft ist sehr vielversprechend!

Sie sagen auch, wenn KI erst richtig funktioniert, werden sie alle wissenschaftlichen Fragen sehr schnell lösen. In dieser Logik müssten wir jetzt alles in KI investieren statt etwa in Klimaschutz, weil die Superintelligenz dann sowieso alle Probleme löst.

Ich glaube, die Antwort auf alle wissenschaftlichen Fragen liegt in KI und nicht in menschlichem Denken. Konkrete wissenschaftliche Fragen wie „Wie holen wir CO.“₂ aus der Atmosphäre zurück?» oder «Wie halten wir die Veränderung auf?» wird KI beantworten können.

Zurück dazu, was Unternehmer sich jetzt konkret fragen: In welchen Bereichen sollte man in KI-Applikationen investieren?

Jede Technologie hat eine technologische und eine soziale Schwelle. Bei der technologischen Schwelle ist die Frage, ob die Technologie eine bestimmte Aufgabe erfüllen kann – und bei der sozialen Schwelle stellt sich die Frage, ob wir sie akzeptieren. Soll ein auf KI basierendes Instrument eine Herzoperation durchführen oder ein Arzt? Mein Rat an ein Unternehmen ist, die soziale Akzeptanz von Technologien genau zu prüfen. Wenn sie zu viel in Bereiche investiert, die zwar technologisch funktionieren, aber sozial nicht willkommen sind, werden sie Probleme bekommen.

In welchen Bereichen wird KI in den nächsten Jahren am stärksten genutzt werden?

Beim Ausarbeiten von Ideen und Texten werden die Menschen zunehmend auf künstliche Intelligenz zurückgreifen, im Markt gibt es bereits viele Produkte dafür. Ich kann die wichtigsten Podcasts in meiner Branche in weniger als 20 Minuten hören, indem ich die Abschriften bei Chat-GPT eingebe und nach einer Zusammenfassung und den wichtigsten Punkten darin frage. Das ist ein neuer Weg, um Informationen aufzubereiten und zu konsumieren. Auch im privaten Bereich kann KI unterstützen. Ein Freund von mir hat mich neulich angerufen und gefragt, wie er mit seinem 16-jährigen Sohn kommunizieren soll.

Und was haben Sie gemacht?

Ich habe Chat-GPT gefragt, wie man das Problem einem 16-Jährigen erklären soll. Ich möchte nicht ins Detail gehen, worum es genau geht, aber Chat-GPT hat einige interessante Punkte geliefert. Die Gefahr besteht darin, dass wir all unser kritisches Denken in Zukunft KI überlassen.

Und Sie denken, das wird nicht passieren?

Es ist möglich, dass dies passiert. Das ist das größte Risiko. Die menschliche Erfahrung wird immer kleiner und verschwindet letztlich, weil wir nicht mehr kritisch denken. Das ist ein viel größeres Risiko, als dass uns neue Maschinen töten, wie oft befürchtet wird. Haben Sie den Pixar-Film «Wall-E» gesehen?

Ja.

Dieser Film zeigt ziemlich gut, wie eine solche Zukunft aussehen könnte. Die Menschen haben sich eigentlich aufgegeben, gleiten nur noch auf Roboterbetten herum und konsumieren. Wenn KI alle wichtigen Entscheidungen trifft und wir keinen neuen Lebenssinn finden, gäbe es nichts mehr zu tun, als zu konsumieren. Aber eine Arbeitsstelle auszufüllen, kann sowieso nicht die größte Berufung der Menschheit sein. Es muss mehr geben. Ich denke da eine Familie und Gemeinschaft. . .

„Wenn die Bevölkerung eines Landes in technologischer Hinsicht nachgedacht wird, ist es auch für die Unternehmen schwer, modern zu sein.“

Gegenüber den USA und Asien hinkt Europa im Bereich KI hinterher. Sehen Sie das auch so?

Ich liebe Europa, aber wenn ich nach Spanien oder Italien reise, komme ich mir heute vor wie in einer «technologisch zweiten Welt». Nichts dort ist digitalisiert, alles ist in einer alten Zeit verhaftet. Die Menschen in diesen Ländern nehmen neue Technologien generell unglaublich langsam an – im Gegensatz zu Asien, wo genau das Gegenteil der Fall ist.

Haben Sie ein Beispiel?

Wenn man nach Japan oder Südkorea geht, ist es eindrücklich, wie stark die Menschen dort Smart-Geräte einsetzen und wie technologiefreundlich sie sind. Das ist auch ein Abbild davon, wie weit die dortigen Unternehmen beim Einsatz neuer Technologien sind. Wenn die Bevölkerung eines Landes in dieser Hinsicht nachgedacht wird, ist es auch für die Unternehmen schwer, modern zu sein. Aus meiner Sicht ist das einer der Gründe, warum Deutschland seine Führungsrolle in der Automobilindustrie in den vergangenen zwanzig Jahren verloren hat.

Wie sehen Sie die Schweiz in diesem Zusammenhang?

Was ich über Europa gesagt habe, gilt nicht für die Schweiz. Die Schweizer Bevölkerung ist fortschrittlicher in Sachen Technologie e. Die große Frage hier ist, wie abhängig die Schweiz von ihren Nachbarländern ist.

Noch eine Frage zu den Geräten, die wir heute nutzen. Werden Smartphones und Computer durch KI-Anstecker oder Brillen abgelöst, mit denen man sich unterhalten kann?

In zehn Jahren dürften wir andere Technologien auch heute noch nutzen. Den PC haben wir lange verwendet, doch er ist etwas in die Jahre gekommen. Wir sind auf dem Weg in eine Welt, in der KI-Sprache interpretieren kann. Der jüngst vorgestellte Pin von Humane AI zeigt dies deutlich – in Zukunft werden die meisten Dinge, die wir heute auf dem Smartphone mit den Fingern machen, sprachlich ablaufen. Ich glaube stark an Wearables, aber ihre Zeit könnte kurz sein. Für mich hört es sich nicht verrückt an, dass wir robotische Kontaktlinsen oder Chips verwenden werden.

Das klingt auch etwas unheimlich. . .

Viele Menschen machen diesen technologischen Entwicklungen Angst. Aber ich glaube, dass die Wirtschaft wegen KI einen unglaublichen Boom erleben wird – und dass sie das Potenzial hat, die Lebensqualität der Menschen überall auf der Welt dramatisch zu verbessern. Dafür ist es nötig, die Technologie anzunehmen – denn es gibt ein Risiko, dass der Nutzen und die Gewinne daraus ungleich verteilt werden.