Transparenz und Garantien: Das EU-Parlament schlägt die weltweit ersten Regeln für Chat-GPT vor
Europäische Politiker wollen künstliche Intelligenz an die Kandare nehmen. Doch übertreiben sie es? Denn Google hat am gleichen Tag angekündet, seinen Chatbot Bard der EU zunächst vorzuenthalten.
Hat er die Büchse der Pandora geöffnet? Sam Altman, der Geschäftsführer der auf künstliche Intelligenz spezialisierten US-Technologiefirma Open AI, an einem Anlass im Februar in Redmond, Washington.
Chona Kasinger / Bloomberg
Selten dürfte einer Erfindung so schnell ein Gesetz folgen, wie das derzeit bei der Anwendung Chat-GPT der Fall ist. Die US-Firma Open AI veröffentlichte das schriftliche Dialogsystem, das auf maschinellem Lernen beruht, Ende 2022. Nur fünf Monate später haben Ausschüsse des EU-Parlaments nun erste Vorschläge zur Regulierung von Chat-GPT und Co. vorgelegt.
Abgeordnete überholen die Kommission für Weltpremiere
Das war möglich, weil die EU-Kommission bereits im Frühjahr 2021 einen Vorschlag für ein Gesetz zu künstlicher Intelligenz (KI) vorgelegt hatte, den sogenannten AI-Act. Im Anschluss haben der Rat der Mitgliedstaaten und das EU-Parlament wie üblich den Vorschlag beraten. Der Rat verständigte sich gemeinsam in dem Moment auf einen Standpunkt, als Open AI Chat-GPT veröffentlicht.
Entsprechend finden sich weder im Vorschlag der Kommission noch bei den Änderungswünschen der Mitgliedstaaten Referenzen zu solchen Systemen der generativen künstlichen Intelligenz. Die Erörterungen im EU-Parlament zogen sich dagegen in das Jahr 2023 hinein, und plötzlich war Chat-GPT in aller Munde.
Die Abgeordneten haben sich daraufhin entschlossen, kurzfristig einen neuen Artikel für den AI-Act vorzuschlagen. Das Gesetz soll KI-Systeme mit allgemeinem Verwendungszweck (auch «foundation model» genannt), aber auch generative KI wie Chat-GPT Regeln. Es handelt sich somit um eine weltweite regulatorische Premiere.
Langer Forderungskatalog für generative künstliche Intelligenz
Das KI-Gesetz der EU folgt einem risikobasierten Ansatz. Das bedeutet, dass riskante Anwendungen wie etwa künstliche Intelligenz im Operationssaal eines Spitals strenger reguliert werden als ein selbstlernender Rasenmäher.
Systeme mit einem inakzeptabel hohen Risiko werden verboten. Die Ausschüsse des EU-Parlaments wollen etwa, dass automatische Gesichtserkennung im öffentlichen Raum in Echtzeit verbannt wird. Die biometrische Identifikation wäre dann nur noch in zeitlich verzögerter Form möglich für die Verfolgung schwerer Verbrechen und mit richterlicher Genehmigung.
KI-Anwendungen wie Chat-GPT sollen grundsätzlich nicht als Hochrisikoprodukte eingestuft werden, geht es nach dem Willen der Parlamentsausschüsse. Das hatten einzelne Abgeordnete gefordert. Doch die Politiker formulieren eine ganze Reihe von Bedingungen, welche Anbieter von Diensten wie Chat-GPT erfüllen müssen.
Wer ein KI-System mit allgemeinem Verwendungszweck anbietet – man könnte auch von einem Art Software-«Motor» sprechen, den Programmierer dann als Antrieb für verschiedene Anwendungen wie Chat-GPT nutzen –, muss verschiedene Dinge garantieren. So sollen diese Bausteine Menschenrechte, Gesundheit, Sicherheit, Umwelt, Demokratie und Rechtsstaatlichkeit schützen.
Die Unternehmen müssen ferner eine Risikoanalyse durchführen, Vorschriften zu Design, Offenlegungen und Umweltverträglichkeit einhalten und sich registrieren. Wer aus dieser allgemeinen KI eine Anwendung wie Chat-GPT erstellt, die Lieder verdichten, Texte schreiben, Fotos erstellen und Videos generieren kann, hat zusätzliche Regeln einzuhalten.
Dabei geht es in erster Linie um Transparenz. So muss offengelegt werden, wenn etwas von KI geschaffen worden ist. Außerdem soll die Anwendung so programmiert sein, dass sie keine illegalen Inhalte herstellen kann. Und schließlich hat der Anbieter eine Zusammenfassung der urheberrechtsgeschützten Daten zu veröffentlichen, mit denen das KI-System trainiert worden ist.
Die Parlamentarier haben neben diesen doch weitreichenden Forderungen auch Ausnahmen und Erleichterungen für die Forschung und für unter Open-Source-Lizenzen frei zugängliche Komponenten vorgeschlagen. Brando Benifei, der zuständige Berichterstatter der italienischen Sozialdemokraten, gab sich überzeugt, dass man mit dem Text ein Gleichgewicht zwischen Grundrechten, Rechtssicherheit und Innovation gefunden habe. Doch ist das wirklich der Fall?
Google führt Bard vorderhand in der EU nicht ein
Am gleichen Tag schreckte der US-Technologiekonzern Alphabet mit der Meldung auf, dass er sein neues KI-Modell Bard zwar neu in 180 Ländern anbiete, nicht jedoch in den 27 Ländern der EU und auch noch nicht in der Schweiz. Die offizielle Erklärung dazu von Google lautet: „Wir werden es schrittweise und verantwortungsvoll einführen und wollen weiterhin ein hilfreicher und engagierter Partner der Regulierungsbehörden sein, während wir gemeinsam diese neuen Technologien erkunden.“
Wird Google die KI-Gesetzgebung der EU abwarten? Nutzt die Firma ihr neues Produkt und das große Konsumenteninteresse als Druckmittel, um die Behörden von allzu strengen Regeln abzuhalten? Oder fürchtet Google, dass sein Produkt unter den bereits geltenden Bestimmungen wie der Datenschutz-Grundverordnung illegal sein könnte?
Die italienische Datenschutzbehörde hatte Chat-GPT für einige Wochen verbannt und mehrere Grunde angeführt: Die Herstellerfirma Open AI informierte nicht klar genug, wie Daten der Nutzer verwenden würde, und es sei nicht klar, ob sie alle nötigen Rechte an den Daten haben, mit denen Das Modell wurde trainiert. Nun informiert Open AI die Nutzer etwas besser und konnte wieder online gehen. Die Behörde setzt ihre Ermittlungen aber fort. Vielleicht hat auch dieses Hin und Her bei Google Bedenken ausgelöst.
Der Fall von Bard zeigt die Schwierigkeit bei der Regulierung von KI. Dass Bürger und Wirtschaft in Europa gewisse Innovationen nicht ausprobieren können, ist ein Problem. Aber weil Sprach-KI so vielfältige Anwendungszwecke hat, ist es schwierig, Missbrauch vorauszusehen und auszuschließen. Es dürfte auch nicht ganz einfach sein, die Forderungen des Parlaments umzusetzen.
Kaum Protest vom IT-Verband
Die Abgeordneten spendeten sich am Donnerstag seines ungeachtet selber viel Beifall.
Svenja Hahn von der deutschen FDP schrieb, dass das KI-Gesetz eine „klare liberale Handschrift“ trage. Es trotze konservativen Überwachungswünschen und linken Überregulierungsphantasien. Gesichtserkennung zur Überwachung sei aus China bekannt, habe aber in einer liberalen Demokratie nichts zu suchen. Bei Allzweck-KI und generativer KI wie Chat-GPT wird auf Qualitätsstandards statt auf Verbote gesetzt. Sie hofft, dass die EU damit zum Zentrum der Erforschung künstlicher Intelligenz werden wird.
Es sei ein Erfolg, dass zwischen Wunderwerkzeugen und Höllensystemen differenziert werde, teilte Alexandra Geese von den Grünen mit. Chat-GPT sei mit diesen Beschlüssen «eingefangen», auch wenn «das Zähmen der Chatbots noch viel Kraft und Zeit kosten» werde.
Auch Axel Voss von der CDU lobte das Gesetz als richtigen Schritt, um KI zu regeln. Es bereitet ihm allerdings Sorge, schreibt er, dass der bestehende Umgang mit künstlicher Intelligenz «angstgetrieben» sei und die Chancen neuer Technologien völlig ersticke.
Mehr Zustimmung gab es vom Verband der europäischen Konsumentenvertreter Beuc. „Die Verbraucher können angesichts des enttäuschenden Vorschlags der Kommission und der traditionellen Haltung der Mitgliedstaaten aufatmen“, so lässt sich Ursula Pachl, die stellvertretende Beuc-Generaldirektorin, dazu zitieren.
Mit diesem für die EU eher ungewöhnlichen Vorgehen hat nun für einmal das EU-Parlament die Diskussion über die Regulierung von künstlicher Intelligenz so richtig lanciert. Im Juni soll das Plenum den Text der Ausschüsse bestätigen. Dann würden die Schlussverhandlungen zwischen Kommission, Rat und Parlament beginnen. Diese dürften für einmal besonders spannend werden.
Aus der Industrie kamen zunächst vorsichtig optimistische Töne. Cecilia Bonefeld-Dahl, die Generaldirektorin des Verbandes Digital Europe, liess ausrichten, dass «digitale Unternehmen» Klarheit darüber hätten haben müssen, wie sich die neue Verordnung auf sie und ihre Produkte auswirken würde. Auf den ersten Blick biete der heutige Text ein gutes Gleichgewicht, so Bonefeld-Dahl, aber man werde weiter «an den Feinheiten» arbeiten. Ihr Verband vertritt unter anderen Google, Microsoft, Apple, Meta und Tiktok.
Derweil wird der Geschäftsführer von Open AI, Sam Altman, in den nächsten Wochen in Brüssel erwartet. Das ist Teil einer Tournee, die ihn um die ganze Welt führt. Ganz offensichtlich ist auch ihm nicht entgangen, dass es Gesprächsbedarf gibt, auch außerhalb der USA.
