Neues KI-Gesetz der EU: «Kann es die ‹böse› Innovation blockieren und die gute ermöglichen?»
Effy Vayena, Expertin für Technologierecht, erklärt im Interview, was die neuen KI-Regeln den Konsumenten bringen – und welche Punkte ihre Sorgen bereiten.
Effy Vayena arbeitet als Professorin am Institut für Translationale Medizin der ETH Zürich.
Karin Hofer / NZZ
Die EU hat am Mittwoch das erste weitgehende Gesetz zu künstlicher Intelligenz weltweit verabschiedet. Es führt Standards ein, welche alle KI-Produkte in risikoreichen Bereichen einhalten müssen, dazu zahlreiche Anwendungen im Recruiting, zur Bewertung von Kreditwürdigkeit, in der Justiz, aber auch in der Schule.
Wir haben darüber mit Effy Vayena gesprochen. Sie ist Professorin für Bioethik an der ETH Zürich und forscht zu Technologie und Recht, vor allem im Bereich Gesundheit.
Frau Vayena, die USA gehen in der Innovation voran, die EU in der Regulierung. Ist das ein guter Schachzug für Europa?
Es stimmt nicht ganz, dass die USA keine Regulierung haben. Dort tut sich einiges, Präsident Biden hat eine Anordnung erlassen, Gliedstaaten haben Gesetze verabschiedet. Wahr ist, dass sie nicht so weit gehen und so breit angesetzt sind wie das AI Act der EU. Die EU versucht, wie beim Datenschutz, voranzugehen und den Ton anzugeben, wie sich Unternehmen zu verhalten haben.
Ist das KI-Gesetz auch eine gute Nachricht oder eine schlechte?
Es ist gut, dass versucht wird, Leitplanken zu etablieren. Aber der Teufel steckt im Detail. Wie wird das Gesetz umgesetzt, welche Standards werden eingeführt? Und wie gut wird es zu den technischen Neuerungen passen, die noch auf uns zukommen? Das wird man beobachten müssen.
Der Gesetzestext steht, warum kann man noch nicht beurteilen, was er für Firmen und Konsumenten bedeutet?
Es hängt davon ab, wie die neuen Regeln umgesetzt werden. Die EU richtet eine neue Institution ein, das AI-Büro. Dies wird gemeinsam mit Behörden und privaten Standardisierungs-Organisationen das Gesetz in Industriestandards übersetzen. Da ist viel technische Detailarbeit gefragt. Wie gut das alles funktioniert, wird man beobachten müssen. Klar ist, dass auf Firmen viel Dokumentationsarbeit zukommt, für bestimmte Risikokategorien müssen sie beispielsweise Pläne vorweisen, wie sie mit Daten umgehen.
KI-Produkte wie Liefer-Roboter müssen in Zukunft strenge Auflagen erfüllen, um in der EU Pakete einstellen zu dürfen.
Leon Neal / Getty
Für Startups und kleinere Unternehmen ist das ein größerer Aufwand. Bedroht das die Startup-Szene?
Das ist eine ernste Sorge. Die EU hat das auch auf dem Schirm und hat versprochen, mit Startups nachsichtiger umzugehen. Aber ich glaube, man kann kaum verhindern, dass sich manche kleinere Akteure durch Bürokratie ganz davon abschrecken lassen, überhaupt ein Unternehmen zu gründen. Die Medizingeräte-Industrie ist beispielsweise bereits stark reguliert. Das neue Gesetz bringt weitere Anforderungen mit sich. Für große Firmen, die genügend Ressourcen haben, ist es ein geringeres Problem, mit den neuen Auflagen mitzuhalten. Das kann ihre Marktmacht weiter stärken.
Bringt die ganze Bürokratie etwas für die Konsumenten?
Ich hoffe es. Für Konsumenten ist stärkerer Schutz eine gute Sache, besonders im Zusammenhang mit Technologien, die sich extrem schnell ausbreiten. Die entscheidende Frage wird sein, ob die neuen Vorschriften und das neue System aus Standards und Kontrollbehörden effizient und effektiv im breiten Ökosystem der Gesetze wirken werden. Können sie die «böse» Innovation blockieren und die Guten ermöglichen? Oder finden unerwünschte Anwendungen doch wieder Schlupflöcher?
Was hätten Sie anders gemacht, wenn Sie hätten entscheiden können?
In der EU hat sich inzwischen diese Methode etabliert, den ganzen Markt breit zu regulieren. Das hat auch mit der Geschichte der EU zu tun und der Herausforderung, unter geopolitischem Druck viele Interessen unter einen Hut zu bringen. Generell bin ich für eine Regulierung, die sich nicht so sehr auf eine bestimmte Art von Technologie konzentriert, sondern darauf, wie wir Menschen mit Technologien umgehen und wie unsere Rechte geschützt werden. Deshalb sollten die allgemeinen Anforderungen weitestgehend gefasst sein und die Einzelheiten in den spezifischen Sektoren festgelegt werden.
Sie sagten, das werde man beobachten müssen. Aber werden Konsumenten die Regeln konkret spüren? Oft ist es ja schwer zu sagen, was ein Gesetz eigentlich erlassen hat.
Wenn ich in ein Flugzeug steige oder eine Magnetresonanz-Tomografie durchführen lasse, dann vertraue ich darauf, dass diese Dinge sicher sind, weil es Einrichtungen gibt, die sich darum kümmern. Das sollte auch bei kritischen KI-Produkten der Fall sein. Regulierung muss jene Institutionen unterstützen, die sich darum kümmern. Dafür sind gute Vorschriften nötig: durchsetzbar, schlank, smart. Ich hoffe, dass das EU-Gesetz in dieser Art umgesetzt wird. Denn wir wollen, dass gute Technologie entwickelt wird.
