Darf Meta Facebook-Posts und Instagram-Bilder als Material für seine KI verwerten?

Anfang Juni verschickte der Meta-Konzern E-Mails an seine Nutzer, Betreff: „Wir aktualisieren unsere Datenschutzrichtlinie, da wir KI bei Meta ausweiten.“ Eine dieser E-Mails, die die meisten Nutzer ignorieren dürften. In diesem Fall zu Unrecht.

Denn mit dieser E-Mail gab sich Meta die Erlaubnis, Bilder, Texte und Informationen, die Nutzer auf Instagram und Facebook geteilt haben, für seine künstliche Intelligenz (KI) zu verwenden. Einzig Inhalte, die Nutzer in privaten Nachrichten geteilt haben, und Daten von minderjährigen Nutzern nimmt das Unternehmen aus.

Meta ist nicht das einzige Unternehmen, das die Daten seiner Nutzer als Trainingsmaterial für KI verwenden und verwerten will. Auf geltendes Recht wird dabei meist nur wenig Rücksicht genommen. Das sorgt für Unmut bei Nutzern und Datenschützern. Bei Meta sind nun die Behörden eingeschritten.

War in KI einfliesst, kann sie wieder ausspucken

Dass Meta die Bilder und Posts von seinen Nutzern verwenden wird, um KI zu trainieren, ist so bedenklich, wie es klingt. Denn Daten, die bei der Erstellung der KI, dem sogenannten Training, in ein Modell einfliegen, bleiben zum Teil darin gespeichert.

So kam es, dass Chat-GPT ganze Artikel der «New York Times» Wort für Wort ausspuckte. Und Bildgeneratoren erzeugen immer wieder Bilder, die einzelnen Bilder im Trainingsmaterial zum Wechseln ähnlich sind.

Das zeigen Untersuchungen, unter anderem von Florian Tramer, der an der ETH eine Forschungsgruppe zur Sicherheit von KI-Systemen leitet. Sie beweist, dass der Bildgenerator Stable Diffusion nicht nur Bekanntes wie Filmplakate oder Firmenlogos reproduziert, sondern auch Gesichter von nicht prominenten Menschen. „Ich verstehe den Aufschrei um KI-Training mit Nutzerdaten“, sagt Tramèr deshalb.

Es gibt zwar technische Möglichkeiten, die es zumindest unwahrscheinlicher machen, dass Trainingsdaten ganz genau wiedergegeben werden, doch sind diese noch kein Standard. Bisher war das vor allem ein Copyright-Problem. Doch Tramèr sagt: „Je mehr Daten von Nutzern in Modelle einfliegen, desto mehr wird es eine Privatsphären-Frage.“

EU-Behörden bremsen Metas Pläne

In den meisten Weltregionen informierte Meta seine Nutzer kaum über die neue Datennutzung. In der EU und der Schweiz ist es dazu gezwungen. Denn diese Bürger haben ein Recht auf Datenschutz. Wer seine Daten verarbeiten will, muss eine Einwilligung einholen. Je persönlicher und heikler die Daten sind, desto stärker sind die Vorgaben dazu.

Deshalb bemängeln viele Datenschützer auch, dass Meta seine Nutzer nur auf ihr Widerspruchsrecht hinwies, anstatt eine explizite Einwilligung einzuholen. Wer nicht wollte, dass seine Daten von der KI verarbeitet werden, musste eigens ein Formular ausfüllen.

Peter Hense ist als Anwalt auf IT-Recht spezialisiert. Seiner Ansicht nach reicht Metas Opt-out-Angebot bei weitem nicht als explizites und informiertes Einverständnis der Nutzer, das von Rechts wegen nötig wäre. „Das Vorgehen von Meta hat offensichtlich massive Probleme“, sagt er. Dass Datenschutzbehörden eingeschritten sind, um die Sache genau zu untersuchen, sei folgerichtig.

Aufruhr um veränderte Nutzungsbedingungen bei Adobe

Meta ist nicht das einzige Unternehmen, dessen Nutzer sich im Moment Sorgen machen, ihre Daten könnten in KI einfließen.

Auch Adobe hat gerade große Kritik auf sich gezogen, weil es seine Nutzungsbedingungen pro Pop-up-Fenster änderte. Um ihre Adobe-Programme zu öffnen, musste der Nutzer akzeptieren, dass ihre Inhalte maschinell verarbeitet werden dürfen.

Es geht um die Dokumente in der Cloud: im Fall von Photoshop und Illustrator um kreative Werke, im Fall des PDF-Readers um teilweise vertrauliche Dokumente.

Zugleich fallen Nutzern nun auf, dass sich Adobe in den Nutzungsbedingungen weitgehend Rechte an den Inhalten der Vorteile sichert, «um Software zu verbessern». Im KI-Zeitalter hat das einen neuen Beigeschmack. Sofort witterten Nutzer, Adobe plane, ihre Inhalte für KI-Software zu verwenden. Auf sozialen Netzwerken brach ein Sturm der Empörung los.

Adobe reagierte rasch mit einer Klarstellung, es sei bei der Neuerung immer nur darum gegangen, illegale Inhalte aufzustöbern. Nie sei das Ziel gewesen, die Daten der Nutzer zu Trainingsmaterial zu machen.

Der Anwalt Peter Hense ist nicht überzeugt. «In den USA sagt man: ‹Wer vom Goldrausch profitieren will, sollte Schaufeln verkaufen.› Im KI-Goldrausch sind die Daten die Schaufeln.» Trainingsdaten verkaufen sei der Weg, auf dem Adobe und Meta an dem KI-Hype mitverdienen wollen, vermutet er.

Seine Kanzlei bereitete bereits eine Unterlassungsklage vor, wegen Verletzung des Mandatsgeheimnisses. Denn um auf PDF zugreifen zu können, mussten zahlende Nutzer die Bedingungen akzeptieren und Adobe damit Einsicht in vertrauliche Inhalte geben.

Auch der KI-Forscher Tramer sieht die Episode kritisch: „Dass diese Firmen nicht transparent machen, was sie vorhaben, ist ärgerlich und problematisch.“

In Zukunft dürfte der Konflikt nur weiter eskalieren. Denn KI-Firmen setzen auf mehr und mehr Daten, um ihre Systeme zu trainieren. Doch die öffentlichen Daten gehen zur Neige. Umso interessanter werden die Inhalte von Nutzern, ob in der Cloud gespeichert oder auf Social Media geteilt.

Nicht immer ist klar, was legal ist – und nicht alle halten sich an die Regeln. Das führt zu bizarren Situationen. Es wird also vermutet, dass die KI-Firma Open AI für seine KI Youtube-Daten nutzt, während Google, dem Youtube ja gehört, genau das sicher nicht darf, weil es einen Vertrag mit den Erstellern der Videos hat, der diese Nutzung nicht umfasst.

Experten finden Datenschutzstandards der EU sinnvoll

Nachdem die Datenschutzbehörden Rücksprache mit Meta gehalten hatten, gab das Unternehmen bekannt, das Einführen seiner KI-Bots in Europa verzögern zu wollen.

Der Anwalt Peter Hense ist allerdings wenig zuversichtlich, dass Meta nun wirklich davon ablässt, die Daten der europäischen Nutzer für KI zu verarbeiten. Er tippt eher darauf, dass Meta die Daten über eine Tochtergesellschaft des Unternehmens abgreifen wird und im Zweifelsfall lieber später eine Strafe zahlt, wie schon in der Vergangenheit geschehen. Meta steht seit Jahren wegen im Konflikt mit den europäischen Behörden und wurde wegen fragwürdiger Datennutzung immer wieder sanktioniert. Bisher seien die Ergebnisse behördlicher Sanktionen allerdings kaum spürbar, sagt Hense.

In seiner Presseaussendung betont Meta derweil, dass Europa bei KI an einem Scheideweg stehe, und warnt vor „extremistischen Positionen“, welche die KI-Entwicklung hemmten. Dieses Argument überzeugt weder Hense noch Tramè. Die Datenschutzstandards der EU sind sinnvoll und wichtig und fördern echte Innovation auch nicht im Wege.