1. MZ.de
  2. >
  3. Leben
  4. >
  5. Technik
  6. >
  7. Künstliche Intelligenz: Risiken von Bildgeneratoren - Von der Actionfigur zum Porno

Künstliche Intelligenz Risiken von Bildgeneratoren - Von der Actionfigur zum Porno

Neugierig, wie man als Barbie, Actionpuppe oder Comicfigur aussehen würde? Das geht, dank Künstlicher Intelligenz. Doch ist es wirklich eine gute Idee, dafür eigene Fotos hochzuladen, einfach so?

Von Cordula Dieckmann, dpa 08.05.2025, 06:30
Ein Foto hochladen, ein paar Klicks und schon kann man sich dank künstlicher Intelligenz als Actionfigur bewundern - ein Zeitvertreib, vor dem Experten warnen.
Ein Foto hochladen, ein paar Klicks und schon kann man sich dank künstlicher Intelligenz als Actionfigur bewundern - ein Zeitvertreib, vor dem Experten warnen. Sina Schuldt/dpa

München - Mit wenigen Klicks ein Foto hochladen und zur Actionfigur oder Barbiepuppe in der Verkaufsbox werden? Zum Ölgemälde? Oder zur Anime-Figur? Künstliche Intelligenz macht es möglich. Eine witzige Sache, aber die Folgen können heftig sein, warnen Datenschützer.

So könnte das eigene Gesicht in völlig anderem Zusammenhang im Internet auftauchen, möglicherweise gar in Pornos oder auf Nacktbildern. Sind die KI-Bildgeneratoren doch nicht nur harmlose Spielerei? Hier kommen Antworten auf einige wichtige Fragen:

Wo landen hochgeladene Fotos?

Viele Bildgeneratoren speichern das Foto - und dazu vielleicht auch persönliche Daten wie IP- oder E-Mail-Adressen. „Du gibst mehr preis, als du denkst und verlierst die Kontrolle“, warnt der Verein Mimikama, der über Missbrauch im Internet aufklärt.

Katharina Grasl von der Verbraucherzentrale Bayern ergänzt: „Neben dem eigenen Bild können auch Daten wie Name, Wohnort und Hobbys betroffen sein, je nach Eingabe durch die Nutzerinnen und Nutzer.“ 

Was ist daran so schlimm? 

Die KI weiß, wie es der Person auf dem Foto geht. Sie erkennt Gesicht, Alter, Haltung, Emotion, erklärt Mimikama. Und im schlimmsten Fall könnten die gespeicherten Fotos für Deepfakes oder Missbrauchs-Inhalte verwendet werden - besonders problematisch, wenn es um Kinder geht.

Auch unangenehm: wenn das eigene Foto bei anderen Nutzerinnen oder Nutzern als Antwort auftaucht, wenn die zum Beispiel der Künstlichen Intelligenz eine Frage stellen. Die Daten könnten aber auch für Phishing-Angriffe oder andere kriminelle Zwecke verwendet werden, warnen Verbraucherschützer.

Warum macht man es - trotz der Risiken?

Ein Motiv bei vielen: Selbstdarstellung. Man könne mit der eigenen Identität experimentieren und sich so zeigen, wie man gerne sein möchte, sagt die Medienforscherin Claudia Riesmeyer von der Ludwig-Maximilians-Universität in München. Wünschenswertes hervorheben, anderes kaschieren.

Vor allem für Heranwachsende sei das reizvoll, erklärt Riesmeyer: „Wer beispielsweise ausprobieren will, wie er oder sie mit blauen Haaren aussieht, kann das an seinem Avatar ausprobieren – ohne gleich zum Friseur gehen zu müssen.“

Erkennt die KI Gesichter?

Auch die Künstliche Intelligenz könnte profitieren - nämlich wenn sie mit den Aufnahmen trainiert wird. Datenschützer schließen zudem nicht aus, dass Fotos in Systeme für biometrische Gesichtserkennung fließen könnten. Damit kann die KI das Gesicht einer Person erkennen und weiß, um wen es sich handelt. 

„Kamerasysteme, die aus großen Menschenmengen anhand biometrischer Daten einzelne Personen herausfischen können, könnten erhebliche Folgen haben“, mahnte kürzlich Hamburgs Datenschutzbeauftragter Thomas Fuchs. In der EU sind solche Systeme seit Kurzem verboten. 

Kann man das Foto wieder löschen?

Irgendwo in den unendlichen Weiten des Internets geistert also ein Foto von einem selbst herum samt allen möglichen Informationen. Das zu löschen ist schwierig und manchmal unmöglich, denn das Bild ist im Zweifel längst verarbeitet und kaum mehr zu finden. Vor allem, wenn die Anbieter nicht in der Europäischen Union sitzen, in der die Datenschutz-Grundverordnung gilt.

Hier seien sowohl das Recht auf Auskunft als auch auf Löschung verankert, informiert der rheinland-pfälzische Landesbeauftragte für den Datenschutz und die Informationsfreiheit in Mainz. Problematisch auch, wenn sich Anbieter von Bildgeneratoren weitreichende Nutzungsrechte an den Bildern einräumen. 

Gibt es rechtliche Folgen?

Was gar nicht geht: Fotos von Freunden ohne deren Einwilligung hochladen. Schließlich gilt das Recht am eigenen Bild. Ebenfalls nicht ratsam: Bilder von sich als bekannte Spielzeugfigur in den sozialen Medien teilen, zum Beispiel aus dem Weltraumepos „Star Wars“.

Die Rechte hält der Unterhaltungskonzern Disney, der sich durch so eine Aktion als Markeninhaber verletzt fühlen könnte. Die Folge könnten teure Abmahnungen sein. „"Ist doch nur Spaß" hat noch nie vor einer Abmahnung geschützt“, heißt es bei Mimikama.

Was schützt vor Missbrauch?

Ein Tipp: Zurückhaltend sein, wie die Verbraucherzentrale Bayern rät: „Ist mir die Nutzung des Tools die Preisgabe der Daten wirklich wert? Ist es wirklich notwendig, alle abgefragten Daten anzugeben?“.

Vor allem Kinder sollten sensibilisiert und begleitet werden. Und falls das eigene Bild doch missbräuchlich verwendet wird? Dann Beweise sichern, etwa mit Screenshots, den Anbieter kontaktieren und eventuell auch die Polizei einschalten.