Die letzten Wochen haben einen neuen Hype um Avatare erstellt mit künstlicher Intelligenz (kurz: KI) ausgelöst. Vorreiter hierfür ist die App „Lensa AI“, die auf bereits vorhandene KI Systeme einsetzt um aus Selfies Avatare zu erstellen.
Zur Generierung von KI erstellten Avatare werden einige Bilder (Selfies) hochgeladen. Das vortrainierte KI System generiert daraus Avatare, die dann dem Nutzenden zum Download zur Verfügung gestellt werden.
Der Hype ist so groß, dass die App-Stores mit Avatar Apps regelrecht überrannt werden. Grund genug für uns diese Apps und ihre (Datenschutz-)Standards genauer anzuschauen.
Avatar Apps und Datenschutz
Die Avatar Apps stehen offiziell in dem europäischen Rechtsraum (EU) im Angebot und unterstehen somit automatisch der Datenschutzgrundverordnung (kurz: DSGVO). Diese gibt einen klaren Rechtsrahmen zum Erheben und Verarbeiten personenbezogener Daten vor. Unternehmen können mit harten Sanktionen belegt werden wenn sich herausstellt, dass sie sich nicht an das gültige Datenschutzrecht halten bzw. die erhobenen Daten anderweitig nutzen (z.B. zu Werbezwecken).
Daher lohnt es sich, einen Blick in die Datenschutzerklärung der jeweiligen Anwendungen zu werfen. Prisma Labs, der Herausgeber von Lensa AI, gibt u.a. an, den (erstellten) Content nach Belieben wiederzuverwenden. Bedenkt man, dass Nutzende mindestens zehn Bilder hochladen müssen, ist die Anzahl an personenbezogenen Daten (in Form von Bildern) immens. Diese Daten werden laut eigenen Angaben allerdings „nur“ zum Trainieren des Algorithmus verwendet, nicht etwa an Dritte verkauft. Das Recht zum Verkauf behält sich aber Prisma Labs aber vor. Darüber hinaus sammelt die App weitere (personenbezogene) Daten. Manche werden automatisch mit der Nutzung erhoben, andere wiederum benötigen die Zustimmung des Benutzenden.
Des Weiteren kontrolliert niemand, ob Bilder von der eigenen Person oder Dritte hochgeladen wird. Betroffene wissen also im Zweifel nicht dass ihre eigenen Bilder von erhoben und verarbeitet, ggf. sogar an Dritte gegeben werden.
Urheberrecht und Umsatzgenerierung: ethische Bedenken bei Nutzung und Einsatz
Wirklich neu ist die Technik hinter Lensa AI allerdings nicht: die App greift zur Berechnung der Avatare auf das kostenlose und öffentlich zugängliche Stable Diffusion zu. Genau genommen ist Lensa also nur eine Art „Zwischenschicht“, die die Rechenleistung und einige Features zur Konformität bietet. Fraglich ist, ob Stable Diffusion von dem generierten Umsatz von Lensa AI profitiert.
Des Weiteren steht Lensa AI (bzw. Stable Diffusion) in Sachen Urheberrecht in der Kritik. Da die KI mit weit über zwei Millarden Bildern trainiert wurde, die auch Bilder von echten Künstlern enthalten, wurden die Stile und Merkmale der jeweiligen Künstler antrainiert. Teilweise werden sogar Signaturen von Künstlern 1:1 übernommen und somit stellt die Generierung keine neuen Werke, sondern lediglich Kopien vorhandener Werke dar. Neben der Urheberrechtsverletzung stellt sich auch bei den Künstlern die Frage, ob sie angemessen an dem Umsatz beteiligt werden.
Sexismus, Benachteiligung von Frauen und anderen Gruppen
Insbesondere bei weiblichen Usern steht Lensa AI in der Kritik zu benachteiligen. So werden Frauen meist leicht bekleidet dargestellt und teilweise sogar sexualisierte Avatare erzeugt. Tech Crunch hat es sogar geschafft, nicht jugendfreie Bilder von Menschen zu erstellen, ohne dass diese vorher eingewilligt hatten. Viele Nutzerinnen berichten darüber hinaus, dass ihre Avatare einem „weiblichen Idealbild“ nach erstellt werden.
Darüber hinaus berichten einige Nutzende, dass erstellte Avatare die Hautfarbe heller, das augenscheinliche Gewicht geringer und einige Körperbereiche größer oder runder als sie sind dargestellt werden.
Fazit und Empfehlung
Neben dem herkömmlichen Nutzen personenbezogener Daten haben wir es mit KI bezogenen Erstellung von Avataren mit einem Problem zu tun, welches nur indirekt zu beeinflussen ist: der antrainierte Algorithmus. Je nach Art, Umfang und Qualität des Trainigssatzes der KI ist es schwierig dem Algorithmus ethische Grenzen zu setzen und gesellschaftliche Gruppen nicht zu benachteiligen. Dies ist ein Phänomen welches mit der Verbreitung von KI immer mehr in den Vordergrund rückt und in Zukunft noch zu intensiveren Diskussionen sorgen wird.
Wir raten daher ganz eindeutig von der Nutzung von KI basierten Erzeugung von Avataren ab. Nicht nur, dass Sie nicht mehr Herr/Frau Ihrer eigenen (personenbezogenen) Daten sind – es besteht das Potenzial dass Sie möglicherweise in einer Ihnen fremden bis verletzenden Form dargestellt werden. Insbesondere aber sollten Sie aber von der Erzeugung von Avataren von Kindern und Jugendlichen absehen.
Werfen Sie bei der Nutzung solcher und ähnlicher Dienste einen genauen Blick in die Datenschutzbestimmung. Fordern Sie Auskunft und ggf. Löschung über jene Daten, die über sie erhoben wurden. Wollen Sie auf KI gestützte Avatare nicht verzichten, suchen Sie datenschutzkonformere Alternativen.
