Mordverdächtiger als Shein-Model: ein Beispiel für die Risiken der KI

Das Bild von Luigi Mangione, dem des Mordes am Geschäftsführer von UnitedHealthcare Angeklagten, kursierte vor einigen Monaten im Internet. Unerwartet wurde er zu einer Art Idol, für den Frauen vor dem Gerichtsgebäude Schlange standen.

Seinen endgültigen Aufstieg zur Berühmtheit erlangte er, als sein Bild während einer Disney-Mottoparty in einer Bostoner Diskothek gezeigt wurde, während im Hintergrund Hannah Montanas ‘He Could Be the One’ lief. Ein Song, der die Aufregung und Verwirrung der Protagonistin beschreibt, als sie merkte, dass jemand Besonderes ‘der Richtige’ für sie sein könnte.

Diese Woche tauchte sein Bild an einem weiteren unerwarteten Ort auf: als Model für ein Produkt auf der Website von Shein. Es ist jedoch unmöglich, dass Mangione für diese Kampagne posierte, da er sich in Untersuchungshaft befindet.

„Das Bild wurde von einem externen Anbietenden geteilt und sofort entfernt, sobald es identifiziert wurde. Shein wendet strenge Standards für alle Inhalte der Plattform an", erklärte das Unternehmen gegenüber FashionUnited. „Wir führen derzeit eine umfassende Überprüfung durch und verstärken unsere Kontrollsysteme. Wir werden die notwendigen Maßnahmen gegen den/die Verkäufer:in gemäß unseren Richtlinien ergreifen."

Dieser technische Fehler verdeutlicht die Risiken der Automatisierung und die Anfälligkeit von Kontrollsystemen auf Plattformen mit riesigen Katalogen.

Ein Gesicht im Zeitalter der KI

Wie kann das Bild eines Mordverdächtigen als Katalogmodel verwendet werden? Die Antwort liegt in den Trainingssystemen der künstlichen Intelligenz. Wenn ein Gesicht viral geht, vervielfacht sich seine Präsenz in offenen Datenbanken, Foren oder wenig regulierten Repositorien, mit denen manche KIs trainiert werden. Daraufhin können kostengünstige Tools ‘lernen’, diese Bilder zu verwenden, ohne den Kontext zu berücksichtigen.

Bei Shein stammen viele Inhalte von Drittanbietenden, die oft nach technologischen Shortcuts suchen, um schnell große Mengen an Werbematerial zu produzieren. Daher ist es möglich, dass ein:e Verkäufer:in ein kostengünstiges KI-Tool verwendet hat, ohne das Endergebnis zu kontrollieren.

Obwohl künstliche Intelligenz unbestreitbare Vorteile für den Einzelhandel und die Mode bietet, sollte die Branche auf sorgfältigere und transparentere Lösungen setzen. So können Vorfälle vermieden werden, die ihrem Ruf schaden könnten. H&M hat beispielsweise auf digitale Zwillinge zurückgegriffen. Diese digitalen Modelle werden von realen Personen erstellt, die – gegen Bezahlung – das Recht abtreten, ihr Bild kontrolliert nachzubilden und zu nutzen. Dieses System garantiert sowohl die Rechte der Models als auch die Rückverfolgbarkeit der Inhalte und erhält so die Innovation, ohne die Kontrolle zu verlieren.

Desigual hingegen entwickelt seine Strategie zusammen mit spezialisierten Partnern.

Dieser Artikel wurde mithilfe von digitalen Tools übersetzt.

FashionUnited nutzt Künstliche Intelligenz, um die Übersetzung von Artikeln zu beschleunigen und das Endergebnis zu verbessern. Sie helfen uns, die internationale Berichterstattung von FashionUnited einer deutschsprachigen Leserschaft schnell und umfassend zugänglich zu machen. Artikel, die mithilfe von KI-basierten Tools übersetzt wurden, werden von unseren Redakteur:innen Korrektur gelesen und sorgfältig bearbeitet, bevor sie veröffentlicht werden. Bei Fragen oder Anmerkungen wenden Sie sich bitte per E-Mail an info@fashionunited.com