Einführung von Gen AI-Labels: Pinterest unternimmt einen neuen Schritt in Sachen Transparenz

Tools, die generative KI (Gen AI) nutzen, haben bereits viele Menschen inspiriert und ihre Kreativität beflügelt. Gleichzeitig stecken diese Tools noch in den Kinderschuhen und wir haben von einigen Nutzer*innen gehört, dass sie sich mehr Transparenz und Kontrolle rund um Gen AI-Inhalte auf Pinterest wünschen.

In den letzten Monaten haben wir Bild-Pins, von denen wir feststellen, dass sie möglicherweise mithilfe von generativer KI erstellt oder verändert wurden, mit einem Label versehen. Außerdem testen wir Tools, mit denen Nutzer*innen ihre Erfahrungen mit Gen AI-Inhalten auf der Plattform verwalten können. Jetzt führt Pinterest diese Funktionen weltweit ein. 

„Nutzer*innen auf Pinterest kommen auch  mit KI-generierten Inhalte in Kontakt. Deshalb geben wir ihnen die Möglichkeit, fundiertere Entscheidungen über die Inhalte zu treffen, die sie sehen“, sagte Matt Madrigal, Chief Technology Officer. „Gen AI-Inhalte auf Pinterest sollten Nutzer*innen inspirieren und ihnen helfen, ihre Ideen umzusetzen, und wir nähern uns dieser neuen Umgebung bewusst auf eine durchdachte Art und Weise, von der alle auf Pinterest profitieren.“

Wir stellen vor: Gen AI-Labels auf Pinterest

Das Hinzufügen eines Labels zu mit KI modifizierten oder generierten Bildern ist eine der Möglichkeiten, mit denen Pinterest Nutzer*innen hilft, diese Art von Inhalten eindeutiger zu identifizieren. Wenn Nutzer*innen jetzt in der Großansicht auf einen Bild-Pin klicken, sehen sie unten links das Label „KI-modifiziert“. Dazu analysieren wir nicht nur die Metadaten eines Bildes, sondern haben auch Klassifikatoren entwickelt, die Gen AI-Inhalte automatisch erkennen, auch wenn die Inhalte keine offensichtlichen Marker aufweisen. 

Je weiter wir diese Klassifikatoren verfeinern, desto hilfreicher und genauer werden unsere Labels. Wir wissen jedoch, dass diese Systeme nicht perfekt sind. Aus diesem Grund haben wir ein Beschwerdesystem für Content-Creator*innen und Nutzer*innen eingerichtet, die der Meinung sind, dass ihre Inhalte falsch gekennzeichnet wurden.

Mehr Kontrolle für Pinterest-Nutzer*innen 

Wir arbeiten kontinuierlich daran, das Such- und Entdeckungserlebnis für unsere Nutzer*innen zu verbessern. Dazu gehört auch, ihnen mehr Kontrolle über die Inhalte zu geben, die sie auf Pinterest sehen. Aus diesem Grund werden wir in Kürze ein Experiment starten, bei dem Nutzer*innen für bestimmte Kategorien, die anfällig für KI-Modifikationen oder -Generierung sind, wie Beauty und Kunst, die Option „Weniger anzeigen“ für Gen AI-Pins auswählen können. Diese Option befindet sich im Menü mit den drei Punkten unten rechts auf einem Pin. Dadurch wird ein Signal an unsere Systeme gesendet, weniger dieser Art von Inhalten zu empfehlen.

Pinterest ist davon überzeugt, dass Gen-AI, wenn sie durchdacht eingesetzt wird, inspirierend und nützlich sein kann – und so Menschen dabei unterstützen kann, ein Leben zu gestalten, das sie lieben. Wir freuen uns darauf, in den kommenden Monaten weitere Tools einzuführen, die auf unserer laufenden Arbeit mit KI aufbauen. In der Zwischenzeit finden sich in unserem Help Center weitere Informationen dazu, wie Pinterest KI einsetzt.