Présentation des étiquettes pour les contenus générés par l’IA : Pinterest franchit une nouvelle étape en matière de transparence

L’émergence des outils d’IA générative (Gen AI) a contribué à stimuler la créativité et l’inspiration de nombreuses personnes. Bien que ces outils n’en soient encore qu’à leurs balbutiements, certains utilisateurs nous ont fait part de leur souhait d’avoir plus de transparence et de contrôle concernant le contenu généré par l’IA qu’ils voient sur Pinterest.

Au cours des derniers mois, nous avons expérimenté l’ajout d’une étiquette sur les Épingles, identifiées comme du contenu potentiellement généré ou modifié à l’aide de l’IA générative. Nous testons également des outils pour aider les utilisateurs à mieux gérer leur expérience avec ce type de contenu sur la plateforme. Aujourd’hui, Pinterest déploie ces fonctionnalités à travers le monde. 

« Lorsque les utilisateurs rencontrent du contenu généré par l’IA sur Pinterest, nous leur donnons les moyens de faire des choix plus éclairés concernant ce qu’ils voient », a déclaré Matt Madrigal, Chief Technology Officer. « Le contenu généré par l’IA sur Pinterest doit renforcer la capacité des utilisateurs à découvrir et à concrétiser leurs inspirations, et nous abordons volontairement ce nouvel environnement d’une manière réfléchie afin qu’il profite à tous les utilisateurs de Pinterest. »

Présentation des étiquettes Gen AI sur Pinterest

L’ajout d’une étiquette sur les images modifiées ou générées par l’IA est l’une des solutions choisies par Pinterest pour permettre aux utilisateurs d’identifier plus clairement ce type de contenu. Désormais, lorsque les utilisateurs cliquent sur une Épingle en plein écran, une étiquette indiquant « Modifiée par IA » apparaît en bas à gauche. Pour ce faire, nous analysons non seulement les métadonnées d’une image, mais nous avons également développé des algorithmes de classification capables de détecter automatiquement le contenu généré par l’IA, même si celui-ci ne présente pas de marqueurs évidents.

Au fur et à mesure que nous affinerons ces algorithmes de classification, nos étiquettes deviendront encore plus efficaces et précises. Cependant, nous savons que ces systèmes ne sont pas parfaits. C’est pourquoi nous avons mis en place un système d’appel pour les créateurs et les utilisateurs qui estiment que leur contenu a pu être mal étiqueté.

Donner plus de contrôle aux utilisateurs de Pinterest 

Nous travaillons constamment à améliorer l’expérience de recherche et de découverte de nos utilisateurs, notamment en leur offrant plus de contrôle sur le contenu qu’ils voient sur Pinterest. C’est pourquoi nous allons prochainement lancer une fonctionnalité test permettant aux utilisateurs de sélectionner une option « Voir moins » sur les Épingles issues de certaines catégories susceptibles d’être modifiées ou générées par l’IA, telles que la beauté et l’art, avant d’étendre cette possibilité à d’autres domaines. Cette option sera disponible dans le menu, symbolisé par trois points, en bas à droite d’une Épingle. Cela enverra un signal à nos systèmes pour que ce type de contenu soit moins mis en avant.

Chez Pinterest, nous sommes convaincus que l’IA générative, lorsqu’elle est mise en œuvre de manière réfléchie, peut être source d’inspiration et d’action : elle renforce la capacité des utilisateurs à créer la vie qui leur plaît. Au cours des prochains mois, nous prévoyons de lancer d’autres outils pour poursuivre nos efforts dans le domaine de l’IA. En attendant, consultez notre Centre d’aide pour en savoir plus sur l’utilisation de l’IA par Pinterest.