Presentamos las etiquetas de IA generativa: Pinterest da un nuevo paso en materia de transparencia

La aparición de las herramientas de IA generativa (Gen AI) ayudó a impulsar la creatividad y la inspiración para muchas personas. Sin embargo, estas herramientas aún son incipientes y algunos usuarios nos comentaron que les gustaría tener más transparencia y control sobre el contenido de IA generativa que ven en Pinterest.

Durante los últimos meses, mostramos una etiqueta en Pines de imagen que indica si el contenido pudo haber sido generado o modificado con IA Generativa. También estamos probando herramientas para que los usuarios puedan gestionar mejor su experiencia con este tipo de contenido en la plataforma.Ahora, Pinterest está implementando estas funciones a nivel mundial. 

“Como los usuarios encuentran contenido generado por IA en Pinterest, los empoderamos para que tomen decisiones más informadas sobre ese contenido”, afirma Matt Madrigal, director de tecnología. “El contenido de IA generativa en Pinterest debería mejorar la capacidad de los usuarios para descubrir su inspiración y actuar en consecuencia, y estamos abordando este nuevo panorama de una manera reflexiva que beneficia a todos en Pinterest”.

Presentamos las etiquetas de IA generativa en Pinterest

Agregar una etiqueta a las imágenes modificadas o generadas por IA es una de las formas en las que Pinterest ayuda a los usuarios a identificar con mayor claridad este tipo de contenido. Ahora, cuando los usuarios hagan clic en un Pin de imagen para verlo a detalle, encontrarán la etiqueta “Modificado por IA” en la esquina inferior izquierda. Para ello, no solo analizamos los metadatos de una imagen, sino que también desarrollamos clasificadores que detectan automáticamente el contenido de IA generativa, incluso si no tiene marcadores obvios.

A medida que refinemos estos clasificadores, nuestras etiquetas serán aún más útiles y precisas. Sin embargo, sabemos que estos sistemas no son perfectos. or eso establecimos un sistema de apelaciones para creadores y usuarios que creen que su contenido puede estar etiquetado incorrectamente.

Los usuarios de Pinterest tienen más control 

Trabajamos constantemente para mejorar la experiencia de búsqueda y descubrimiento de nuestros usuarios, lo que incluye darles más control sobre el contenido que ven en Pinterest. Por eso,  pronto lanzaremos un piloto que permitirá a los usuarios seleccionar la opción “ver menos” en los Pines con IA generativa para ciertas categorías propensas a ser modificadas o generadas por IA, como belleza y arte (luego se expandirá a más áreas). Esta opción se encontrará en el menú de contenido adicional de tres puntos en la parte inferior derecha de un Pin. Esto enviará una señal a nuestros sistemas para que recomienden menos de este tipo de contenido.

Pinterest cree que la IA generativa, cuando se implementa con cuidado, puede inspirar,  generar acciones y mejorar la capacidad de las personas para crear la vida que desean. En los próximos meses, esperamos presentar más herramientas para desarrollar nuestro trabajo continuo con IA. Mientras tanto, visita nuestro Centro de asistencia para obtener más información sobre cómo Pinterest usa la IA.