El CEO de Pinterest: Los gigantes tecnológicos deben rechazar el modelo de las grandes tabacaleras y enfrentar los daños causados por las redes sociales

Este artículo de opinión se publicó originalmente en The Hill el 29 de enero de 2024, en la víspera de la audiencia en el Senado de los EE. UU. del 31 de enero en la que los CEO de las empresas tecnológicas testificaron sobre sus iniciativas para proteger a los niños en línea.

Hace una generación, los ejecutivos de las tabacaleras se presentaron ante el Congreso y dijeron bajo juramento que los cigarrillos no eran adictivos. Ese testimonio obviamente era falso y la foto en la que se los ve prestando juramento se volvió infame.

Hoy, debemos luchar con una fuerza igual de dañina que la industria tabacalera del siglo XX: un ecosistema de redes sociales que es tan peligrosamente tóxico como adictivo, en el que los jóvenes son los más vulnerables. Si las redes sociales no cambian su forma de hacer las cosas, acabarán convirtiéndose en la industria tabacalera de nuestra época.

Mientras cinco CEO de empresas tecnológicas se preparan para testificar ante el Comité Judicial del Senado, es imposible negar las similitudes.

El Cirujano general de los EE. UU. Vivek Murthy nos está advirtiendo sobre el impacto de las redes sociales en la salud mental de los adolescentes, al igual que C. Everett Koop, quien ocupó el puesto en los ochenta, nos advirtió de los peligros de fumar. Murthy dijo que los jóvenes le dicen tres cosas sobre las redes sociales: "Los hacen sentirse peor sobre sí mismos, los hacen sentirse peor respecto a sus amistades y que, a la vez, les resulta imposible dejarlas".

Todos recordamos los principios fundamentales de las redes sociales. Nos ayudaban a conectarnos con viejos amigos, compartir novedades sobre la familia y encontrar a personas que pensaran como nosotros, con la esperanza de crear un mundo más curioso, conectado y compasivo. Pero, a la vez, las redes sociales también nos han vuelto más distraídos, deprimidos y divididos. En muchos casos, se centran en nuestras diferencias y defectos autopercibidos para maximizar el tiempo de visualización.

Las empresas aprovechan la inteligencia artificial para maximizar el tiempo de visualización. La IA rápidamente determinó de manera acertada que nuestros cerebros están programados para quedarnos más tiempo en las publicaciones de redes sociales que despiertan los aspectos más oscuros de la naturaleza humana, como las emociones de miedo, ira, lujuria y envidia.

Yo fui testigo de este fenómeno en Pinterest. Me uní a Pinterest hace un año y medio porque me atrajo la tarea que ha realizado para evitar de forma consciente algunos de los elementos más tóxicos de las redes sociales. Estaba determinado a hacer que el bienestar emocional sea una parte aún más fundamental del propósito de la empresa. 

Pero no bien comencé a trabajar, descubrimos que el paso que Pinterest había dado recientemente hacia los videos cortos y la optimización de feeds potenciada por IA había comenzado a mostrar el mismo contenido perjudicial que el resto de la industria.

Como respuesta, nos decidimos a darle a la IA un nuevo objetivo: optimizar para que muestre contenido inspirador y positivo y que ofrezca más elecciones intencionales para darles a los usuarios control sobre lo que ven. Tras volver a entrenar la IA, las recomendaciones de contenido se volvieron mucho más positivas y orientadas a la acción: las guías paso a paso, las ideas de cuidado personal y las citas inspiradoras se convirtieron en el contenido más popular.

Lamentablemente, unos meses después, mediante una sólida investigación periodística, se descubrió que había hombres adultos que seguían a niñas en Pinterest y seleccionaban contenido que, de por sí, era inofensivo, para armar tableros de temática sexual. Y lo peor de todo era que nuestros algoritmos les recomendaban a ellas cada vez más de este contenido.

Aunque actuamos rápidamente para mejorar las funciones de seguridad para los adolescentes, el episodio nos conmovió y demostró cuánto trabajo se necesita en toda la industria para guiar la IA hacia los resultados correctos, en especial en las redes sociales.

A diferencia de la industria del tabaco de hace tantas décadas, realmente debemos aceptar la responsabilidad. De no hacerlo, el daño será terrible. Es hora de que los líderes de la industria se hagan responsables y desarrollen plataformas en línea centradas en resultados positivos para el bienestar. 

Los gigantes tecnológicos no tienen por qué convertirse en las tabacaleras de nuestra época. Tenemos la oportunidad de alterar los modelos empresariales actuales antes de perder a más jóvenes frente a la negatividad y el odio a sí mismos.

Pero ¿cómo podemos lograrlo?

Debemos dar vuelta el panorama: la IA debe estar en el centro de la mejora de la seguridad y el bienestar de los jóvenes en línea. A diferencia de la nicotina que se encuentra en el tabaco, la IA en las redes sociales tiene usos positivos.

Primero, las plataformas de redes sociales deben utilizar la IA para excluir aún más contenido problemático del que ya excluyen. Las IA deben entrenarse para ser aditivas en vez de adictivas, para así darles más control a los usuarios de lo que ven.

Segundo, las plataformas pueden aprovechar la IA para obtener más beneficios en el proceso de diseño de productos. Por ejemplo, en Pinterest, estamos usando una tecnología de gama de tipos de cuerpo y de tonos de piel para formar a nuestros algoritmos a fin de que mejoren la representación en los feeds relacionados y en los resultados de búsqueda. Además, no tenemos efectos que alteren la imagen ni filtros que refuercen estándares de belleza poco realistas.

Tercero, las plataformas pueden agregar protecciones especiales para los adolescentes. Nuestro servicio de mensajería para adolescentes está restringido y agregamos recursos para quienes sientan ansiedad, estrés o tristeza. Y somos líderes en la iniciativa de hacer que las cuentas de menores de 16 años sean privadas.

Cuarto, podemos trabajar unidos siendo transparentes y compartiendo lo que aprendamos al abordar estos problemas. Fuimos los primeros en firmar la Inspired Internet Pledge, un llamado a la acción para las empresas tecnológicas y los anunciantes para unirse y hacer que internet sea un sitio más sano y seguro para todos, en especial para los jóvenes.

Un modelo empresarial de redes sociales exitoso centrado en la positividad es posible. Lo sé porque lo estamos desarrollando aquí mismo y vemos los resultados. Los ingresos de Pinterest aumentaron un 11% en nuestro último informe de ganancias, nuestros usuarios interactúan más que nunca antes y vimos un aumento interanual del 20% en la cantidad de usuarios de la generación Z entre 2022 y 2023.

No somos perfectos ni tenemos todas las respuestas. Como el resto de la industria, aún nos queda un largo camino por recorrer. Pero mi intención es que Pinterest sea un lugar seguro para todos, en especial para los jóvenes.

Como líderes, debemos preguntarnos: ¿vamos a angustiarnos más por las historias periodísticas negativas y porque nos citen a testificar ante el Congreso que por el hecho de que los jóvenes estén sufriendo? Si la respuesta es la segunda opción, debemos hacernos responsables y unirnos para elevar los estándares de seguridad.

Bill Ready es el CEO de Pinterest.