CEO de Pinterest : Les géants du Web doivent rejeter le modèle du Big Tobacco et s’attaquer aux effets néfastes des réseaux sociaux

Cet éditorial a initialement été publié par The Hill le 29 janvier 2024, préalablement à l’audience du Sénat américain du 31 janvier, au cours de laquelle les CEO d’entreprises technologiques se sont exprimés sur les efforts qu’ils déploient pour protéger les enfants en ligne. 

Il y a trente ans, les dirigeants de l’industrie du tabac se sont adressés au Congrès et ont juré sous serment que les cigarettes ne créaient aucune dépendance. Leur déclaration était manifestement fausse, et une photo de leur prestation de serment est devenue tristement célèbre. 

Aujourd’hui, nous devons faire face à une menace tout aussi redoutable que l’industrie du tabac du XXe siècle : un écosystème de réseaux sociaux aussi nocif qu’addictif, où les jeunes sont les plus vulnérables. Si les réseaux sociaux ne changent pas leurs pratiques, ils deviendront bientôt le Big Tobacco d’aujourd’hui.

Alors que cinq CEO d’entreprises technologiques s’apprêtent à témoigner aujourd’hui devant le Comité judiciaire du Sénat des États-Unis, le parallèle est indéniable. 

C’est le directeur du Service de santé publique des États-Unis, Vivek Murthy, qui a tiré la sonnette d’alarme sur l’impact des réseaux sociaux sur la santé mentale des adolescents, tout comme C. Everett Koop, administrateur de la Santé publique dans les années 1980, l’avait fait sur les dangers du tabagisme. Selon M. Murthy, les jeunes ont exprimé trois préoccupations à propos des réseaux sociaux : « Ils les font se sentir moins bien dans leur peau ; ils ont un impact néfaste sur leurs relations amicales ; et ils n’arrivent pas à s’en détacher ».

Bien sûr, on se souvient des principes fondateurs des réseaux sociaux. Ils nous ont permis de renouer avec d’anciens amis, de communiquer avec notre famille et de trouver des personnes partageant les mêmes idées, dans l’espoir de créer un monde plus ouvert, plus connecté et plus solidaire. Mais les réseaux sociaux ont également contribué à nous distraire, à nous déprimer et à nous diviser. Trop souvent, ils se focalisent sur nos différences et nos défauts perçus afin de maximiser le temps de visionnage.

Et pour maximiser le temps de visionnage, les entreprises exploitent l’intelligence artificielle. L’IA a rapidement compris que notre cerveau était configuré pour s’attarder plus longuement sur les publications de réseaux sociaux qui font appel  aux  aspects les plus sombres de la nature humaine, c’est-à-dire des émotions comme la peur, la colère, la luxure et la jalousie.

J’ai été témoin de ce phénomène sur Pinterest. J’ai rejoint Pinterest il y a un an et demi, parce que j’ai été séduit par le travail accompli pour éviter délibérément certains des éléments les plus nocifs des réseaux sociaux. J’étais déterminé à faire en sorte que le bien-être émotionnel occupe une place encore plus centrale dans la mission de l’entreprise. 

Mais peu de temps après mon arrivée, nous avons constaté que l’accent mis récemment par Pinterest sur les vidéos courtes et l’optimisation de la page d’accueil par l’IA, mettait en avant le même contenu nuisible que le reste de l’industrie.

En réponse, nous avons décidé de donner un nouvel objectif à l’IA : favoriser  les contenus inspirants et la positivité, et intégrer des choix plus volontaires en donnant aux utilisateurs plus de contrôle sur ce qu’ils voient. Lorsque nous avons ré-entraîné  ’IA, les recommandations de contenu sont devenues beaucoup plus positives et axées sur l’action, proposant en premier lieu des guides pas à pas, des idées pour prendre soin de soi et des citations inspirantes.

Malheureusement, quelques mois plus tard, un rigoureux travail d’investigation journalistique a révélé que des hommes adultes suivaient de jeunes filles sur Pinterest et transformaient des contenus initialement inoffensifs en tableaux à caractère sexuel. Pire encore, nos algorithmes leur recommandaient davantage de contenus de ce type. 

Bien que nous ayons pris des mesures drastiques pour améliorer les dispositifs de protection des adolescents, cet épisode nous a ébranlés et a montré à quel point l’industrie a besoin d’améliorer l’IA, en particulier dans le domaine des réseaux sociaux.

Contrairement à l’industrie du tabac il y a des dizaines d’années, nous devons assumer nos responsabilités. Si nous ne le faisons pas, le préjudice sera considérable. Il est temps que les leaders de l’industrie assument leurs responsabilités et construisent des plateformes en ligne axées sur la positivité et le bien-être. 

Les géants du Web ne sont pas obligés de suivre la voie du Big Tobacco. Nous avons la possibilité de bouleverser les modèles d’entreprise actuels avant d’abandonner encore plus de jeunes à la négativité et  au dégoût de soi.

Mais comment pouvons-nous faire ?

Il faut commencer par inverser le scénario : l’IA doit être au centre de l’amélioration de la sécurité et du bien-être des jeunes en ligne. Contrairement à la nicotine dans le tabac, l’IA peut être utilisée de manière positive dans les réseaux sociaux.

Tout d’abord, les plateformes de réseaux sociaux doivent se servir de l’IA pour exclure beaucoup plus de contenus problématiques qu’elles ne le font actuellement. Elles doivent entraîner leur IA afin de devenir enrichissantes et non addictives, et donner aux utilisateurs plus de contrôle sur ce qu’ils voient.

Deuxièmement, les plateformes peuvent tirer parti de l’IA pour améliorer le design des produits. Par exemple, chez Pinterest, nous utilisons la technologie de type de morphologies et de teintes de peau pour façonner nos algorithmes et ainsi améliorer la représentation sur les pages d’accueil et les résultats de recherche connexes. Nous ne proposons pas non plus d’effets d’altération de l’image ou de filtres qui renforcent des normes de beauté irréalistes.

Troisièmement, les plateformes peuvent ajouter des mesures de protection spéciales pour les adolescents. Nous avons restreint la messagerie pour les adolescents et ajouté des ressources pour ceux qui se sentent anxieux, stressés ou tristes. Et nous avons pris les devants en rendant privés les comptes des adolescents de moins de 16 ans.

Enfin, nous pouvons travailler ensemble en faisant preuve de transparence et en partageant nos connaissances sur la façon de prendre en charge ces problématiques. Nous avons été les premiers à signer l’Initiative en faveur d’un Internet inspiré, un plaidoyer pour que les entreprises technologiques et les annonceurs s’unissent afin de faire d’Internet un lieu plus sûr et plus sain pour tous, en particulier pour les jeunes.

Il est tout à fait possible de mettre en place un modèle d’entreprise de réseaux sociaux axé sur la positivité. Si j’en suis sûr, c’est parce que nous le développons ici et que les résultats sont au rendez-vous. Les revenus de Pinterest ont augmenté de 11 % selon nos derniers résultats. Nos utilisateurs sont plus engagés que jamais et nous avons constaté une augmentation de 20 % du nombre d’utilisateurs de la génération Z entre 2022 et 2023.

Nous ne sommes pas parfaits et n’avons pas toutes les réponses. Comme le reste de l’industrie, nous avons beaucoup de chemin à faire. Mais je suis déterminé à faire de Pinterest un endroit sûr pour tout le monde, en particulier pour les jeunes.

En tant que dirigeants, nous devons nous poser la question suivante : serons-nous plus préoccupés par des articles de presse négatifs et par des appels à témoigner devant le Congrès, ou par des jeunes en souffrance ? Dans la seconde hypothèse, nous devons prendre nos responsabilités et unir nos forces pour relever la barre en matière de sécurité.

Bill Ready est le CEO de Pinterest.