CEO do Pinterest: as Big Techs precisam evitar o modelo do Big Tobacco e impedir danos causados por redes sociais

Este artigo foi publicado originalmente pelo The Hill em 29 de janeiro de 2024, antes da audiência no Senado dos Estados Unidos, em 31 de janeiro, em que os CEOs de tecnologia depuseram sobre os próprios esforços para proteger crianças no ambiente online. 

Uma geração atrás, executivos do setor de tabaco estiveram diante do Congresso e afirmaram sob juramento que cigarros não eram viciantes. Claramente, a declaração era mentirosa, e uma foto do juramento se tornou um registro infame.

Atualmente, estamos lidando com um cenário tão perigoso quanto a indústria do tabaco do século XX: um ecossistema de redes sociais com o mesmo nível de toxicidade, sendo os jovens os mais vulneráveis nesse contexto. Se as redes sociais não mudarem, elas se tornarão o Big Tobacco dos dias atuais.

Cinco CEOs de tecnologia estão se preparando para testemunhar perante o Comitê Judiciário do Senado, e não há como negar que os paralelos são impressionantes.

O cirurgião-geral dos EUA, Vivek Murthy, tem alertado sobre o impacto das redes sociais na saúde mental de adolescentes. Isso aconteceu com C. Everett Koop, um cirurgião-geral que fez o mesmo na década de 1980 sobre os perigos do tabagismo. Segundo Murthy, os jovens dizem três coisas sobre as redes sociais: "As redes fazem com que eles se sintam piores sobre si mesmos. Fazem com que se sintam mal com suas amizades. E eles não conseguem sair delas".

Todos sabemos o objetivo inicial das mídias sociais. Elas nos ajudavam a reencontrar velhos amigos, compartilhar atualizações familiares e encontrar pessoas com pensamentos parecidos para criar um mundo mais curioso, conectado e empático. Ao mesmo tempo, as redes sociais nos deixaram mais distraídos, deprimidos e divididos. Muitas vezes, elas se concentram em nossas diferenças e imperfeições para aumentar nosso tempo de uso.

A inteligência artificial é usada pelas empresas para expandir o tempo de visualização. A IA entendeu com rapidez e precisão que nosso cérebro fica preso por mais tempo em publicações que acionam as emoções mais obscuras da natureza humana — como medo, raiva, luxúria e inveja.

Eu presenciei esse fenômeno no Pinterest. Faz um ano e meio que comecei no Pinterest, atraído pelo trabalho que eles fazem para evitar alguns dos elementos mais tóxicos das redes sociais. Eu tinha a intenção de dar ainda mais destaque ao bem-estar emocional como o propósito da empresa. 

Logo depois que comecei, descobrimos que a nova dinâmica de otimização dos vídeos curtos e do feed gerado por IA começou a mostrar o mesmo tipo de conteúdo prejudicial que vemos no resto do setor.

Como resposta, planejamos um novo objetivo para IA: otimizar conteúdo inspirador e positividade, além de permitir escolhas mais intencionais, dando aos usuários mais controle sobre o que veem. Quando retreinamos a IA, as recomendações de conteúdo tornaram-se mais positivas e orientadas para ação: guias passo a passo, ideias de autocuidado e frases inspiradoras ganharam destaque.

Infelizmente, alguns meses depois, uma investigação jornalística descobriu que homens adultos estavam seguindo jovens no Pinterest e incluindo conteúdo inocente em pastas com temática sexual. Pior ainda: nossos algoritmos recomendaram mais desse conteúdo para eles. 

Apesar de termos nos posicionado a fim de melhorar os recursos de segurança para adolescentes, isso nos desestabilizou, mostrando quanto trabalho é necessário em todo o setor para guiar a IA aos resultados certos, principalmente nas redes sociais.

Diferentemente do setor de tabaco décadas atrás, precisamos nos responsabilizar pelo que está acontecendo. Se não fizermos isso, os danos causados serão grandes. É hora de líderes do setor assumirem a responsabilidade e criarem plataformas online que gerem impacto positivo no bem-estar. 

As Big Techs não podem ser o próximo Big Tobacco. Temos oportunidade de ir contra a maré dos modelos de negócios atuais antes de perder mais jovens para a negatividade e a autodepreciação.

Como faremos isso?

Começamos invertendo o roteiro: com a IA no centro ao melhorar a segurança e o bem-estar dos jovens online. Ao contrário da nicotina no tabaco, existem formas positivas de usar IA nas redes sociais.

Primeiro, as redes sociais precisam aproveitar mais a IA para excluir conteúdo problemático. É preciso treinar a IA para ser virtuosa, não viciosa, e oferecer aos usuários mais controle sobre o que veem.

Em segundo lugar, as plataformas podem usar IA para melhorar o design de produto. Por exemplo, no Pinterest, usamos a tecnologia de tipos de corpo e gama de tons de pele para definir como nossos algoritmos aumentam o nível de representatividade nos resultados da pesquisa e nos feeds relacionados. Além disso, não temos efeitos ou filtros de alteração de imagem que reforçam padrões de beleza irreais.

Em terceiro lugar, as plataformas podem adicionar proteções especiais para adolescentes. Restringimos o envio de mensagens para adolescentes e adicionamos recursos para aqueles que se sentem ansiosos, estressados ou tristes. Também decidimos tornar privadas as contas de adolescentes com menos de 16 anos.

Em quarto lugar, podemos trabalhar juntos sendo transparentes e compartilhando aprendizados sobre como resolver esses problemas. Fomos os primeiros a assinar o The Inspired Internet Pledge, um pedido de intervenção para que empresas de tecnologia e anunciantes se unam para tornar a internet um lugar mais seguro e saudável para todos, especialmente os jovens.

É possível ter sucesso com um modelo de rede social focado na positividade. Sei disso porque é o que estamos fazendo, e conseguimos ver resultados. A receita do Pinterest aumentou em 11% nos últimos ganhos relatados. Nossos usuários estão mais engajados do que nunca, e vimos aumento de 20% em relação ao ano anterior nos usuários da geração Z entre 2022 e 2023.

Não somos perfeitos nem temos todas as respostas. Como todos no setor, temos um longo caminho a percorrer. Mas planejo tornar o Pinterest um lugar seguro para todos, principalmente os mais jovens.

Na posição de líder, devemos nos perguntar: ficaremos mais chateados lendo notícias negativas na imprensa e sendo chamados para depor no Congresso, ou sabendo que estamos prejudicando jovens? Caso sua resposta seja a última opção, precisamos nos responsabilizar e unir esforços para fortalecer a segurança.

Bill Ready é CEO do Pinterest.