CEO di Pinterest: le Big Tech devono opporsi al modello delle Big Tobacco e affrontare i danni causati dai social media

Questo articolo è stato originariamente pubblicato su The Hill il 29 gennaio 2024, prima dell'udienza al Senato degli Stati Uniti del 31 gennaio, durante la quale alcuni CEO di aziende tecnologiche hanno dichiarato il proprio impegno a favore della sicurezza online dei bambini. 

Una generazione fa, i dirigenti delle società del tabacco sono stati chiamati davanti al Congresso a dichiarare sotto giuramento che le sigarette non creavano dipendenza. La loro testimonianza era palesemente falsa e la foto del loro giuramento è diventata tristemente celebre. 

Oggi dobbiamo fare i conti con una forza altrettanto pericolosa: l'ecosistema tossico e assuefacente dei social media, a cui risultano più esposti i giovani. Se le aziende dei social media non cambiano approccio, sono destinate a diventare le Big Tobacco dell'era moderna.

Mentre cinque CEO di aziende tecnologiche si preparano a testimoniare quest'oggi davanti alla commissione giudiziaria del Senato, i parallelismi sono decisamente impressionanti. 

Il chirurgo generale statunitense Vivek Murthy ha lanciato l'allarme sull'impatto dei social media sulla salute mentale degli adolescenti, proprio come fece il chirurgo generale C. Everett Koop negli anni '80 per mettere in guardia sui rischi del fumo. Murthy ha raccontato di aver raccolto dai giovani tre opinioni sui social: "Li fanno sentire peggio con loro stessi. Li fanno sentire peggio nelle loro amicizie. Non riescono a farne a meno".

Tutti noi sappiamo bene qual è l'obiettivo fondamentale dei social media: aiutarci a metterci in contatto con vecchi amici, condividere aggiornamenti sulla famiglia e trovare persone simili a noi nella speranza di creare un mondo più curioso, connesso e compassionevole. Allo stesso tempo, però, ci hanno resi più distratti, depressi e divisi. In molti casi, mettono l'attenzione sulle nostre differenze e sui nostri difetti per ottimizzare il tempo di visualizzazione.

A tal fine, le aziende si servono dell'intelligenza artificiale. L'IA ha determinato in modo rapido e preciso che il nostro cervello tende a soffermarsi più a lungo sui post che scatenano i lati più bui della natura umana: emozioni quali paura, rabbia, lussuria e invidia.

Ho assistito a questo fenomeno anche su Pinterest. Sono entrato in Pinterest un anno e mezzo fa attratto dal lavoro svolto per evitare intenzionalmente alcuni degli elementi più tossici dei social media. La mia intenzione era mettere il benessere emotivo al centro degli obiettivi dell'azienda. 

Poco dopo, però, abbiamo constatato che il recente passaggio di Pinterest ai video brevi e l'ottimizzazione del feed basata sull'IA avevano iniziato a far emergere molti degli stessi contenuti tossici diffusi nel settore.

In risposta, abbiamo deciso di dare all'IA un nuovo obiettivo: ottimizzare i contenuti che ispirano e la positività e combinare scelte più consapevoli offrendo agli utenti un maggiore controllo su ciò che vedono. Quando abbiamo riaddestrato l'IA, i suggerimenti sui contenuti sono diventati molto più positivi e orientati all'azione: le guide passo-passo, le idee per la cura di sé e le citazioni motivazionali sono salite in cima alla classifica.

Purtroppo, qualche mese dopo, un bell'articolo di giornalismo investigativo ha rivelato che degli uomini adulti seguivano delle ragazze su Pinterest e selezionavano contenuti innocui per pubblicarli in bacheche a sfondo sessuale. La cosa peggiore è che sono stati proprio i nostri algoritmi a suggerire loro buona parte di questi contenuti. 

Anche se ci siamo mossi attivamente per migliorare le funzioni di sicurezza per gli adolescenti, l'episodio ci ha scosso e ha evidenziato quanta strada c'è ancora da fare nel settore per guidare l'IA verso i giusti risultati, specialmente nei social.

A differenza di quanto è accaduto qualche decennio fa con l'industria del tabacco, dobbiamo realmente assumerci le nostre responsabilità. Se non lo facciamo, i danni saranno enormi. È giunto il momento che le aziende leader del settore si assumano le proprie responsabilità creando piattaforme online incentrate su risultati positivi ai fini del benessere. 

Le Big Tech non devono diventare le prossime Big Tobacco. Abbiamo la possibilità di stravolgere gli attuali modelli di business prima di perdere altri giovani a causa della negatività e del disprezzo di sé.

Ma come possiamo farlo?

Cominciamo a cambiare le cose: mettiamo l'IA al centro del miglioramento della sicurezza online e del benessere dei giovani. A differenza della nicotina presente nel tabacco, l'IA può essere utilizzata in modo costruttivo sui social media.

In primo luogo, le piattaforme social dovrebbero utilizzare l'IA per escludere molti più contenuti problematici di quanto non facciano già, impegnandosi affinché sia più additiva che assuefacente e dando agli utenti un maggiore controllo sui contenuti visualizzati.

In secondo luogo, possono sfruttare l'IA per migliorare il design dei prodotti. Ad esempio, noi di Pinterest, usiamo la tecnologia basata sulla gamma di tipologie di corpo e tonalità di pelle per far sì che gli algoritmi aumentino la rappresentatività nei risultati di ricerca e nei feed correlati. Inoltre, non ci avvaliamo di effetti che alterano l'immagine o di filtri che rafforzano standard di bellezza non realistici.

In terzo luogo, le piattaforme possono aggiungere protezioni fatte apposta per gli adolescenti. Abbiamo applicato restrizioni alla messaggistica per gli adolescenti e aggiunto risorse per chi si sente ansioso, stressato o triste, e abbiamo anche assunto una posizione di primo piano rendendo privati gli account degli adolescenti sotto i 16 anni.

Infine, possiamo impegnarci insieme a favore della trasparenza e condividere idee su come affrontare questi problemi. Siamo stati i primi a firmare l'Inspired Internet Pledge, un invito all'azione per le aziende tecnologiche e gli inserzionisti a unirsi con l'obiettivo comune di rendere Internet un luogo più sicuro per tutti, specialmente per i giovani.

Per noi aziende dei social, un modello di business di successo incentrato sulla positività è possibile. Lo so perché lo stiamo costruendo e ne stiamo vedendo i primi risultati. Le entrate di Pinterest sono aumentate dell'11% negli ultimi guadagni registrati, i nostri utenti interagiscono con i contenuti come mai prima d'ora e, tra il 2022 e il 2023, abbiamo registrato un aumento del 20% dei Pinner della generazione Z rispetto all'anno precedente.

Non siamo perfetti e non abbiamo tutte le risposte. Come il resto del settore, abbiamo ancora molta strada da fare. Ma è mia intenzione rendere Pinterest un luogo sicuro per tutti, soprattutto per i giovani.

In quanto leader, dobbiamo chiederci: ci turberà di più ricevere comunicati stampa negativi ed essere chiamati a testimoniare davanti al Congresso, oppure nuocere alla salute dei giovani? Se la risposta è la seconda, è nostro dovere assumerci la responsabilità e agire insieme per alzare il livello di sicurezza.

Bill Ready è il CEO di Pinterest.