Pinterest-CEO: Big Tech muss das Modell von Big Tobacco ablehnen und sich mit den Gefahren sozialer Medien auseinandersetzen

Dieser Kommentar wurde ursprünglich von The Hill am 29. Januar 2024 veröffentlicht – und damit im Vorfeld der Anhörung im US-Senat am 31. Januar, bei der die CEOs von Tech-Unternehmen über ihre Bemühungen zum Schutz von Kindern im Internet aussagten. 

Vor 30 Jahren standen Führungskräfte von Tabakunternehmen vor dem Kongress und schworen unter Eid, dass Zigaretten nicht süchtig machten. Ihre Aussage war offenkundig falsch und ein Foto ihrer Eidesleistung wurde berühmt-berüchtigt. 

Heute müssen wir uns mit einer Kraft auseinandersetzen, die so schädlich ist wie die Tabakindustrie im 20. Jahrhundert: ein Ökosystem sozialer Medien, das gefährlich toxisch ist, süchtig macht und wodurch junge Menschen am stärksten gefährdet sind. Wenn sich die sozialen Medien nicht grundlegend ändern, werden sie bald das sein, was Big Tobacco heute ist.

Während sich fünf Tech-CEOs darauf vorbereiten, heute vor dem Justizausschuss des Senats der USA auszusagen, sind die Parallelen unverkennbar. 

Vivek Murthy, der Leiter des Gesundheitsdienstes der Vereinigten Staaten (US Public Health Service), schlägt Alarm wegen der Auswirkungen sozialer Medien auf die psychische Gesundheit junger Menschen - ähnlich wie C. Everett Koop in den 1980er Jahren vor den Gefahren des Rauchens warnte. Murthy zufolge erzählen ihm Jugendliche drei Dinge über soziale Medien: „Durch soziale Medien fühlen sie sich schlechter über sich selbst und über ihre Freundschaften. Und sie kommen nicht davon los.

Wir alle erinnern uns an den ursprünglichen Zweck der sozialen Medien. Es half uns, wieder mit alten Freund*innen in Kontakt zu kommen, Neuigkeiten aus der Familie zu teilen und Gleichgesinnte zu finden, in der Hoffnung, eine neugierigere, vernetztere und mitfühlendere Welt zu schaffen. Gleichzeitig sind wir durch die sozialen Medien abgelenkter, deprimierter und gespaltener geworden. In vielen Fällen konzentrieren sich die sozialen Medien auf unsere Unterschiede und wahrgenommenen Fehler, um die Abruf- oder Wiedergabe-Zeiten zu maximieren.

Unternehmen nutzen künstliche Intelligenz zur Maximierung der Aufruf- und Wiedergabezeit. KI hat schnell und präzise herausgefunden, dass unsere Gehirne darauf ausgerichtet sind, mehr Zeit mit Social-Media-Beiträgen zu verbringen, die die dunklen Seiten der menschlichen Natur hervorbringen - Emotionen wie Angst, Wut, Lust und Neid.

Ich habe dieses Phänomen bei Pinterest selbst beobachten können. Ich bin vor anderthalb Jahren zu Pinterest gekommen, weil ich mich von den Bemühungen der Plattform angezogen fühlte, einige der toxischeren Elemente der sozialen Medien zu vermeiden. Ich hatte die Absicht, das emotionale Wohlbefinden stärker in den Mittelpunkt der Unternehmensziele zu rücken. 

Doch schon bald nach meinem Einstieg stellten wir fest, dass Pinterest durch die kürzliche Umstellung auf Kurzvideos und KI-gesteuerte Feed-Optimierung begonnen hatte, viele der gleichen triggernden Inhalte hervorzubringen wie der Rest der Branche.

Als Reaktion darauf haben wir uns vorgenommen, der KI ein neues Ziel zu geben: für inspirierende Inhalte und Positivität zu optimieren und mehr bewusste Entscheidungen einzubauen, indem wir Nutzer*innen mehr Kontrolle darüber geben, was sie sehen. Als wir die KI neu trainierten, wurden die Inhaltsempfehlungen deutlich positiver und handlungsorientierter: Schritt-für-Schritt-Anleitungen, Ideen zu Self Care und inspirierende Zitate erlangten große Beliebtheit.

Leider fand ein paar Monate später ein stichhaltiger investigativer Artikel heraus, dass erwachsene Männer jungen Mädchen auf Pinterest folgen und sonst harmlose Inhalte auf Pinnwänden mit sexuellen Themen kuratieren. Schlimmer noch: unsere Algorithmen empfahlen ihnen sogar weitere solche Inhalte. 

Obwohl wir aggressiv dagegen vorgingen und die Sicherheitsfunktionen für Jugendliche verbesserten, hat uns dieser Vorfall erschüttert und uns gezeigt, wie viel Arbeit in der Branche erforderlich ist, um KI zu den richtigen Ergebnissen zu führen, insbesondere in sozialen Medien.

Anders als die Tabakindustrie vor einigen Jahrzehnten müssen wir uns selbst zur Verantwortung ziehen. Andernfalls wird der Schaden beträchtlich sein. Es ist an der Zeit, dass die Branchenführer*innen Verantwortung übernehmen und Online-Plattformen aufbauen, die auf positive Ergebnisse für das Wohlbefinden ausgerichtet sind. 

Big Tech muss nicht zum nächsten Big Tobacco werden. Wir haben die Chance, die aktuellen Geschäftsmodelle zu unterbrechen, bevor wir noch mehr junge Menschen an Negativität und Selbstverachtung verlieren.

Doch wie schaffen wir das?

Wir beginnen, den Spieß umzudrehen und KI in den Mittelpunkt der Verbesserung der Sicherheit und des Wohlergehens junger Menschen im Internet zu stellen. Im Gegensatz zu Nikotin in Tabak kann KI in sozialen Medien positive Auswirkungen haben.

Erstens sollten Social-Media-Plattformen KI einsetzen, um viel mehr problematische Inhalte als bisher zu entfernen. Sie müssen ihre KI dahingehend trainieren, zunehmend additiv statt süchtig machend zu sein und den Nutzer*innen mehr Kontrolle darüber geben, was sie sehen.

Zweitens können Plattformen KI nutzen, um ihr Produktdesign positiver zu gestalten. Bei Pinterest nutzen wir beispielsweise eine Technologie zur Auswahl von Körpertypen und Hauttönen, um unsere Algorithmen so zu gestalten, dass Repräsentanz in verwandten Feeds und Suchergebnissen erhöht wird. Wir haben außerdem keine bildverändernden Effekte oder Filter, die unrealistische Schönheitsideale verstärken.

Drittens können Plattformen spezielle Schutzmaßnahmen für Jugendliche einrichten. Wir schränken die Nachrichtenfunktion für Jugendliche ein und stellen Ressourcen für diejenigen zur Verfügung, die mit Angst, Stress oder Trauer zu kämpfen haben. Und wir haben eine führende Position eingenommen, indem wir die Konten von Jugendlichen unter 16 auf privat gestellt haben.

Letztendlich können wir zusammenarbeiten, indem wir transparent sind und Erkenntnisse darüber austauschen, wie wir diese Probleme angehen können. Wir waren die ersten, die den „Inspired Internet Pledge“ unterzeichnet haben. Dabei handelt es sich um einen Aufruf an Technologieunternehmen und Werbetreibende, zusammenzukommen, um das Internet für alle und insbesondere für junge Menschen sicherer und gesünder zu machen.

Ein erfolgreiches Social-Media-Geschäftsmodell, das sich auf Positivität konzentriert, ist möglich. Ich weiß das, weil wir hier eines aufbauen und Ergebnisse sehen. Der Umsatz von Pinterest ist in unserem letzten Geschäftsbericht um 11 Prozent gestiegen, unsere Nutzer*Innen engagieren sich mehr als je zuvor und wir haben zwischen 2022 und 2023 einen Anstieg von Nutzer*Innen der Gen Z um 20 Prozent im Vergleich zum Vorjahr verzeichnet.

Wir sind nicht perfekt und wir haben nicht für alles eine Antwort. Wie der Rest der Branche haben auch wir noch einen weiten Weg vor uns. Meine Absicht ist es aber, Pinterest sicherer für alle zu gestalten – und besonders für junge Menschen.

Als Führungskräfte müssen wir uns selbst fragen: Ist es für uns ein größeres Problem, wenn wir negative Presseberichte erhalten und zur Aussage vor dem Kongress gerufen werden, oder ist es die Tatsache, dass junge Menschen Schaden nehmen? Wenn Letzteres die Antwort ist, müssen wir Verantwortung übernehmen und gemeinsam die Messlatte für die Sicherheit höher legen.

Bill Ready ist der CEO von Pinterest.