Pinterest CEO：たばこ業界の教訓を活かすテクノロジー業界はソーシャルメディアが及ぼす悪影響を認識すべきだ

この寄稿記事は、2024 年 1 月 29 日に The Hill に掲載されたものです。本記事は、大手テクノロジー企業の幹部がインターネット上の児童搾取を巡る取り組みについて証言を行った、1 月 31 日の上院公聴会に先立って寄稿されました。

30 年前、大手たばこ企業の幹部が米国議会で、たばこに依存性はないと証言しました。この証言は明らかな虚偽であり、この幹部らが議会で宣誓を行っている写真は、不名誉な証拠として残っています。

今日、私たちは 20 世紀のたばこ業界と同じように悪影響を与えかねないソーシャルメディアエコシステムに対して、真剣に取り組む必要があります。。ソーシャルメディアは打たれ弱い傷つきやすい若者にとって、きわめて有害であり、また依存性を持つ存在です。ソーシャルメディアが今のままであり続けるなら、「第 2 のたばこ」になるまで、そう時間はかからないでしょう。

大手テクノロジー企業 5 社の CEO が上院司法委員会で証言を行うに至るまでの状況は、30 年前のたばこ企業の幹部が証言したシチュエーションと酷似しています。

米国公衆衛生総監の Vivek Murthy 氏は、ソーシャルメディアが 10 代の若者のメンタルヘルスに与える影響について、警鐘を鳴らし続けてきました。その姿は、1980 年代に喫煙の危険性について警告を行った C. Everett Koop 氏を想起させます。Murthy 氏は、ソーシャルメディアは若者にとって「自己否定感と友情への不信感を高めるにも関わらず、見るのをやめることができない」ものだと語っています。

ソーシャルメディアが作られた当初の目的は、今も多くの人の記憶にあるでしょう。ソーシャルメディアは、昔の友人と関係を取り戻し、家族の間で出来事や思い出を共有し、同じ考えを持つ人たちを見つけるのに役立ち、もっと興味深く、人々がつながり合い、共感に満ちた世界を築くことを目指すツールです。しかしながら、同時に、人々の注意を逸らせ、不安と劣等感をあおり、人々を分断していることも事実です。人々の興味をそそり閲覧時間を延ばすために多くのソーシャルメディアが焦点を当てているのは、人同士の違いや思い込みによる断罪です。

そして閲覧時間を延ばすために活用されているのが、人工知能です。人工知能はたちまち、人間の脳が惹きつけられるのは、恐怖、怒り、欲望、妬みなどの負の感情を刺激するソーシャルメディアの投稿であることです

私はこの現象が、Pinterest でも起きつつある様子を目の当たりにしました。私はPinterestに1 年半前にソーシャルメディアの有害な部分を排除するという Pinterest の取り組みに惹かれ Pinterest に入社しました。そして私は、メンタルヘルスを Pinterest のパーパスの中核に据えたいと考えます。。 

しかし、CEO に就任して間もなく、Pinterest がショート動画に力を入れ始めてフィード最適化に人工知能を導入したことで、業界の他プラットフォームと同じく負の感情をかき立てるコンテンツがフィードに流れ始めてしまったのです。

Pinterest は対応策として、人工知能に新たな目的を設定し、インスピレーションやポジティブな感情を湧かせるコンテンツを表示するよう最適化しました。加えて、ユーザーが目にするコンテンツを自らコントロールできる選択肢を増やしました。人工知能の再学習を実行した後、おすすめとしてステップ別のガイド、セルフケアのアイデア、心に響く名言など、ユーザーの行動を引き出すポジティブなコンテンツが上位に表示されるようになりました。

それでも残念ながら数か月後、調査報道の記事により、成人男性が Pinterest 上で少女をフォローして、本来はまったく無害なコンテンツを性的なテーマのボードに集めていることが明らかになりました。さらに、アルゴリズムが男性たちに向けて同様のコンテンツを薦めていたのです。

積極的に 10 代ユーザーの安全を守る機能を改善してきた Pinterest にとって、報道記事の内容は衝撃的であり、特にソーシャルメディアにおいて人工知能を正しい成果に導くためには、業界全体で多くの課題に取り組まなくてはならないことを痛感させるものでした。

30 年前のたばこ業界と同じ轍を踏まないようにするために、私たちは責任を自覚する必要があります。さもなければ、悪影響は計り知れないほど大きくなるでしょう。今こそ業界のリーダーが責任をしっかりと受け入れて、メンタルヘルスの向上を中心としたオンラインプラットフォームを構築するべきです。 

テクノロジー業界は第 2 のたばこ業界になるべきではありません。若者たちを自己否定と自己嫌悪に陥れてしまう前に、現行のビジネスモデルを打破するチャンスはあります。

しかし、どうすれば実践できるでしょうか。

これまでとは逆の発想で、オンラインでの若者の安全とメンタルヘルスを改善する取り組みを中心とし、人工知能を導入すること出来るようにすることがスタートです。たばこに含まれるニコチンとは違い、ソーシャルメディアに関しては人工知能をポジティブな形で有効活用することができます。

まず、ソーシャルメディアのプラットフォームは AI を利用し、今よりも基準を引き上げて、問題のあるコンテンツを排除するべきです。依存を強めるためではなく、コンテンツの魅力を高めるための学習を人工知能に施し、また、ユーザーが目にするコンテンツを自らコントロールする選択肢を与える必要があります。

次に、より良いプロダクト開発を行うために AI を活用します。たとえば Pinterest では、ボディタイプ選択やスキントーン選択のテクノロジーを利用して、関連のあるフィードや検索結果で多様性を向上させるアルゴリズムの開発を行っています。また Pinterest は、非現実的な美しさを追求する画像加工やフィルターを排除しています。

さらに、10 代のユーザーを守る追加の保護策を設ける必要性があります。Pinterest では 10 代のユーザーに対するメッセージ送信の制限を設け、不安、ストレス、悲しみを感じているユーザー向けのリソースを追加しました。また、業界をリードする施策として、16 歳未満の ユーザーのアカウントは非公開に設定しています。

加えて、透明性を持ってこうした問題への対処に関して学んだことを共有し、業界全体で協力し合うこともしています。Pinterest はいち早く Inspired Internet Pledge（健全なインターネットを目指す誓約）に署名しました。このInspired Internet Pledgeは、テクノロジー企業と広告主が協働して、インターネットをあらゆる人、特に若者のために、より安全で健全な場所にするための行動を呼びかける誓約です。

ポジティブな環境への注力により、ソーシャルメディアのビジネスモデルを成功させることは可能です。なぜなら、Pinterest は実際にポジティブな環境を構築しながら、成果を上げているからです。Pinterest の収益は最新の決算報告で 11 パーセント増となっており、ユーザーのエンゲージメントのレベルはかつてないほど高く、Z 世代ユーザーは 2022 年から 2023 年の間に前年比で 20 パーセント増えています。

私たちは完璧ではなく、すべての答えを持っているわけではありません。業界の他企業と同様に、数多くの課題が待っています。しかし、Pinterest をあらゆる人、特に若者にとって安全な場所にするという決意を持って、取り組みを進めています。

テクノロジー企業幹部は、自らにこう問いかける必要があります。ネガティブな報道記事を見る、議会で証言を求められる、若者に害を与えている事実を知る、この 3 つのうち、最もショックを受けるものはどれだろうか。答えが一番最後なら、責任を持ち、業界全体で力を合わせ、安全性に対する基準を高めなくてはなりません。

Bill Ready は、Pinterest の CEO です。