Embedded EthiCSは、哲学者とコンピュータ科学者の学際的なチームで、倫理をコンピュータサイエンスのカリキュラムに組み込むことを目的としています。このアプローチの背後にあるアイデアは、倫理的推論のツールをコンピュータサイエンスのコース自体に組み込むことです。その理由は、技術の設計、開発、展開を決定する際には、気付いているかどうかに関わらず、倫理的な決定、つまり社会的、政治的、人間的な影響を与えるような決定をしているからです。ハーバード大学では、コンピュータ科学者がこれらの影響を考えるためのツールを備えることが重要だと考えています。
テクノロジーは私たちに大きな影響力を持っていますが、それはつまり、テクノロジーを設計する人たちも同じだということです。さて、皆さんはコンピュータサイエンティストとしてどのような責任を負うべきかを考え始めていると思いますが（そうすれば、例えばFaceMashのような重大な事故を避けることができるでしょう）、ここでは、ソーシャルメディアのプラットフォームと、それらがニュースや情報の配信や関与にどのような影響を与えるかというトピックに目を向けてみましょう。
最近のアメリカ大統領選挙では、政治的な内容がインターネットやテレビ放送を席巻し、ソーシャルメディア上で論争が繰り広げられ、世界中から注目を集めていることを考えると、このテーマは特に重要であると思われます。
テクノロジーの進歩により、情報やニュースの発信方法や消費方法が大きく変化したことは間違いありません。街角で「ニュースはここで」と叫ぶペーパーボーイの代わりに、ほとんどの人がインターネットを使って、地元だけでなく世界中で起きていることを知ることができるようになりました。そしてここ数年、人々が情報にアクセスし、共有し、関わる方法において、特にソーシャルメディアのプラットフォームが大きな役割を果たすようになってきました。例えば、米国の成人の44％が Facebook からニュースを入手しているという調査結果があります。
近年のテクノロジーの発展により、多くのことが変わってきていると言えます。このことは、何が問題になっているかを考える上で重要です。すなわち、十分に機能している民主主義を支えるために、一般の人々が談話に参加する能力です。そこで私はまず、私たちがどこから来て、テクノロジーの発展によって現在どうなっているのかを簡単に説明し、その後、私たちが今日直面している課題について考えてみたいと思います。
インターネットが普及する前は、ニュースや情報は、ほとんどが少数の大手放送局や印刷メディアの手中にあり、別名「マスメディア」圏と呼ばれていました。少数の組織がすべてのニュースを発信する役割を担っていたため、情報は基本的に、組織から狭いレンズ、つまり狭い開口部を通して濾過され、広く一般の人々に届けられていました。
これらの組織でコンテンツの調査と執筆を担当していたジャーナリストたちは、全員がプロとしての倫理観を共有していました。真実を伝えること、社会集団を代表すること、批判の場を設けること、公共の価値を明らかにすること、包括的な報道を行うことなどである。また、幅広い層にアピールするコンテンツを作ることを目的としていたため、現在のような偏向報道や過激なコメントは少なかったと言えるでしょう。
しかし、報道を担当するジャーナリストたちは、比較的裕福で、高学歴で、白人が多く、男性であるなど、さまざまな点で非常に均一でした。このことが、人種的な政治、経済政策、世界におけるアメリカの役割についての報道に影響を与えていました。さらに、視聴者が反応したり、新しいテーマやトピックを開発したり、マスメディアの領域に対して批判をしたりする機会はほとんどありませんでした。新聞やテレビの放送には、「いいね！」や「コメント欄」がありませんでした。もしあなたが、その新聞やテレビの放送が気に入らなくても、まあ、しょうがないと思うしかありません。
この状況は、近年、ニュース報道がオンラインだけでなく、ソーシャル・メディア・プラットフォームに移行したことで変わり始めました。私たちは今、デジタルでネットワーク化された公共圏に生きています。これまでのように、少数の組織が情報を発信する狭い範囲のコミュニケーションではなく、多くの人がニュースや情報を共有できる広い範囲のデジタル領域になったのです。
具体的には、コンテンツのソースは、組織やプロのジャーナリストだけではなく、一般の人々、特にソーシャルメディアのユーザーである。誰もが Twitter や Facebook への投稿ができ、そのツイートや投稿を誰もが読むことができるのです。これにより、コンテンツの多様性が増しただけでなく、情報へのアクセスも向上しました。もしあなたがニュースを追いかけたいのであれば、マウスを数回クリックするだけでアクセスできる選択肢や無料の場所がネット上にはたくさんあります。
このように、多様性とアクセスの向上が見込まれることから、多くの人々は、デジタル領域が、十分に機能する民主主義を支える公論を向上させるための大きな可能性を秘めていると考えました。そして、いくつかの点で、これは真実であった。
例えば、Twitter や Facebook のおかげで、「#MeToo」や「Black Lives Matter」のような社会正義運動の動員を目の当たりにしました。例えば、CDCは当初、コロナウイルスが空気感染によって地域に広がることを特徴としているとは言っていませんでしたが、科学者たちが Twitter でそれを証明する証拠を発信したことで、CDCはその姿勢を修正することになりました。
デジタル領域は、いくつかの改善をもたらした一方で、いくつかの問題を悪化させ、新たな課題を生み出しました。例えば、誰もがコンテンツを作れるようになったことで、事実確認や監視が非常に難しくなりました。ネット上の情報が信頼に足るものかどうかを判断するには、人々は自分自身で判断しなければなりません。
また、ニュースや情報の個人化も進んでおり、ソーシャルメディア上のニュースフィードのキュレーションや、特定の政治的角度からニュースを取り上げるケーブルニュース局の登場など、特定のコンテンツを特定のユーザーに向けて発信することができるようになっています。これは、利用可能なコンテンツが多様化しているにもかかわらず、人々が実際に消費するニュースや情報には多様性がなく、情報の個人化は、人々の視点に挑戦したり広げたりするよりも、むしろ強化する傾向があるという、やや逆説的な効果をもたらすという点で、重要な意味を持ちます。
また、中央集権的なニュースソースがないため、コンテンツを作成したり共有したりする人たちの「目的」が異なることも見受けられます。過激なコンテンツやフェイクニュースでより多くの閲覧数や「いいね！」を集めようと、「真実」への関心を回避する者もいます。そしてフェイクニュースは、2016年の大統領選挙の頃に大きな問題となりました。ソーシャルメディア上で誤った情報が大量に拡散することで、個人の政治的見解に影響を与えたり、揺さぶったりすることが懸念されたからです。
誤報の拡散は常に問題となっていましたが、デジタル公共圏によってさらに悪化し、ソーシャルメディアのプラットフォームが実質的に火に油を注ぐ形となっています。なぜなら、「いいね！」や「リツイート」などのデジタル環境の構造によって、フェイクニュースに関する1つの投稿が、世界中の何百万人ものスクリーンに届く「バイラル」を可能にするからです。また、フェイクニュースが政治的な偏向を増幅させる役割を果たしていることが深刻に懸念されています。
このように、テクノロジーはユニークな利点を可能にする一方で、ユニークな課題ももたらしました。現在、私たちが直面している一つの大きな問題は、ソーシャルメディアのプラットフォームにおけるコンテンツをどのように規制すべきか、ということです。問題の規模を考えると、コンテンツを規制することは不可能ではないかと懐疑的に考える人もいるかもしれません。ネット上にはあまりにも多くの人が投稿しているため、そのすべてを事実確認することはできませんし、フェイクニュースはあっという間に広まってしまうため、多くの人の目に触れる前に止めることは困難です。また、コンテンツを規制しようとすると、言論の自由の権利を侵害する検閲になってしまうのではないかという懸念もあります。
しかし、民主主義を促進・維持するような方法でソーシャルメディアのプラットフォームをデザインすることの可能性について、楽観的な見方をする人もいます。特に、責任をもって設計されたアルゴリズムとユーザーインターフェースの選択により、フェイクニュースの拡散を遅らせることができるかもしれませんし、より一般的に、ソーシャルメディア上での情報の発信や関わり方を改善できる可能性があります。
例えば、Facebook や Twitter 、YouTube などの企業は、私たちに大きな影響力を持っているため、コンテンツを規制する責任があると考える人もいます。特に、ソーシャルメディアのプラットフォームには、フェイクニュースを取り締まり、ユーザー体験をパーソナライズするデータ駆動型アルゴリズムの力を弱める責任があると考えられています…たとえこれらのことを行うことで、ユーザーのエンゲージメントが犠牲になり、プラットフォームでの滞在時間や広告収入が減少したとしてもです。
ソーシャルメディアのプラットフォームにおけるコンテンツの規制について、今後の道筋が難しいものになることは明らかです。民主主義の理想を促進するのか、それとも弱体化させるのかは、私たちが行う特定のデザインの選択にかかっています。現在直面している問題を解決するためにテクノロジーを活用するには、十分な情報を得た上でデザインの選択を行う必要があり、そのためには倫理や哲学について批判的に考える必要があります。しかし、CS50を受講しているあなたのような学生が、創造性、技術的知識、倫理的推論を駆使して、責任ある方法で技術を設計してくれることを期待しています。ここからはMeicaに引き継いで、民主的な公開討論を促進する方法でソーシャルメディアのプラットフォームを構築するために実装可能なアルゴリズムツールや、特定のデザインの選択について積極的に考えるための哲学的な概念について説明してもらいます。
私たちの状況を見事に診断し、スーザンと私がこの講演で大いに参考にしている論文「Democracy and the Digital Public Sphere」の中で、著者のJoshua CohenとArchon Fungは、「デジタルのバラの花が咲き終わった」と語っています。スーザンが述べていたように、私たちはソーシャルメディアやインターネットの民主化の可能性に大きな期待を寄せていました。しかし今、私たちが直面しているのは、フェイクニュースが横行し、市民が劇的に二極化し、情報が孤立した泡の中で渦を巻き、ヘイトスピーチがおびただしいレベルに達している環境です。これらは、効果的な民主主義に必要な条件を脅かすものである、と人々は推測しています。そこで、次のような疑問が生じます。民主主義の条件はどのような形で脅かされているのか？何ができるのか、何をすべきなのか。テクノロジーの構造に責任があるのか？それとも、私たち人間がこのような問題を引き起こしているのでしょうか？
このモジュールでは、特にコンテンツ規制の問題に焦点を当てています。Twitter 、Facebook 、YouTube などのソーシャルメディア企業は、プラットフォームのデザインや機能を通じて、これらの問題に対処しようとしています。ある角度から見れば、彼らは誤報の拡散、ヘイトスピーチの増幅、偏向の深化をコントロールしようとすることで、民主主義を守るために行動していることになります。しかし、別の角度から見ると、彼らは情報の流通を形成するために踏み込んでおり、特定のデザインの選択によっては、言論を規制したり、黙らせたりしていると言えるかもしれません。これはもちろん、言論の自由に対する民主主義の約束とは相反するものです。
つまり、問題を理解し、問題の原因を診断し、解決策を考えるためのツールを提供することです。残りの10分か15分で、リーディングで詳しく紹介されている主なツールの概要を説明します。
これらのツールは、今週のラボで皆さんに分析していただくものでもあります。
まず、健全な民主主義には何が必要かを明確に考える必要があります。テクノロジーが民主主義を脅かすと主張するのであれば、(a)民主主義とは何か、(b)どのような条件が民主主義を支え、その条件が脅かされる可能性があるのかを理解する必要があります。この記事では、ハーバード大学の政治学教授である Archon Fung と、現在アップル大学の教授を務める政治哲学者の Joshua Cohen が、これらのツールを提供してくれています。
民主主義という考え方の背景には、政治社会のあるべき姿という理想があります。FungとCohenはこの理想を3つの要素にまとめています。（1）民主主義社会とは、政治文化が個人を自由で平等なものとして捉えている社会のことである。これらの人々は、異なる利益、アイデンティティ、信念体系を持っている可能性があるが、市民として、反省と言論を通じて、彼らの自由と平等を尊重しながら共に働くことを可能にする原則に到達することを約束する。（2）は、定期的な選挙、参加権、情報を得た上での効果的な参加を可能にする団体権や表現権などを特徴とする民主的な政治体制の考え方です。（3）最後に、自由で平等な人々の間の協力に適した理由に基づいて政治的議論を行うべきであるとする、熟議民主主義の考え方です。つまり、ある政策を正当化するために、例えば自分の宗教に訴えることはできませんが、他の人が必ずしも同じ信念を持っているとは限りません。例えば、信教の自由という概念に訴えることはできますが、その宗教自体に含まれる特定の信仰に訴えることはできません。
つまり、民主主義とは、基本的には集団的な意思決定によって自らを律するという理想であり、我々の自由と平等を尊重した意思決定です。この意思決定は、投票、選挙、立法などの形式的な手続きだけではありません。それは、市民が問題や懸念を特定し、問題を議論し、意見を表明し、視点に異議を唱え、大義のために組織化するといった、非公式の公共圏からも情報を得ています。これは、民主的な意思決定プロセスの中でも極めて重要な部分です。ここでは、私たち一般市民が、自分たちの意見を形成し、試し、分散させ、交換し、挑戦し、修正することができるのです。Facebook 、YouTube 、Twitter での情報の流れやユーザーの参加は、すべてこの非公式な公共圏の一部です。
CohenとFungは、個人が自由で平等な市民としてこの公論の場に参加するために、うまく機能している民主主義が必要とする一連の権利と機会を示しています。そして、ここには分析のツールが用意されています。
民主的な公共圏のための5つの権利と機会
権利。民主主義国家の市民として、私たちは表現の自由や結社の自由など、基本的な自由に対する権利を持っています。表現の自由の権利は、検閲を受けないという個人の自由のためだけでなく、民主主義そのものにとっても重要である。市民が自分の考えを互いに持ち寄り、権力を行使する人々を批判し、責任を追及することを可能にします。
表現の機会。検閲を受けないだけでなく、公の場での議論に参加する公正な機会を得るべきです。誰かが裕福であったり、権力を持っているからといって、より多くの参加の機会が与えられるべきではありません。
アクセス。各人は、公共の問題に関する質の高い信頼できる情報に、平等にアクセスできるべきです。つまり、努力をすれば、情報を入手できるはずです。公共の問題に関する意思決定に効果的に参加するためには、情報を得ることが必要です。
多様性。一人一人が幅広い意見を聞く機会を平等に持つべきであす。私たちは、より多くの情報を得て理にかなった意見を持つために、競合する意見に触れる必要があります。
発信力。市民は、他者との関わりの中で興味や考えを探求し、これらの関わりを通して、主流の見解に挑戦する新たな懸念を発展させるための十分かつ平等な機会を持つべきです。
これらの権利と機会は、公共の場での議論に参加するための重要な条件となります。これらの権利や機会は、公共の場での議論に参加するための重要な条件です。しかし、ソーシャルメディアがどのように民主主義を脅かしているのか、より具体的に、プラットフォームのデザインがどのように民主主義を促進したり妨げたりするのかを考えるのであれば、これらは貴重なツールです。例えば、アクセス条件、つまり信頼できる情報に誰もがアクセスできるべきだという考えを分析のレンズとして使うことができます。例えば、「アクセス条件」とは、信頼できる情報に誰もがアクセスできるべきだという考え方です。また、多様性の条件、つまり、私たちは皆、相反する複数の意見にアクセスできるべきだという考えを分析のレンズとして使うこともできます。例えば、私たちのプラットフォームがフィルターバブルを形成し、個人が反対意見に直面することがなくなっているのではないでしょうか？
私たちは、民主主義社会を支える条件を理解するだけでなく、問題点を理解した上で、効果的な介入方法を提案する必要があります。例えば、フェイクニュースです。なぜ人々はフェイクニュースに騙されやすいのか。なぜ人々はフェイクニュースに騙されやすいのか、なぜ人々は適切な批判的評価をせずにフェイクニュースを投稿するのか。
Regina Rini は、この現象を理解するためには、フェイクニュースを証言の一形態として考えるべきだと提案しています。他人が自分に情報を教えてくれたら、普通はそれを真実だと思いますよね。これは、証言を支配する規範があるからです。あなたが何かを主張し、それを他の人に伝えるとき、あなたはその真実に責任を負います。そのためには、自分で証拠を掴むか、信頼できる情報源から情報を得ていることが前提となります。私たちの世界に関する知識のほとんどは、この「証言」という行為によってもたらされます。自分が持っている信念のすべてについて証拠を得ることは不可能なので、私たちはしばしば、信頼できると考え、期待する情報源に頼らざるを得ません。
しかし、ソーシャル・メディアは、証言の規範を不安定にしていると Rini は指摘します。誰かがニュースを投稿するとき、私たちは2つの相反する見解を持っているようです。一方で、私たちはそれを支持の行為とみなしています。証言者は、会話の中で情報を伝えるのと同じように、投稿の正確さにある程度の責任を負っているのです。しかし、一方では単なるシェアでもあります。Donald Trump 氏が、自身のツイートに問題があると指摘された際に、「It’s just a retweet」と反論したことからも、その姿勢が伺えます。”この姿勢は、Donald Trump 氏が自分の怪しいツイートを指摘されると、「ただのリツイートだ」と言い返すことからもわかります。
Rini は、フェイクニュースと戦うためには、ソーシャルメディアの証言の規範を安定させる必要があると主張しています。彼女が言うように、カクテルを飲むときに私たちが誠実さを保つのと同じ規範が、投稿するときにも誠実さを保つことができるようにするのです。私たちは、人々が他者と共有した情報に対して責任を負う、あるいは責任感を持つ必要があります。彼女の具体的な提案は、ユーザーに信頼性のスコアを与えることです。
実際には、Facebook のシステムを修正することになります。Facebook は、独立したファクトチェック機関を利用して、問題のあるニュースにフラグを立て、ユーザーがそれを再投稿する前に警告を発します。虚偽や誤解を招く可能性があると判断されたものをユーザーが投稿しようとすると、問題点を説明するポップアップが表示され、元のソースが特定されます。そして、ユーザーに再投稿を続けるかどうかの確認を求めます。
ユーザーの信頼性スコアは、これらの警告を無視して誤解を招くような情報を流す頻度によって決まります。”ユーザー名の）緑の点は、そのユーザーがあまり問題のあるニュースを共有していないことを示し、黄色の点は時々共有していることを示し、赤の点は頻繁に共有していることを示します」。このように、信頼性スコアを設定することで、ユーザーは自分がシェアした内容に責任を持つようになり、また、他のユーザーにも情報源としての信頼性を感じてもらえるようになる、というわけです。
Rini は、なぜ私たちがフェイクニュースに騙されやすいのかを丁寧に分析することで、この解決策を導き出しました。この提案を、民主的な公共圏に必要な様々な権利や機会に照らし合わせて考えるのは、皆さんにお任せします。Rini の提案は、表現の自由を侵害したり脅かしたりするものでしょうか？信頼できる情報へのアクセスを促進するのか、阻害するのか。多様な意見へのアクセスを促進するのか、阻害するのか、コミュニケーション力を高めるのか。
このような問いかけを、次のような問題を考える際にしていただきたいと思っています。フェイクニュース、ヘイトスピーチ、偏向報道などは、民主主義にどのような問題をもたらすか？Twitter 、YouTube 、Facebook などの企業がこれらの問題に対処するために行っている様々な試みは、どの程度成功しているのか？また、ソーシャルメディア・プラットフォームの特定のデザイン機能は、これらの権利や機会をどのように促進したり、妨げたりするのでしょうか？将来のコンピュータサイエンティスト、テクノロジー業界のリーダー、あるいはこれらのテクノロジーのユーザーとして、このような質問をすることで、より批判的な目でこれらの厄介な問題を扱うことができるようになることを願っています。