AIリスク #3：AIは私達の社会を破壊するのか？
今回はAIのリスクの3番目として、AIが私達の住む社会を破壊するというのはほんとうなのかどうかということに関しての考察となります。
いくつかあるAIリスクの中でも、筆者であるマーク・アンドリーセンにとってはここがいちばん重要な争点なのではないかなと思います。というのも、この「AIによる社会の破壊リスク」という恐怖を煽ることによって「密売人」が実現したいのは、AIによって生成されるコンテンツや情報に対する規制、さらには言論や思想に対する検閲で、それは、この10年ほどの間にFacebookやTwitterといったソーシャルネットワークを舞台にして実際に起きたことだからです。
アンドリーセンはFacebookのCEOであるマーク・ザッカーバーグのアドバイザーを務め、さらに自身が代表を務めるA16Zというシリコンバレーを代表するベンチャーキャピタルを通して、言論の自由を守るニュースレタープラットフォームであるSubstackなど多くのソーシャル、テックプラットフォームと関わってきました。そのため彼は、アメリカやヨーロッパの政府、さらにNGOなど活動家組織がどのように情報、言論、そして思想をコントロールしようとするかを最前列で見てきました。
それを踏まえて、なぜ彼が、AIが生成するコンテンツに対する現在進行中の規制に関する議論は、これまでの言論の自由を求める戦いの中で最も重要なものであるという彼の主張により多くの人に耳を傾けていただければと思います。
それでは、以下翻訳という形で紹介したいと思います。
以下、訳。
その根拠が疑わしいにも関わらず、AIのリスクとしてよく取り上げられるもののうちの1つに、AIが私たちの社会を破壊、または荒廃してしまうというものです。つまりAIが社会にとって害となるものを生成するということです。このことによって、たとえ私達が文字通りAIに殺されることがなかったとしても、AIは私達人類にとってとんでもなくひどいダメージを与えることになるというものです。
簡単に言うと、AI殺人ロボットが私達を殺戮しなかったとしても、AIによって作り出されるヘイトスピーチや誤情報が私達の住む世界を破壊してしまう、というものです。
これは終末論信者の懸念の中でも比較的最近のもので、AIリスクを訴える運動を乗ってしまったかのようです。実際、AIリスクにおいて使われるキーワードも、AIセーフティ（AIが私達を殺すことを心配する人たちによって使われる言葉）からAIアライメント（AIによる社会的な害を心配する人たちによって使われる言葉）に変わってきました。
AIの社会的なリスクを主張する人たちの問題はこのAIアライメント（調節、調整）という言葉にあります。そもそも何と調整するというのでしょうか。社会的な害というとき、それは誰の価値感をもとに何を害と判断するのでしょうか？こうした質問をし始めると、物事はややっこしくなってくるのです。
ソーシャルメディアの「トラスト・アンド・セイフティ（信用と安全）」に関する争いに関して、私は最前列で観察する機会がありました。今となってはもうすでに明らかですが、ソーシャルメディア企業は自分たちのプラットフォーム上での様々なコンテンツを禁止、制限、検閲、そして抑圧するように政府と活動家グループから何年にもわたって圧力を受けてきました。（リンク）ヘイトスピーチや誤情報といった、ソーシャルメディア上での言論弾圧に使われてきたのと同じ懸念が、現在AIアライメントという新しい分野において使われるようになってきているのです。
ソーシャルメディアにおける言論の自由をめぐる戦いから私が学んだ最大のものは以下のことです。
まず、完全な言論の自由というものはありません。アメリカを含むすべての国において少なくとも何らかの違法なコンテンツというものはあります。幼児のポルノなど特定のタイプのコンテンツや、現実の世界で暴力の行使を煽るようなコンテンツというのは、世界中のどんな社会であっても、それが合法かどうかに限らず禁止されることを誰もが支持します。そこで、言論を含むどんなコンテンツを生成するテックのプラットフォームであればそれが何であろうと、何らかの規制を受けることになります。
ただ一方で、そうした規制は一度始めると崖から落ちていくように誰にも止めれなくなるものです。例えばヘイトスピーチや禁止用語、または「教皇が死んだ」というような明らかに間違った誤情報など、そうしたひどい「社会への脅威」となるコンテンツを規制するための仕組みが一度出来上がってしまうと、驚くほどに幅広い様々な政府機関や活動家グループ、NGOといっと組織から、彼らが勝手に決める「社会への脅威」となるものに対してさらなる検閲、言論弾圧をしろという圧力がかかり始めます。
彼らは明らかに犯罪となるようなレベルまでこうした圧力をかけ続けるのです。（リンク１、リンク２）
そして、こうした連鎖は止まることがなく、権威主義的なエリートによる権力の行使を情熱的に支持する人達によってそれは永遠に実行されていくことになります。これが過去10年ほどソーシャルメディアの世界で起き続けてきたことで、TwitterやSubstackのような珍しい例外を除けば、そうした圧力は日を増す毎にどんどん勢いを増していくものでした。
これがまさに現在「AIアライメント」というムーブメントの裏にある力学です。この支持者たちは社会にとって「良い」と思われる言論やアイデアのみをAIに生成させるべきで、社会にとって「悪い」と思われる言論やアイデアがAIによって生成されることを禁止すべきだと主張します。
こうした動きに反対する人たちは、人々の思想を取り締まる警察のような仕組みを導入しようなんて、それはとんでもなくうぬぼれで厚かましい考えで、少なくともアメリカでは犯罪の可能性のあるものだと主張します。実際それは、ジョージ・オーウェルの「1984」という小説に出てくる、何が言論として許されるかを決める、政府と企業と大学が一体となった新しいタイプの連合による権威的な言論独裁体制に他なりません。
「信用とセーフティ（安全性）」や「AIアライメント」を支持する人たちは、地球上の人口からするとほんの一部に過ぎないアメリカの両岸に住んでいるエリートたちです。その多くはテック業界で働くか、またはテック業界について書くことを仕事にしている人たちです。これを読んでいる人たちの多くも、AIに関する劇的な規制ができない限り、私達の社会は破壊を逃れられないと思っているのではないでしょうか。もしそうだとしても、私はあえて今あなたを説得しようとは思いません。ただ、これだけは言っておきます。ここに書いてきたことがこうした言論を規制しようとする動きの性質で、この現実世界に生きるほとんどの人たちはあなたのイデオロギーに賛成しないし、あなたに勝ってほしいとも思っていないのです。
もしあなたが一握りの人達が持つ価値観が、ソーシャルメディアやAIの世界でどんどん過激になっていく言論の規制という形を通して、世界に広められていくことに賛同しないのであれば、何を発言したり生成したりすることがAIに許されているかをめぐる戦いは、これまでのソーシャルメディアをめぐる戦いに比べ、もっと重要なものであることに気がつくべきです。
おそらくAIは、この世のすべてのことをコントロールするレイヤー（層）となるでしょう。AIがどのように機能することが許されるのかというのは、これまで重要だと思っていたどんなものに比べても、さらにもっと重要な関心事項なのです。
一般大衆とは隔離された一握りの党派色の強い社会活動家たちは、彼らがこれまで歴史上いつも行ってきたように、今回も「あなたを守る」という看板の裏で、この世界での言論と思想をコントロールしようと今まさに働きかけているところなのです。
以上、訳終わり。
あとがき
これを読んでいるみなさんは知らない人も多いかもしれませんが、イーロン・マスクがTwitterを買収した後、彼はTwitter社内の過去のメール全てを独立系ジャーナリストたちに共有し、Twitter Filesとして公開しました。こうした過去の政府やFBI、FDAなど官僚組織の人たちとTwitterの社員間のメールのやりとりからわかったのは、いかに政府が積極的にTwitter上で交わされる言論に対して検閲をかけてきたかということでした。
Facebookでも同じようなことが行われ、最近アメリカの議会下院がFacebook Filesとして一般に公開することとなりました。
この検閲がひどくなったのは、コロナやワクチンに対する様々な情報などに対してだったのですが、問題は「誤情報」を防ぐという名のもとに検閲によって封鎖された情報が、公的な研究結果や疫学やワクチン、ウイルスの専門家による考察などを共有したものであることが多く、今日では結局正しかったと結論づけられるものばかりでした。
もちろん、コロナに関連するものだけではなく、他にもアメリカでの選挙やウクライナ戦争など、そうした政府による検閲は多岐にわたるものだったのですが、政府やFBIなどがTwitterに削除させたほぼすべての情報が後になって正しかったことが明らかになったものばかりでした。
現代の人たちはマスコミから直接情報を得るのではなく、ソーシャルネットワークなどを通して情報を取得します。そしてもちろんこうした情報を元に世論は形成されていくことになります。もし、例えば地球温暖化は人為的なものかどうかに関するもののように、2つの異なる意見があった場合、片方が検閲に引っかかり弾圧されてしまい、もう一方の情報しか出てこなかったらどうなるでしょうか？
ほとんどの人は、これに関しての議論は決着がついていると思うでしょう。または、そうした一方の見方をほとんどの人が支持することになるでしょう。こうして出来上がる世論を元に行われる選挙や政治は、ほんとうに民主的と言えるのでしょうか？
インフォームされていない民衆に支持される政治というのはほんとうに民主政治と言えるのでしょうか。
AIによる情報、言論、思想をめぐる規制を巡る戦いは、アメリカ人にとってはただの「誤情報」に対する規制という枝葉のレベルでの戦いではなく、言論の自由や民主主義を理想とするアメリカという国の根幹に関わる戦いなのです。
そして、アメリカの強い影響を受けることになる日本にとっても、このことは他人事とはならない非常に重要な懸念事項だと思います。
データサイエンス・ブートキャンプ・トレーニング
データサイエンス、統計の手法、データ分析を1から体系的に学ぶことで、ビジネスの現場で使える実践的なスキルを身につけたいという方は、ぜひこの機会に参加をご検討ください！
ビジネスのデータ分析だけでなく、日常生活やキャリア構築にも役立つデータリテラシー、そして「よりよい意思決定」をしていくために必要になるデータをもとにした科学的思考もいっしょに身につけていただけるトレーニングとなっています。