AI時代の宣教師と密売人
ChatGPTなど生成型AIに見られるように、AIは相変わらずとても速いスピードで進化し続けています。クオリティの高い文章や画像などが自動で生成されるようになり、法律文書、ビジネスレポート、ウェブサイトや動画の生成など様々な事例を目にすると、可能性が一気に広がっていくかのようで、エキサイティングで刺激的でもあります。
しかしそれと同時に、私達人間の仕事が全てAIで置き換わってしまうため、世の中から人間の仕事がなくなってしまうとか、いよいよコンピューターが自分たちで考えはじめるので、人類が滅ぼされてしまうといった話も出てきます。
さらに、以前私もブログ記事で触れましたが、AIによって大量に発生されるプロパガンダやフェークニュースによって社会が混乱することを危惧したり、または悪い人たちがAIを悪用し、世界中の軍事施設や電気系統などを乗っ取り手に負えない事態になるなど、悲観的または終末論的な話題には事欠きません。
- ChatGPTは民主党のプロパガンダマシーンだった - リンク
そうした背景をもとに、AIを規制するべきだ、開発を止めるべきだと主張する人たちもいます。これは政府やメディアだけにとどまらず、AIの開発に関わる人達や、またはイーロン・マスクのようなAIに関わっている一部の企業家たちも含みます。
人間というのは未知のもの、実体のつかめないものに対して心配したり恐怖の感情を持ったりするものです。そのため今ブームの生成AIのような「新しい」ものが出てくると、何ができるのか、何ができないのかの境界線がはっきりしないうちは、それが持つ潜在的可能性に対して必要以上に心配してしまいがちです。
こういうときは、人間が当たり前のように持つ恐怖の感情に流されず、ほんとうにそうなのか、と立ち止まって考えてみることが重要だと私は思います。
そこで、最近シリコンバレーのベンチャー投資家、マーク・アンドリーセンが出した「AIは世界を救う」という長文エッセイを皆さんに紹介したいと思います。というのも、このAIの脅威はほんものなのか、本当に危惧すべきものなのか、私達はこのAIにどう関わっていくべきなのかを考えるために必要な土台を与えてくれるからです。
著者のマーク・アンドリーセンはシリコンバレーで知らない人はいないトップレベルのベンチャー・キャピタル、A16Zの創業者、共同代表であり、彼自身もネットスケープをはじめいくつかのシリコンバレーの歴史に名を残すテック企業を創業してきたエンジニア上がりの人で、さらにA16Zを通して多くのAIに関する企業、スタートアップ、スタンフォードやバークレーなどの大学研究室とも直接深く関わっているため、そのへんのジャーナリストや大学の専門家のような人間による外野の考察とは重みが違います。
このエッセイのタイトルはAIをプロモートするように聞こえますが、単にAIのすばらしさや可能性をプロモートするのではなく、私達がAIに対して持つバイアス、先入観を一つ一つ歴史上の例をもとに論理的に、わかりやすく解き明かしていくものです。
私個人は彼の見解に全て賛同するわけではありません。しかしそれでも、AIの政治的、経済的、そして社会的な影響を議論するときに重要な視点が提供されているため、ぜひ日本の皆さんに、翻訳というかたちで紹介したいと思います。長文なので以下のようにそれぞれの章ごとに別々のノートに分けて紹介します。
- AI時代の宣教師と密売人（今回）
- AIは私達をみな殺しにするのか？
- AIは私達からすべての仕事を奪うのか？
- AIは私達の社会を破壊するのか？
- AIはより大きな格差を生み出すのか？
- AIの開発を止めることによるリスク
- 健全なAIの開発を求め、何をすべきなのか？
今回は初回ということで、「AI時代の宣教師と密売人」を紹介します。
AIとは何か？
この話をする前にまずAIとは何でしょうか。ここで簡単に定義しましょう。
AIとは、数学とソフトウェアのコードからなるアプリケーションで、それはコンピューターに人間が行うのと同じような形でどのように理解するか、知識を生成するかを教えるというものです。AIは他のコンピュータープログラムと同じで、実行すると、与えられたインプットを処理し、アウトプットを生成します。AIによるアウトプットはプログラミングから医療、法律、クリエイティブアートまで様々な分野で役立つものです。他のテクノロジーと同じで、人によって所有され、人によってコントロールされるものです。
AIが何でないかというと、よく映画にあるような、ある日突然意識を持ち、人類を殺す、または全てのものを破壊することを決める殺人ソフトウェアや殺人ロボットではありません。
AIの可能性を簡潔に述べると、AIとは私達が興味もつ全てのものをより良くするものです。
なぜ人々はパニックに陥るのか？
なぜAIによって人類が滅びるとか人間の仕事が全て失くなってしまうといったパニックに人々は陥ってしまう人が出てくるのでしょうか？
AIによってもたらされる多くのベネフィットがあるにも関わらず、メディアや大学関係者から出てくるAIに関する会話はいつもヒステリックな恐怖や妄想に独占されているかのようです。
AIは私達人類全てを殺してしまう、私達の社会を滅ぼしてしまう、私達の全ての仕事を奪ってしまう、格差を極限まで広げてしまう、悪い人たちがAIを使ってひどいことできるようになる、といったものです。
過去を振り返ると、電気による照明から自動車、ラジオ、インターネット、など意味のある新しいテクノロジーが出てくるといつも、道徳的なパニックを引き起こします。新しいテクノロジーが世界、社会を破壊すると説得する社会的な伝染が始まるのです。
こちらにPessimists Archiveによってまとめられたこうしたテクノロジーが過去何十年にも渡って引き起こしてきた道徳的なパニックの歴史を見れば、こうしたパターンが明らかなだけでなく、現在のAIパニックは私達が経験する最初のAIパニックですらないこともわかります。
もちろん、多くの新しいテクノロジーが私達の社会にとって大変有益であった反面、悪い結果をもたらしこともあるというのは確かです。道徳的なパニックだからといって、それで何も心配する必要がないと言っているわけではありません。
私がここで言いたいのは、道徳的なパニックというのはその性質からして不合理なものだということです。というのも、こうしたパニックは私達が持つ懸念をヒステリックに大げさにすることで、皮肉にもほんとうに懸念すべき問題に立ち向かうのを困難にするからです。
そして、現在まさにAIに対する道徳的パニックが全開で起きているのです。
この道徳的パニックは、様々なタイプの影響ある人達にによって新しいAIの制限、規制、法律といった政策を求めるための動機付け原動力としてすでに利用されています。こうした人達はAIの危険に関して非常にドラマチックな見解を一般大衆に対して撒き散らし、すでに起きている道徳的パニックをさらに大きくしていくのです。彼らはみんな、自分たちは一般大衆の人たちのために立ち上がる、利他的なヒーローかのように演出します。
しかし、ほんとうに彼らはそうなのでしょうか？
彼らは正しいのでしょうか、それとも間違っているのでしょうか？
この質問への答えを見つけるため、皆さんに紹介したいのが、「The Baptists And Bootleggers（宣教師と密売人）」というコンセプトです。
宣教師と密売人
経済学者はこの手の改革運動に共通して見られる、あるパターンを観察してきました。こうした運動で中心的な役割を果たす人たちは2つのタイプに分けられます。宣教師（本文の中ではバプティスト - イングランド国教会の分離派思想から発生したキリスト教プロテスタントの一教派）と密売人（本文の中ではブートレガー、違法に密造、密売、密輸する人たち）で、これはアメリカで1920年代にあった禁酒法という歴史的な出来事に由来します。
「宣教師」は社会的改革を本気で信じている人たちです。たとえ彼らの主張が論理的でなく、感情的であったとしても、彼らは真剣に社会的な災いを防止するための新しい制度、規制、法律が必要だと信じています。
禁酒法の場合、こうした人たちは敬虔なキリスト教信者で、アルコールが社会の道徳的な仕組みを破壊すると信じる人たちでした。現在の「AIによる危機」の場合、こうした人たちはAIが人間の存在を脅かす危険なものだと本気で信じる人たちです。
それとは逆に、密売人（ブートレガー）は自分にとって利益となる機会を伺う人たちで、自分たちを競争相手から守ってくれる新しい制度、規制、法律を作ることによって金銭的な利益を得ようとします。
禁酒法の場合、こういう人たちはブートレガーと呼ばれていた人たちで、合法な酒の販売が禁止されているときに不法な酒を隠れてアメリカ人に売ることで莫大な利益をあげました。
「AIによる危機」の場合、政府に認められたいくつかのAIベンダーによるカーテル（寡占）連合の中心にいるCEOたちが「密売人」に当たります。スタートアップやオープンソースによってもたらされる競争から自分たちを守るための規制を作ることで、よりいっそうの利益を上げることを望みます。これは「大きすぎて潰せない」と言われるウォールストリートの一部の巨大銀行連合のソフトウェア版とも言えるでしょう。
皮肉的な人は、一見宣教師に見える人たちの中には、実は密売人（ブートレガー）が混ざっていると言うかもしれません。たしかに、彼らの勤める大学、シンクタンク、非営利団体、メディア企業などからお金をもらい、AIを非難し続ける人たちがいます。AIのパニックを煽ることで給料や助成金をもらっているのであれば、彼らはおそらく密売人（ブートレガー）と言っていいでしょう。
問題は、いつも密売人が勝つということです。自分たちの主義主張（イデオロギー）に固まったナイーブな宣教師に対して、密売人は冷血な実行者たちです。この手の改革運動はたいていの場合、密売人が「規制の虜（規制機関が規制される側の勢力に実質的に支配されてしまうような状況）」、競争相手からの隔離、カーテルの形成、といった自分たちの欲しい物を手に入れたあと終わりを迎えます。そして最後に宣教師にあたる人たちは、彼らの社会運動はどこでおかしくなってしまったのかと困惑するのです。
私達はそんなに遠くない過去にまさにこの例となる出来事を経験しました。それは2008年の金融危機の後の銀行改革です。「宣教師」たちはこのような危機が二度と起こらないよう、「大きすぎて潰せない」と言われた大手銀行を小さくするための新しい法律と規制が必要だと主張しました。
そこで議会は2010年にドッド・フランク法を通しました。それは「宣教師」の望みを叶えるための法律だだと宣伝されたものでしたが、実際には密売人（ブートレガー）たち、つまり大手銀行にとって都合のよいものに置き替えられてしまっていました。結果として、2008年に「大きすぎて潰せない」と言われた大手銀行は、その後さらにもっともっと大きくなって今に至ります。
結局、この現実世界ではたとえ「宣教師」たちが真摯で、さらに正しかったとしても、世論を操作することに長けた腐敗した「密売人」たちが自分たちに有利な状況を作り出すためのカバーとして「宣教師」を使い、その後彼らはいつも使い捨てにされるのです。
そして、これが現在AIの規制を突き動かしているものの正体です。
しかし、こうした役者たちを単純に名指しし、彼らの隠された動機を非難するだけでは十分ではありません。そこで、これから宣教師と密売人（ブートレガー）、両方の言い分を一つ一つ検討してみたいと思います。
翻訳終わり。
あとがき
「宣教師と密売人」は英語では「Baptists and Bootleggers」と言います。アメリカでは知ってる人は知ってる表現で、同名の本も出てたりします。日本では、アル・カポネや、ゴッドファーザーの映画などが有名だと思いますが、こうしたマフィアがまさにこのブートレガー（Bootleggers）だったりします。彼らは、禁酒法のおかげで裏で違法なお酒を売って財を成した人たちなのです。
ところで、「禁酒法」に関しては英語版しかないようですが、「Prohibition」というドキュメンタリーがおすすめです。以下はその紹介編です。
私はこの映画を10年ほど前に見ましたが、そのときは政府が作る法律はときに市民の人権を犯す「悪法」である場合があり、そんなときは市民は「不従順（Disobedience）」の態度を表明し、平和的に反抗するべきだというのがアメリカの文化なのだと理解して終わっていました。
しかし、今回のマーク・アンドリーセンのエッセイによって、実はもっと重要な視点があったことに気付かされました。つまり、道徳的な問題意識から始まった社会運動などの多くは、途中から「密売人」によって乗っ取られてしまい、その社会運動の持つスローガンの聞こえの良さに流されてしまう一般大衆はその事に気づかないまま、結果として「密売人」を応援することになってしまうという現実です。
もちろんこれは禁酒法やAI規制といった話にとどまりません。
最近のコロナ騒動に関しても、一部の「他の人のために」、「お年寄りや体の弱い人のために」という掛け声のもとロックダウン、マスク、ワクチンなどが強制されました。しかしロックダウンやワクチンをプロモートすればするほど儲かる一部の製薬会社や医療機関などがあったのも事実でした。
またウクライナ戦争では、「ウクライナ市民のために立ち上がろう」という掛け声のもと、自国の経済を無視したロシア制裁が行われ、停戦を求める声よりも、さらに軍需物資を始めとしたウクライナ支援を求める声が大きく叫ばれます。しかしロシア制裁をすることで、ロシア産ガスの代わりにアメリカ産ガスを売って儲けることができたアメリカの資源会社があり、戦争が長期化することで膨大な戦時予算を手にすることができる軍需産業や正体のしれないNGOがあったのも事実でした。
さらに、気候変動問題でも、「地球を救おう」、「環境に優しく」という掛け声のもと、自国の経済、産業を無視したエネルギー政策や産業政策がとられ、その裏でソーラー発電などいわゆる「再エネ」企業、EVメーカー、人工フードメーカー、そして国際的な炭素税を集めようとしている組織などがうまくお金を儲けているのが現状です。
もちろん、世の中で起きていることは嘘ばっかりなので、冷めた目で見ろとか、関わるなと言っているのではありません。私が言いたいのは、この世の中はおとぎ話ではないという現実を受け入れ、適度な懐疑心を持ち、仮説と検証を繰り返すことによって物事の本質に迫っていくという姿勢が大事だということです。そうすることで、誰かに宣伝された問題ではなく、自分の視点で本当の問題というものを見つけ出すことができるようになり、そうした問題と積極的に関わっていくことで世の中はより良くなっていくのだと思います。
こうした姿勢は、メディアやインターネットなどから垂れ流される情報の洪水時代に生きる私達にとって、今まで以上に必要とされているのです。
以上。
データサイエンス・ブートキャンプ・トレーニング
データサイエンス、統計の手法、データ分析を1から体系的に学ぶことで、ビジネスの現場で使える実践的なスキルを身につけたいという方は、ぜひこの機会に参加をご検討ください！
ビジネスのデータ分析だけでなく、日常生活やキャリア構築にも役立つデータリテラシー、そして「よりよい意思決定」をしていくために必要になるデータをもとにした科学的思考もいっしょに身につけていただけるトレーニングとなっています。