AIリスク #1: AIは私達を殺すのか？

今回はAIリスクシリーズの第2弾です。

  • AI時代の宣教師と密売人
  • AIリスク #2 - AIは私達をみな殺しにするのか？（今回）
  • AIリスク #3 - AIは私達からすべての仕事を奪うのか？
  • AIリスク #4 - AIは私達の社会を破壊するのか？
  • AIリスク #5 - AIはより大きな格差を生み出すのか？
  • AIの開発を止めることによるリスク
  • 健全なAIの開発を求め、何をすべきなのか？

前回は「AI時代の宣教師と密売人」という中で、AIのリスクを主張する人たちの中には、自分の利益のために、みんなのことを心配する「宣教師」を利用する人たちがいるという話をしました。

AIのリスクにはいくつかありますが、今回は「AIは私達人類を殺す」というリスクについてです。

このリスクはよく映画にもなりますし、私達の生存本能に直接影響することなので、もっとも恐怖感を持ちやすいと言えるのではないでしょうか。しかし、AIが何であるのかを理解すれば、このリスクには論理的な根拠がないとマーク・アンドリーセン（ベンチャー・キャピタルA16Zの創業者、共同代表）は主張します（リンク）。

以下、翻訳。

テクノロジーに対する畏れ

歴史を振り返ると、最初にAIによる終末論を唱えた人たちが言っていたAIのリスクとは、AIが文字通り人類を殺戮するというものでした。

私達人類の手によって作られたテクノロジーがいつの日か目覚め、私達を破壊するという恐怖は私達の文化のあらゆるところに浸透しています。ギリシャ神話はこの恐怖をプロメテウスの神話において表現しています。プロメテウスは破壊的な力である火を人間に与えましたが、そのことによりプロメテウスは非難され、神々によって永久に拷問を与えられることとなりました。

その後、Mary Shelleyはフランケンシュタインによってこの神話を現代版として復活させました。また、人間が不死身のテクノロジーを開発し、そしてそのテクノロジーが人間を破壊しようとする現代版プロメテウスというのもあります。そして、もちろんAIパニックとして、ジェームス・キャメロンによる「ターミネーター」という映画に出てくる赤い目をしたロボットに勝るものはありません。

人類の進化におけるこうした神話が果たす役割は、新しいテクノロジーの持つ潜在的な危険性を私達にしっかりと考えるよう促すということでしょう。例えばプロメテウスに出てくる「火」の場合、それこそ火は町全体を焼き尽くすために使われることもあるわけです。しかし同時に、「火」はこの冷たく厳しい現実の世界に生きる私達に、暖かさと安全を与え、そのことによって現代文明の土台となったのでした。

こうした神話は、新しいテクノロジーによってもたらされるもっと大きな有益さを無視し、実際には私達に論理的な分析を促すというよりは、むしろ破滅的な感情を呼び起こします。昔の人たちが恐れたからと言って、私達も同じように恐れる必要はないのです。むしろ、かわりに私達は論理的に考えるべきなのです。

AIに対する誤解と恐怖を煽る宣教師

私は、AIが人類を殺すというのは、あまりにもひどい勘違いを元にした間違った考えだと思います。AIは私達や動物たちが何億年もの間、適者生存という戦いを通して進化してきたような生き物ではありません。それは、数学であり、コードであり、コンピューターであり、人によって作られ、人に所有され、人に使われ、人にコントロールされるものなのです。ある日突然、AIが自らの心を持ち、私達を殺そうとする願望を持つことを決めるというような考えは、ただの迷信に過ぎません。

率直に言うと、AIには欲求がなく、自分自身の目的も持たず、あなたを殺したくもありません。というのも、AIは生き物ではないからです。AIは機械であり、あなたのトースターがそうならないように、いつか生き物になることもないのです。

もちろん、なかにはキラー（殺人）AIを信じる人達もいるでしょう。それは「宣教師」たちです。

  • AI時代の宣教師と密売人 - リンク

彼らの恐怖を煽る警告は急にメディアの注目を集めています。中には何十年もこのトピックを研究してきたにも関わらず、最近AIについて知ったことにより急に怖くなったと言い出す人たちも出てきました。こうした「宣教師」の中には、このAIテクノロジーのイノベーターも含まれているのです。

  • ‘The Godfather of A.I.’ Leaves Google and Warns of Danger Ahead - リンク
  • AI 'godfather' Yoshua Bengio feels 'lost' over life's work - リンク

こうした人たちは、AIの開発禁止から軍によるデータセンターへの空襲、さらには核戦争まで、様々な奇妙で極端なAIの規制が必要だと主張します。

というのも私たち人間は、AIによって将来もたらされる壊滅的な結果を避けることができないため、潜在的な生存リスクを避けるには、大規模で物理的な暴力や死を引き起こす可能性のある対策を、前もって行う必要があると言うのです。

こうした人たちのとる立場は私の目からすると非科学的です。そうした仮説はそもそも検証できるものなのか？彼らの言う仮説はそもそも反証できるものなのか？AIが危険な領域に近づいているかどうか、どうやって私達はそのことを判断できるのか?

彼らはこうした質問に答えることはありません。もしくは「心配していることが実際には起こらないと誰も証明できないじゃないか！」と言うのがオチです。実際、こうした「宣教師」の主張は非科学的でとても極端で、数学やコードに関する陰謀論と言うに値するものです。

こうした「宣教師」の裏にある怪しい動機には3つのパターンがあるようです。

成果を課題評価したいAIイノベーター

まず1つ目として、オッペンハイマーに対するジョン・フォン・ノイマンのコメントを思い出してください。彼は「世の中には、自分の成した業績を誇示するために罪の意識を持ったふりをする人達がいる。」というコメントを残しました。

訳者注：

原子爆弾を開発するマンハッタン・プロジェクトの責任者オッペンハイマーが、アメリカが原爆を広島と長崎に落としたあと、当時のアメリカ大統領トルーマンと会見したさいに、

「私達の手は血で染まっている」

と言いました。

これは、原爆が人類に対して使われるまでは熱心に原爆の開発及び使用を推進していた彼が、後になって罪の意識を持ったというエピソードとして語られます。

しかしこれに対して、同じくマンハッタン・プロジェクトに参加し原子爆弾開発の主要メンバーであったジョン・フォン・ノイマンは、「世の中には、自分の成した業績を誇示するために罪の意識を持ったふりをする人達がいる。」というコメントを残します。「しかし、ほんとうのところ彼の罪の意識は自分の成果とは関係ない。ここでの本当の罪の意識とは、自分の犯した罪に対して快感を覚えてしまったことなのだ。」

ちなみに、ジョン・フォン・ノイマンは数学・物理学・工学・計算機科学・経済学・ゲーム理論・気象学・心理学・政治学に影響を与えた20世紀科学史における最重要人物の一人とされています。（リンク）

彼は、「京都が日本国民にとって深い文化的意義をもっているからこそ殲滅すべき」だとして、京都への原爆投下を進言しました。このような側面を持つ彼は、スタンリー・キューブリックによる映画『博士の異常な愛情』のストレンジラヴ博士のモデルであるとも言われています。（参照）

自画自賛と思われることなく、自分の功績を世の中に対して示すためのもっとドラマチックな表現方法が他にあるでしょうか？

実際にはAIを開発したり、そうしたプロジェクトに投資したりしながら「宣教師」の振りをしている人たちの言葉が、彼らの行動と噛み合っていないのは、こうした事情によるものでしょう。彼らの言葉ではなく、行動にこそ私達は注目すべきなのです。

AIの密売人

2番目は、宣教師のふりをするが実は密売人という人たちがかなりいるという点です。AIの安全性の専門家、AIの倫理学者、AIのリスク研究者といった職業を名乗る人たちです。彼らはAIの終末論者であることでお金をもらっているのです。そのため、このことを考慮した上で彼らの主張を聞くべきなのです。

カルトとAI

3番目として、カリフォルニアは何千ものカルトがあることで有名だという点です。（リンク）ESTからピープルズテンプル、Heaven's Gateからマンソン・ファミリーまで、ありとあらゆるカルトが存在します。そうしたグループの多くは危害のあるものではありません。阻害されてる人たちにとって居場所を与えるという目的を果たしているのかもしれません。しかし、それらのいくつかはとても危険なものです。カルトはある一線を超えないようにコントローすることが難しく、最終的には暴力や死につながってしまうことがあるのです。（リンク）

シリコンバレーに住む人達にとっては明らかだが、おそらく外に住む人たちにとってはそうではないという現実は、AIのリスクはすでにカルトの域に入っているということです。それは現在世界中のメディアの注目を集め、世間一般の会話にまで浸透しています。このカルトは隅の方にいる人達を魅了するだけでなく、AIの専門家やお金をもった裕福な人たちまでも魅了します。そして彼らの行為や信じていることはカルトの特徴を完全に表すほどになっています。

このカルトであるという点が、なぜ彼らがいくつかのAIリスクによる終末論者であり、ものすごく極端なことを主張するのかを説明します。彼らの極端な主張が論理的なものであるという何か秘密の知識を彼らが持っているわけではありません。彼らはただ自分たちを狂乱的でとても極端なシナリオで満たしているだけなのです。

この手のカルトは何も新しいものではありません。西洋には黙示録で示されている千年至福期、つまり終末論（世界が終わることを信じる）というカルトを生み出す伝統があります。AIリスクはこの終末論というカルトの持つ特徴を全て兼ね備えています。

「千年至福期」とはウィキペディアによると：

終末論主義とは、あるグループや運動によって信じられている、これからやってくる全てをひっくり返す社会の変革が訪れ、そのあとには、すべてのものが変わってしまうという信条です。

劇的なイベントによって世界の向き先を変え、そうした変化をもたらす殉教者や貢献者によって世界は救われる。ほとんどの終末論のシナリオは、災害や戦争のあとに、新しい、洗浄されてきれいになった世界が訪れ、信者たちは報われるというものです。

これを現在のAI終末論に置き換えると、

AIリスクを唱える人達によって信じられている、これからAIによって全てをひっくり返す社会の変革が訪れ、そのあとには、すべてのものが変わってしまうという信条です。

AI禁止、データセンターへの空襲、規制されていないAIに対しての核攻撃といった劇的なイベントによってAIを防ぐことができ、そうした変化をもたらすAI破滅論者によって世界は救われる。AIを葬り去ったあとには、AI終末論信者は自分たちが正しかったとして報われる。

となります。

こういった終末論カルトの兆候は明らかだと思うのですが、なぜか多くの人はこのことに気づきません。

もちろん、こうしたカルトにハマった人たちの話しを聞くのはときには楽しいものです。彼らの書く小説じみた話は創造的ですし、ドキドキするものでもあります。また、カルトのメンバーたちはディナーパーティーなどの場でみんなが夢中になって聞ける話を提供してくれます。

しかし、私達の将来に関わる法律や私達の社会を、彼らの極端な信条に委ねるべきでないのは明らかです。

翻訳、終わり。

あとがき

20代、30代をサンフランシスコで過ごした私は、今となってはカルトと呼ばれるような人たちやグループと関わることが多くありました。幸い、ハマることはありませんでしたが。。。

こうした人たちは何かをいつも心配していて、その心配や恐怖がときに大げさで、それはときにはエンターテイメントのようにさえ聞こえます。

彼らの主張は論理的におかしいものもあれば、逆に正しそうではあるが、しばらくたってその心配していたことが起きなかったというものもあります。それでも、これがこうした人達をカルトとするものですが、彼らは自分たちの主張を曲げることはありません。それどころか、ときにはさらに極端になっていくことすらあります。

本文中にもありましたが、ここで重要となってくるのが、「反証できる仮説」があるのかどうかという点です。これは科学の基本で、科学的思考の基本となるアイデアです。

これがあれば、間違っていたときに意見を変えることができます。しかし、これがないと現実に起きていることと辻褄が合ってなかったとしても、いつまでも意見を変えることができず、結局教祖を信じ続けるしかない「カルト」に陥ってしまいます。

これは何も日本で言えばオウム真理教のような、社会の周辺にいる比較的少数の人達に信じられているあからさまに「カルト」と言われるものに限らず、現代でも地球温暖化など多くの一般大衆の人たちに信じられているものもあります。

少し例を出すと、例えば、地球温暖化によって北極から氷が失くなるといわれてたが、失くなるどころか現在以前よりも増えています。

また温暖化によってホッキョクグマが消滅するって言われてましたが、60年代には多くて1万頭だったホッキョクグマは、今では2万6千頭まで増えています。

キリマンジャロ山の山頂の雪は消えて失くなると言われてました。

ところが、今でもなんの問題もなく毎年積もってます。

https://twitter.com/BernieSpofforth/status/1624095805043879952

温暖化によって多くの人が死ぬと言われていたが、実際には熱さで死ぬ人よりも寒さで死ぬ人のほうが圧倒的に多い。

こうした事実を目にしても、彼らの主張が変わることも、止まることもありません。

予測を外した人たちは、今でも表舞台に立ち、一般大衆を騙し続けます。

誰も最初から正しいわけではありません。むしろそれは確率的には五分五分とも言えるでしょう。しかし、重要なのは間違っていた場合に途中で意見を変えれるかどうかです。

世の中の全てのことが科学的に説明できるわけではありません。しかし、間違っていたときに意見を変えるためには、科学的思考が道具として有用だと思います。

科学的思考に興味のある方は、こちらに過去のセミナーの動画がありますので、ぜひ見てみて下さい。

以上。

データサイエンス・ブートキャンプ・トレーニング

データサイエンス、統計の手法、データ分析を1から体系的に学ぶことで、ビジネスの現場で使える実践的なスキルを身につけたいという方は、ぜひこの機会に参加をご検討ください！

ビジネスのデータ分析だけでなく、日常生活やキャリア構築にも役立つデータリテラシー、そして「よりよい意思決定」をしていくために必要になるデータをもとにした科学的思考もいっしょに身につけていただけるトレーニングとなっています。

詳細を見る

Export Chart Image
Output Format
PNG SVG
Background
Set background transparent
Size
Width (Pixel)
Height (Pixel)
Pixel Ratio