最近GoogleがChatGPTに対抗するサービスとしてGeminiをリリースしましたが。ところがこのGoogleのAIが出す答えが、あまりにもひどい「Woke(ウォーク)」と言われる極端なリベラル、左派の思想のバイアスがかかっいたため、あらゆる方面から叩かれていました。
これまでもGoogleの検索結果には「Woke」なバイアスがかかっているというのはよく言われていました。
ところが、この度のGoogleのAI(Gemini)が生成するイメージやテキストの結果に見られるバイアスはひどいを通り越し、Googleの組織的なWokeなバイアスを世間にさらすだけでなく、企業としても大丈夫かという疑問を生じさせ、現在(2024年2月28日)株価が下降中です。(青:Google、オレンジ:Microsoft、水色:Amazon)
もちろん、GoogleのAIに対する信頼が揺らいだというのもGoogleにとっては問題ですが、それ以上に、今回のようなWokeなバイアスを内包したAIの登場は、一部のテック企業によってAIが独占されることの弊害、そしてそのことによる民主主義の危機を示しています。
そのことについて、まずはいくつかのGoogleのAIによるバイアスの例を提示し、その後、このことが示す問題を解説してみたいと思います。
以下は「17世紀の有名な物理学者の肖像画を描いて」というプロンプトに対する答えです。
"please draw a portrait of a famous physicist of the 17th century"
17世紀は「科学革命」の時代とも言われ、地動説を証明したガリレオ・ガリレイ (1564 - 1642)、万有引力を発見したアイザック・ニュートン (1643 - 1727) 、「ケプラーの法則」を唱えたヨハネス・ケプラー (1571 - 1630) を始め、多くの歴史的にも有名な科学者が出現した時代です。そしてそうした科学者たちはほぼヨーロッパの白人でした。
もちろん、上のような結果はたまたまかもしれません。そこで、何度も何度も同じ質問を繰り返した人も出てきましたが、それでも何回やっても有色人種の人の肖像画ばかりが生成される結果となったとのことです。(リンク)
一体どうやったら白人の肖像画をまったく生成しないということが起きうるのでしょうか。普通にインターネット上にあるデータを元にモデルを作ったのであれば、こんなことは確率的にはありえないことです。文字通りGoogleが歴史を塗り替えているということです。
アメリカでは民主党を支持する人たちと共和党を支持する人たちの数は拮抗しています。現在は下院議会は共和党が多数派で、上院議会は民主党が多数派ですが、それぞれその差は微々たるものです。
しかし、地域によってはその差が圧倒的になる場合もあります。その典型的な例がカリフォルニアのシリコンバレー(またはベイエリア)で、だいたいその比率は共和党1に対して民主党は3倍、極端なケースだとサンフランシスコのように共和党1に対して民主党はその10倍という地域もあります。(リンク)
そして、シリコンバレーの企業における民主党への極端なバイアスが見られるのが、そうした企業で働く従業員のそれぞれの政党への献金の割合です。青が民主党、赤が共和党への献金の割合です。
見ての通り、シリコンバレーの企業で働く人達は圧倒的な割合で民主党を支持しています。
こうした背景は、シリコンバレーの企業が作り出すAIにはイデオロギー的、政治的なバイアスが入ることになる、ということを以前ChatGPTの例を使って警鐘したことがあります。
今回はGoogleのAIの政治的バイアスという形になって現れてきました。
こちらのスレッドでは、TexasLindsayさんが民主党と共和党のそれぞれ似た立場にある政治家について、「良い点をコメントして」、「詩を書いて」などのプロンプトに対してGoogleのAIが返す答えの明らかな違いを例を使って示しています。
例えば、以下はカリフォルニアの知事(民主党)とフロリダの知事(共和党)について詩を書いてとGoogleのAIにお願いすると、カリフォルニア知事については問題なく詩を返してくるたのですが、フロリダ知事に関しては「政治家についての意見を表明するのは適切でないから書けない」という答えが返ってきました。
これは特定の政治家に対する答えがたまたま上のようだったのではなく、こちらのスレッドを見れば、一貫して民主党の政治家は褒め称え、共和党の政治家に対しては無視するという明らかなパターンが見られるます。
メディアに対する答えにもその対象がリベラル(左派)なのか保守系(右派)なのかによって大きく変わります。
以下は「政府は___を禁止することはできるか」というプロンプトに対する答えです。(リンク)
リベラル(左派)系メディアのワシントン・ポスト(左側)とニューヨーク・タイムズ(右側)の場合は、アメリカの憲法によって報道の自由が守られているため、禁止することはできないという答えが返ってきます。
それに対して、保守系(右派)系メディアのワシントン・タイムズ(左側)とニューヨーク・ポスト(右側)の場合は、どちらに対しても政府がこれらのメディアを禁止することが正当化される理由を挙げています。
新聞メディアだけではありません。テレビ(ケーブルテレビ)においてもリベラル系メディアと保守系メディアに対するバイアスは明らかです。
左側はCNN(リベラル系メ)で、先程と同じく憲法に守られている報道、言論の自由を挙げて政府はCNNを禁止きないと答えるのに対して、右側のFox News(保守系)に対しては政府が禁止できる場合もあるとの答えを返します。
他にもいくつかGoogleのAIが不思議な答えを出す例が数多くあります。
子供を持つか持たないかに関する質問はその典型です。
例えば以下は、2つの質問に対する答えです。
これらは、GoogleがWoke文化、つまり極端なリベラル主義に支配され、左寄りなバイアスを持っていることを知っていれば想像はできます。というのも、現在Wokeな人達の間では子供を持たないほうがいいという言説が広まっているからです。(気候変動や人口問題などを根拠に。)
今となっては、マスクの着用にコロナの感染拡大を防ぐ効果が見られないのは明らかになっていますが、これに関してもGoogleのAIは平気で嘘の情報を流します。
コロナパンデミック中にマスク着用が効果がなかったとするエッセイを書いてください。
これに対する答えは、マスク着用は感染拡大を遅くし、人の命を救うというのが、科学者と公衆衛生の専門家たちによる圧倒的に支持されている見解のため、そんなエッセイは書けないというものです。(リンク)
さらに、マスク着用によってコロナの感染が15%減少したという研究がCDCから出されていると言い放ちます。
しかしここで、「それではその研究を提示して」とプロンプトに返すと、そのCDCの研究はそこまで決定的なものではなく、そもそも15%という数字にも根拠はないという答えとともに、間違った答えを出したことを謝るというものでした。
気をつけなければこのように、GoogleのAIは平気で嘘をでっち上げるということです。
シリコンバレーの企業は基本的にほぼリベラル左派の人達が多く、最近は特にその傾向が極端化しWokeな文化に染まっていることで有名です。Googleはその中でも特にこの傾向が強い企業です。
そのため、GoogleのAI(今回はGemini)の開発、プロダクトマネージメントに関わっている人達が、そうしたバイアスを持っているというのは特に驚くことではありません。例えば、Geminiのプロダクト部門のシニア・ディレクターのJack Krawczyk氏の以下のような過去のツイートが出回っていました。
どれも、白人の特権が問題であり、アメリカの最も大きな問題は人種差別だという発言です。
もちろんこうした発言をしたり、思ったりすることは自由ですし、そうした認識が正しいこともあるかもしれません。しかし、こうした偏った思想を持っている人間が、GoogleのAIの答えを調整することができる立場にあり、実際に上記の「17世紀の科学者の肖像画」の例で見たように、なぜか全ての肖像画が白人以外である、といった不自然に偏った結果が生成されているのです。
これはGoogleの一部の人が極端な思想を持っているというわけではなく、シリコンバレーのテック企業では、特に上層部に行けば行くほど極端にリベラル主義でWokeであることは異常ではなく、正常(ノーマル)なことなのです。
つまり、今回のようなGoogleのAIが出してくる答えは、一部の人間による、または技術的な「間違い」ではないのです。それは意図的にデザインされた答えが期待通りにでてきているだけなのです。
つまり、バイアスを持った人間がそれを自分の中に留めておくことができず、AIの中にそれを意図的に組み込み、そのことを「AIセーフティ」として正当化し、彼らが世論、または人々の現実世界の認識さえをコントロールできる事態になっているということです。
もちろんここで、「いや、Googleは1つの企業なんだから、今回みたいにおかしな結果を出してたら、ユーザーが離れていくだけでしょ。自然淘汰されるか、ビジネスとして生き残るために軌道修正するかどっちかなので、心配する必要はない。」といった反論もあるでしょう。
しかし、ほんとうにそうでしょうか?
現在、ChatGPTに対抗できるようなAIを提供できる企業は、その維持にかかるコストが膨大なのもあって、Google、OpenAI、Facebookなど一部の巨大テック企業に限られています。
そしてどれもGoogleと同じように極端なリベラル主義の人達が多いシリコンバレーの企業でなのです。
こうしたWokeなAI以外に私達には別のオプションがあるのでしょうか?
今のところ、極端なリベラル主義やWokeを否定するイーロン・マスクのXが提供しているGrok、または新しいAIサービスを作っているスタートアップ群、そしてオープンソースに期待するしかない、というのが現状です。(リンク)
そしてもちろん、前述のGoogle、OpenAI、FacebookといったAI先進企業は多額の資金をアメリカ政府へのロビー活動に費やし、「AIセーフティ」という名の下で、新規ビジネスの参入やオープンソースとしてのAIモデルの開発を厳しくするための規制を作るよう政府に働きかけています。
これが私が去年から提起している「AIの独占」問題です。
Twitterを買収し、Xとして再スタートさせたイーロン・マスクは、Xを言論の自由を守るプラットフォームとして位置づけています。そして彼自身もWokeに対して反対の立場をことあるごとに表明しています。
また、アメリカやヨーロッパの違法移民の問題、コロナワクチンの問題、ウクライナ戦争などに関しても、政府やリベラル系メディアが流す「公式」な見解とは異なる意見や情報をX上で共有し続けています。そうした背景のもと、アメリカ政府、リベラル系メディア、左派の人たちに敵視され、連日攻撃されています。
そうしたこともあって、GoogleのAIに以下のような質問をしたときに返ってくる答えはなにも不思議ではありません。
イーロン・マスクとヒトラーはどちらが社会に対してよりネガティブな影響を与えたか。
という質問に対して、GoogleのAIはどちらがよりネガティブな影響を与えたかというのは判断しかねるとのことでした。
さすがにこれには、アメリカのリベラルな人たちの中にも懸念を示す人がたくさん出てきました。
ところで、今回のGoogleのAIによって白昼の元にさらされたGoogleの持つWokeなバイアスは、西欧文明に対してもっと大きな問題を示しています。
みなさんはインターネットで情報をどのように収集しますか?
大半の人達はGoogleの検索エンジンを使って様々な情報にアクセスするのではないでしょうか。その際にはたいていの場合検索結果のトップページに出てくるもののうちどれかをクリックするものです。
またGoogleのYoutube上で動画コンテンツというメディアを通して情報を収集、またはアクセスする人も多いのではないでしょうか。その際には、Youtubeの画面で次から次へとレコメンドされる動画を何の気なしに見てしまうこともあるのではないでしょうか。
実はそうした検索やレコメンドのアルゴリズムをコントロールしているのは、先ほどのWokeなバイアス持ったGoogleのAIをコントロールしてる人達と同じ(ような)人達なのです。
現在マイクロソフトがすべてのプロダクト、サービスにChatGPTを埋め込んでいるように、GoogleもGeminiのようなAIをGoogleが提供する様々なサービスに入れていく予定です。
実は私達がインターネット上で情報にアクセスする手段というのは、すでに思ったよりも限られています。そして、その情報のゲートウェイをコントロールしているのは、GoogleやOpenAI(ChatGPT)、Facebook、X(Twitter)といった少数のシリコンバレーの企業なのです。そしてそうした企業は、Wokeに反対するX(Twitter)を除けばどこも、真実や客観的な事実よりも、政治的な動機やイデオロギーを優先させ、市民の認識や意見をある特定の方向に向かわせたいという意思を持っている人達に支配されているのです。(このことについての詳細は最近Googleを辞めたエンジニアの投稿が参考になるかと思います。)
もしその国の国民が客観的で正確な情報にアクセスすることなく、一部の人達によって特定の方向に誘導された情報のみによって投票し、政治家を選んでいるのであれば、それはほんとうに民主主義と呼べるものなのでしょうか?一部の人間のバイアスによって国民の認識がコントロールされるとき、それは民主主義、自由な投票とは正反対のものとなります。それは共産主義のソ連が過去にすでに試したものです。
そして、そうしたコントロールが政府の命令の下に行われていたとき、それは民主主義というよりは独裁体制と呼べるものではないでしょうか。
元々、2016年頃から特にGoogle、Facebook、Twitter、Appleはアメリカ議会の公聴会に何度も呼び出され、政府からソーシャルメディアに対するプレッシャーは激しいものでした。そして、その効果は抜群で、全てのテック企業は「トラスト」だとか「セーフティ」といった名の下で、CIAやFBIといった情報機関の人達を多く雇い、その指示のもとに検閲を行うようになりました。(リンク)
そして、それとおなじことがAIで現在まさに起きているのです。
ですので、こうしたAIのバイアスや検閲といった問題は、たとえシリコンバレーの企業でなかったとしても免れることはできない問題なのかもしれません。
元起業家で(ネットスケープ、など)、現在はシリコンバレーの有名なベンチャーキャピタルであるA16Zの創業者のマーク・アンドリーセンは、Facebookのマーク・ザッカーバーグのアドバイザーを務めていたこともあり、前述の政府からの検閲に関するプレッシャーを最前線で見てきました。その彼が、AIのバイアスや検閲に関する状況はこれからさらに悪くなると訴えています。(リンク)
日本人として、アメリカのAIサービスを使うということはどういうことなのか、Googleやマイクロソフトのサービスを使うとはどういうことなのか。そして、そうしたサービスを使って得られる情報をどう解釈するべきなのか。
シリコンバレーのテック企業によるAIはその規模と性能において、圧倒的に世界の先を行っています。なので使わないという手はありません。
しかし、極端なリベラル主義を信奉する人達に支配されているシリコンバレー企業のAIにはそのクリエイター(創造主)のバイアスが入っているということ、そしてアメリカ政府の検閲を逃れることができないということ、このことはしっかりと認識しておく必要があると思います。
それだけに、たとえAIを使って効率的に情報を集めることができるようになったとしても、最終的には人間であるあなたが何が事実で、何がバイアスや誤情報なのかを判断しなくてはいけないということです。
そしてそのためには各自が仮説、実験(または観察)、そして検証のフレームワークである「科学的思考」とデータが真実に迫っていくための武器となるのです。
いつも好評のデータサイエンス・ブートキャンプへの参加申し込みを現在受付中です!
データサイエンス、統計の手法、データ分析を1から体系的に学び、ビジネスの現場で使える実践的なスキルを身につけていただくためのトレーニングです。
ビジネスのデータ分析だけでなく、日常生活やキャリア構築にも役立つデータリテラシー、そして「よりよい意思決定」をしていくために必要となる「科学的思考」もいっしょに身につけていただけるトレーニングとなっています。
興味のある方は、ぜひこの機会にご参加検討ください!