予測と因果の違いを気にする必要がないとき

おもしろいことに、関連のあるドメイン知識がアルゴリズム自身に組み込まれている場合は、予測と因果推論（反事実的な予測）の違いを認識する必要はなくなります。

碁をやることを学んだ単純に「予測」だけを行うアルゴリズムは、様々な動きに対しての反事実的な状態というものを完璧に予測することができます。

そして、車を運転することを学んだ「予測」のアルゴリズムは、反事実的な、例えば、ブレーキが動かない場合に車がどうなるかということを予測することができるのです。

こうしたシステムは事前に決まったルール（例えば碁のようなゲーム）、または確率的な要素を持つ物理的な法則（例えば自動運転のようなエンジニアリングのアプリケーションなど）によって支配されているので、ある想定された介入があった場合に、システム全体がどう動くのかといったことを、アルゴリズムが予測することができます。

アルゴリズムが駒を動かす時、ゲームのルール、現在の碁盤における位置、一連の動きが引き起こすであろう結果、といった関係のある情報全てにアクセスすることができます。

さらに、強化学習のアルゴリズムは自分自身でどんどんとゲームをプレイすることでデータを勝手に生成していくことができ、そのことによってトライ・アンド・エラー（試しては間違える）ということを繰り返しながら学んでいくことができます。

こうした環境において、強力なコンピューターの上で走っている賢いアルゴリズムは人間を圧倒的に凌ぐことができます。ただし、このタイプの「因果推論」は使える領域や用途が限られているというのが現状です。

複雑なシステムに「予測」は役に立たない

多くのサイエンティストは、全ての必要なデータが手に入るという確証がなく、一部しか分かっていない、そして支配する法則（ゲームのルール）が決定的でないような複雑なシステムを相手にした仕事をしています。トライ・アンド・エラー（試して、間違える）を繰り返しながら学んだり、一つの実験さえ行うことが可能ではないようなシステムであったりするのです。

例え、法則が明らかでデータが手に入ったとしても、そのシステムは長期的な予測を行うには混沌としすぎているかもしれません。例えば、地上250kmの上空の軌道に乗っている中国の宇宙ステーションがいつどこで地球に落ちるのかを予測するのは不可能だったのです。

腎臓疾患の患者に対して、異なるエポエチンの処方が死亡するかどうかに与える影響に関しての因果の質問を考えてみてください。私達はどの分子、細胞、個人、社会、そして環境といった様々な要素がエポエチンが死亡のリスクに与える効果にどう関わっているのかを理解していません。

結果として現在では、どういった処方をすることでどういった結果が得られるかという予測を再現可能な形で行うことは、例え全ての健康に関するデータが手に入ったとしても不可能なのです。

IBMの「Watson for Oncology (腫瘍学)」のような多くの人が知ることになった大失敗のデータサイエンスのアプリケーションはこうした問題のいい例です。まだ良く理解できていない複雑なシステムを「予測」モデルによって解決しようとしてしまったことによる結果、とんでもない災害となってしまいました。本来であれば、専門家による因果関係の知識とデータが必要であったのですが、それがないのが問題なのです。

多くの伝統的なデータサイエンティストたち（統計学者、疫学者、経済学者、政治学者など）の注意深い態度と、多くのコンピューター・サイエンティスト、情報学者たちの「Can do（できる）！」という態度の間にあるあまりにも明らかな違いは、それぞれのグループが歴史的に取り扱ってきた因果に関する質問の複雑さの違いによる結果ではないでしょうか。

疫学者や、ものすごく複雑なシステムを相手に仕事をしてきた他のデータサイエンティスト達は、比較的控えめなゴールに集中し、ある変数が与える平均的な因果効果といった狭い領域での因果に関する質問に答えるために行うデータ分析を設計します。システム全般の因果の構造を解明しようとしたり、世界中のどこでも通用するような最適化された意思決定の戦略を見つけようとすることはありません。

逆にデータサイエンスの世界への新参者（newcomers）たちは、すでに法則が分かっているシステム（例えば、囲碁やチェスといったボードゲーム、自動運転など）に集中しがちです。

ですので予測と因果推論の違いをあまり重視しないのは驚くべきことではありません。

しかし、この予測と因果推論の違いにもっと注意を向けることが今ほど重要な時はありません。というのも、これまでは健康に関するサイエンティスト、社会科学の専門家によって質問されていたような因果に関する質問に、現在ではより多くのデータサイエンティストたちが答えているからです。

洗練された予測のアルゴリズムは最強のGo（碁）のソフトウェアを開発したり、将来的には安全な自動運転の車を作るには十分かもしれません。しかし、複雑なシステム（例えば、慢性疾患を治療するための医療戦略の効果といったような）は因果関係に関する知識をともにした、データ分析の手法を必要とするのです。

データサイエンスが意思決定のための信頼に足る道具となるためには、しっかりとしたサイエンスの追求には因果推論が必要となるのだと認識するのが最初の一歩です。

最後に、予測と因果推論の間の違いをはっきりさせることはAIを定義する上で欠かせません。あるデータサイエンティストのグループは、知能の本質とは予測することなので、良い予測のアルゴリズムはAIの実現だと主張します。こうした視点からは、データサイエンスの大きな部分はAIだとしてブランドを定義し直すことができます。そして、これこそがまさにテック業界が現在行っていることです。

しかし観察されたインプットを観察されたアウトプットにマッピングするというのは私達が期待するような知能とは程遠いものです。

むしろ、知能が知能である所以は、様々なアクションが取られた時に世界がどう変わるのかといった、反事実的な予測ができるかどうかということです。それには専門的な知識とアルゴリズムを統合することが必要なのです。

因果推論もできないものは、AIと呼ぶにふさわしくありません。

以上、要訳終わり。