中国がデータとAI、そしてインターネット監視システムを使って国を統治する仕組み
Here’s how China rules using data, AI, and internet surveillance. - Link
これからの10年はデータとAIの時代ですが、その使い方で中国政府の右に出るものはいないのではないでしょうか。この国では、ソーシャル・クレジットのシステムや顔認識システムを使った街なかでの犯罪者の探知など、マイノリティ・レポートなどのSF映画に出てくるような話がものすごい規模で、さらに現在進行系の形で行われています。今回は、MITのTechnology Reviewがそういった取り組みの例を詳しくまとめていたので、一部を紹介したいと思います。
以下、一部抜粋の訳
「どんな authoritarianな支配体制でも、どうやって社会全般の下位層で何が起きているのかを理解するというのは大きな問題です。」
とは、フィラデルフィアのVillanova大学の政治学と中国の専門家であるDeborah Seligsohnの言葉です。
2012までの10年間、中国のリーダーであった胡錦濤はある程度の穏やかな民主的なアプローチを取り、大衆に支配層に不満を伝える手段を与えることでこの問題を解決しようとしました。現在のリーダーである習近平はそのトレンドを巻き戻しました。14億人の国で何が起きているのかを理解し対処するための彼の戦略とは人々の生活と行動を分単位でモニターすることができる監視システムとAI、ビッグデータのシステムを使うことです。
2012年以来、習は2030年までにAI分野で世界のリーダーになるという戦略を含め、この分野では様々な野心的な計画を提示してきました。サイバー主権とよぶもので、センサーシップを強化し、国内のインターネットを完全にコントロールするためのものです。
以前は、地方の役人の不正や粉乳に含まれている毒成分といった問題を訴えるために、請願者は首都にやってきたものです。
最近は警察がそういった請願者を北京に来る前に止めることが多くなりました。列車に乗るためのチケットを買うにはナショナルIDが必要です。これを使うことで、政府は、過去に抗議活動を行ったことがあるというような、今後問題になりそうな人間を特定することができます。ブロガー、アクティビスト、弁護士はシステム的に沈黙させられるか刑務所に送られます。
中国では、テクノロジーと統治をリンクさせる一つの大きな青写真と言うものがあるわけではありません。しかし、いくつものイニシアチブは、意思決定に役立てるための人と企業に関するデータを集め、人々の行動に影響を与えるための褒美と罰を与えるシステムを作るための戦略を共有しています。
State Council’s 2014、ソーシャル・クレジット・システム、2016 サイバー法、様々なソーシャル・クレジットに関する地方レベル、私企業による実験、スマート・シティ計画、新疆ウイグル自治区西部のテクノロジー・ドリブン政策などがこうしたイニシアチブの一環です。それらの多くが、政府と中国のテック企業のパートナーシップという形で行われています。
過去5年、司法システムは、過去に罰金を払ってない人、司法判断に従っていない人の名前のリストを公表してきました。ソーシャル・クレジットの法律のもとでは、様々なビジネスと政府の期間がこのリストを共有します。このリストに載っている人たちはお金を借りる、飛行機のチケットを買う、高価なホテルに泊まるといった行為を制限されています。
中国の政府系の輸送企業群は追加のブラックリストを作り、列車のドアが閉まるのを止めたり、旅行中に喧騒を起こした人たちをリストに載せています。こうした違反者は、６ヶ月から１２ヶ月の間チケットの購入をすることができません。
今年のはじめには、政府はいくつかのブラックリストを発表し、「正直」でない企業は政府関連の契約や土地の助成金がもらえなくなってしまいました。
いくつかの地方都市はソーシャル・クレジット・スコアのシステムを実験中です。栄成市の北部にある町では740,000の住民一人ひとりにスコアをつけています。すべての人は1,000ポイントからスタートします。チャリティ活動に寄付したり政府から表彰されたりするとポイントが追加されます。飲酒運転や、スピード違反、道の横断などといった交通ルール違反をするとポイントが減ります。良いスコアを持つ人は冬の暖房設備のディスカウントがもらえ、有利な不動産ローンを組むことができます。逆に悪いスコアだと、銀行ローンが組めなかったり、政府系の仕事での昇進ができなくなったりします。高いスコアを取って、道徳を示した人は地域のロールモデルとして市役所にポスターとして飾られます。
「ソーシャル・クレジットのアイデアとは、人と組織がどのように行動するのかをモニターして、管理するための仕組みです。」
とはドイツのベルリンのMercator Institute for China StudiesのSamantha Hoffmanの言葉です。
「一度、違反が一つのシステムの中で記録されると、他のシステムにも影響を及ぼします。経済開発と社会の管理を支援するためのコンセプトということですが、それが政治的な動機をもつのは避けられるません。」
こうしたものはUSにもすでにあります。例えば悪いクレジット・スコアは住宅ローンが組めなかったり、重犯罪を犯した人は投票できなかったりというものです。しかしそれらは同じように統合されていません。
ここで大きな懸念なのは、中国には独立した司法機関がないということです。市民は、間違っていたり不正確な疑惑を正すための手段を持っていないのです。
「テクノロジーがこうした政策を作り出したわけではありません。しかし、テクノロジーは中国政府が個人についての大量のデータを集めることを容易にしているのです。中国のインターネットはリアルタイムでプライベートに管理されているデジタル・インテリジェンス・サービスとなってしまっています。」
とは、Lowy Instituteのシニアフェローで、”The Party: The Secret World of China’s Communist Rulers”の著者でもあるRichard McGregorの言葉です。
一部抜粋の訳終わり。
この記事を読んで恐ろしいと感じるのは、今日のテクノロジーとデータを使えば技術的には当たり前にできることが、この国では普通にできてしまっているということですね。
データの世界では、昔から多くのテック企業が、様々なデータを統合したソリューションというものを売りにしてきたわけですが、そういったものは一つの企業の中でも、技術的な問題と言うよりも、社内政治的な問題、レガシーシステムの問題などがあって、なかなか難しかったりします。
また、アメリカの政府レベルでも同じように様々な機関のデータベースを統合するという試みは昔から行われいています。逆にそれができていないせいで2001年のテロ攻撃を防げなかったなどという議論もあったわけです。当時、私が働いていたOracleという会社のCEOであったラリー・エリソンはナショナルIDを導入すべきだと声高に叫び、せっせとOracleのデータベースとアプリケーションを政府に売っていたのが懐かしいです。
ただ私は、データの統合自体に問題があるわけではあると思いませんし、またそこでAIを活用することにも問題があると思いません。そうしたことによって得られる利益が、不利益よりも大きいのであればです。
ただ、何のためにそうしたデータの統合とAIの活用が行われるのか、どのようにそれが行われるのか、誰が行うのか、といったことを国民の前でしっかり議論して進めていくのが民主主義の国では当たり前だと仮定されています。もちろん、こうしたことをこっそりとやってて、エドワード・スノーデンによって暴露され、大問題になったNSA（The National Security Agency）のような例もありますが、この場合でも、それが人権、倫理の点から問題だとして認識されます。
しかし、中国のような先制主義の国ではそうした政府が行うことが問題として自由に議論されることはありません。そして、必ずしも民主的に選ばれたわけではない政府によって行われるこうしたデータの統合やAIの活用によって得られる大きな力が一般の人達の利益というよりも、一部の人達の利益となってしまっていることがさらに深刻な問題となるのではないでしょうか。
こうした力を持った人間は、自分と敵対する勢力、意見を異にする人たちを犯罪者としてシステムに登録してしまうことができるわけですから、この様な取り組みは長期的にはこの国を発展させると言うよりも、逆に後退させてしまうのではと思ってしまいます。