FOREIGN AFFAIRS JAPAN フォーリン・アフェアーズ・リポート-Published by FOREIGN AFFAIRS JAPAN.

ＧＡＦＡに象徴される巨大ＩＴ企業に対する各国政府の反発は一時的な現象ではない。トランプ政権がファーウェイに対して、中国がかつてグーグルに対してとった措置を、今後欧州連合（ＥＵ）がアマゾン・ウェブ・サービス（ＡＷＳ）に対してとるかもしれない。国が動きだしている以上、シリコンバレーを未来の覇者と当然視できた時代は終わりつつある。実際、各社のクラウドネットワークの境界を越えてスムーズに移動できるようにしない限り、車や電話そしてモノのインターネットの複雑な処理はグローバルに機能できなくなる。これを克服するには企業が「コーポレートビザ」を発行する必要が生じるが、国にとって、これはＩＴ企業への主権の委譲に等しく、これを容易に認めるとは考えにくい。すでにこの問題は現実に起きている。・・・

今も昔も、国境を越えて資金を移動させるのは容易ではない。十字軍のメンバーたちが聖地への長旅の資金をどうするかという問題を解決したのは、ヨーロッパから中東にかけての遠大なネットワークをもつテンプル騎士団が発行した手形だった。現在も外国送金にはコストも時間もかかる。これを魔法のように解決してくれるのが、ブロックチェーンを基盤とするフェイスブックの暗号通貨・リブラだ。暗号通貨なら、ユーザーは、メッセージやビデオを送るのと同じスピードで送金できるし、銀行へのアクセスをもたない人にも恩恵をもたらせる。但し、この構想が実現すれば、既存の金融機関は追い込まれ、資金洗浄やテロ資金に悪用されるリスクもある。資本規制をしている国の中央銀行のパワーも低下させるかもしれない。驚異的な利便性の一方で、富の移転を規制し、監視する立場にある政府にとっては非常に厄介な事態が作り出される。

ＡＩは良くもあり、悪くもある。賢いが、鈍い部分もある。文明の救世主であるとともに、世界の破壊者でもある。実際、どのようにして決断を導き出しているか分からないし、それを人間が解明することもできない。特に、汎用人工知能（ＡＧＩ）については、「独自に進化し、人間が管理できなくなるのではないか」と懸念され、特定型ＡＩについても「デザイナー（である人間）がその意図を完全に伝えられず、壊滅的な結果が引き起こされるのではないか」と心配されている。一方で、ＡＧＩのことを心配するのは、火星が人口過剰になることを心配するようなもので、先ず、（ＡＧＩに関して）想定されていることが実現する必要があると主張する専門家もいる。イノベーションの進化ペースをどの程度「警戒」し、（機械のメカニズムに関する）説明の「正確さ」をどこまで求め、（個人データを利用することによる）パフォーマンス強化と「プライバシー」のバランスをどこに求めるか。社会がこれらのバランスをどうみなすかで、人間がＡＩとどのような関係を築いていくかが左右される。

情報機関は常に干し草の山のなかから針を見つけなければならなかったが、現在、干し草の山は指数関数的に大きくなっている。多数のスマートディバイスがインターネットにつながれ、オープンソース情報は爆発的に増えている。秘密情報はいまでも重要だが、どこにでもあるオープンソース情報が、大きな価値を持ち始めている。ロシア軍のウクライナ侵攻も、米軍のビンラディン急襲作戦も、第一報はソーシャルメディアによってもたらされた。いまやアメリカ戦略軍の地下核司令センターのスクリーンには秘密情報とともにツイッターが表示されている。問題は、米テクノロジー企業と情報機関の間にスノーデン事件以降存在する不信感のために、技術的協調が進まず、権威主義国家に比べて、サイバー情報面での戦略をうまく整備できないことだ。しかも、ディープフェイクという騙しのテクノロジーが登場しつつある。・・・

19世紀の産業革命は世界に大きな経済成長だけでなく、戦車、機関銃、毒ガス兵器をもたらした。人工知能（ＡＩ）はこれらに匹敵する変化を誘発することになる。ＡＩは医療から交通に至るまでのあらゆる分野で大きな恩恵とともに大きなリスクも生み出す。最大のリスクは、ＡＩ軍事システムを最初に開発した国が、ライバル国に対して圧倒的な優位を手に入れられるために、いい加減なテストだけで、システムを一刻も早く導入せざるを得ないと考えるかもしれないことだ。こうして非常に深刻な問題が作りだされる。ＡＩシステムの導入を競い合うのではなく、その安全性の検証と研究に多国間で投資すべきだ。そうしない限り、「誰も勝者になれない世界」が創り出されることになる。

人工知能を組み込んだ自律的軍隊を構築するのが望ましいだけでなく、それが技術的に可能になっている。米軍は、低コストの自律型航空機から無人潜水艦までの、将来の戦力整備を目的とする数多くの開発プログラムをもっている。目的はさまざまなプラットフォームを導入することではなく、よりスピーディに「キルチェーン」を実現することにある。現状で、時代遅れの一つのプログラムに投資されている金額で、数十の自律的システムを導入できるし、これによって、より高度な能力を手に入れられる。目的は、もちろん、戦争を挑発するためではなく、それを抑止することにある。アメリカは、このタイプの軍隊を組み立てる資金、人的資源、テクノロジーを兼ね備えている。問題は、新軍事技術革命を生かしたシステム移行に想像力と決意をもたらせるかどうかだ。

すでにＡＩについては多くのことが言われている。ＡＩの「スキル・バイアス」によって、多くの低スキルおよび中スキルの労働者が経済に生産的に貢献できなくなり、失業率が大幅に上昇すること、そして優良企業を強化する自己補強サイクルをもつＡＩが流れを独占に向かわせがちで、このトレンドが国内および国家間の格差を悪化させることだ。実際、ＡＩは２０３０年までに約16兆ドルのＧＤＰ成長をもたらすが、その70％が米中に集中するとみなす予測もある。では、米中のどちらが勝者となるか。「２０２０年までに中国はアメリカに追いつき、２０２５年までに抜き去り、２０３０年までにはＡＩ産業を支配している」と予測する警告もある。だが、本当にそうなるだろうか。・・・

保護主義は解決策にはならない。本当の課題は、物理的な製品の生産と取引の重要性が年を追う毎に低下し、今後のグローバル経済で重視される競争上の優位が、低コスト生産ではなく、イノベーション、ロボット化、デジタル化の能力に左右されるようになることだ。そして、今後のグローバルな統合は国家間のデジタル及び仮想システムの接続、これに関連するアイデアとサービスの流れに依存するようになる。これがグローバル化４・０の中核だ。しかし一方で、デジタル化は問題も伴っている。格差を拡大しているだけでなく、いまや人間ではなくアルゴリズムが、われわれが（ネットで）見るものと読むものを決めている。現状の課題への対応に成功するか、失敗するかが、次世代の生活の質を左右することになる。

民主社会は不快な真実を受け入れなくてはならない。ディープフェイクの脅威を克服するには、嘘と付き合う方法を学ぶ必要があるからだ。非常にリアルな出来栄えで、偽物を見破ることが難しいレベルにデジタル加工された音声や動画を意味する「ディープフェイク」の登場によって、自分が言ったことも、したこともないことを、そのようにみせかけることができる。改ざんされた音声や動画が、本物と見分けがつかずに、十分な説得力をもっていれば、そして、それが社会的・政治的にそして国際関係に悪用されればどうなるだろうか。十分な対策は存在しない。人々がプライベートなフィルターバブルに引きこもり、自分の考えに合うものだけを事実とみなす世界に転落しないようにしなければならない。民主社会はレジリエンス（打たれ強さと復元力）を身に付けるしかない状況へ向かっている。

各国にとっての政治・経済的選択肢は「民衆を抑圧し、貧困と停滞に甘んじるか」、それとも「民衆（の創造力）を解き放って経済的果実を手に入れるか」の二つに一つだと考えられてきた。だが、人工知能を利用すれば、権威主義国家は市民を豊かにする一方で、さらに厳格に市民を統制できるようになり、この二分法は突き崩される。人工知能を利用すれば、市場動向を細かに予測することで計画経済をこれまでになく洗練されたものにできる。一方で、すでに中国は、サーベイランスと機械学習ツールを利用した「社会信用システム」を導入して「デジタル権威主義国家」を構築し始めている。20世紀の多くが民主主義、ファシズム、共産主義の社会システム間の競争によって定義されたように、21世紀はリベラルな民主主義とデジタル権威主義間の抗争によってまさに規定されようとしている。