FOREIGN AFFAIRS JAPAN フォーリン・アフェアーズ・リポート-Published by FOREIGN AFFAIRS JAPAN.

ＡＩが突きつける危険、それが引き起こす壊滅的なダメージを防ぐための国際的ＡＩ規制の必要性を指摘する議論は多い。しかし同様に重要なのは、ＡＩの生産的な利用を促すポジティブな政策の導入だろう。ＡＩが経済に与える最大の影響は、人間の仕事のやり方を変化させることだ。仕事を構成するタスクの一部、全体の30％程度は、ＡＩによってオートメーション化されるが、職業そのものがなくなることはない。但し、能力の高いマシンと協力して仕事をこなすことになるために、新たなスキルが必要になる。現在ＡＩが世界に与える最大のリスクは、文明を破滅させることでも、雇用に大打撃を与えることでもない。それは、現在の経済格差を今後何世代にもわたって拡大するような形で開発され、使われる恐れがあることだ。これを回避する政策が必要になる。

この２年にわたって、ＡＩ革命の最前線にいるテクノロジーリーダーたちと問題を検証してきたわれわれ二人は、「ＡＩの無制限、無節操な進化はアメリカと世界に破滅的な結果をもたらす」という見通しには大きな説得力があり、「各国の指導者はいますぐ行動を起こさなければならない」という結論に達した。そうする上で、われわれは冷戦期の核管理の歴史から教訓を学ぶことができる。大国間戦争が80年近くもなかった国際秩序を形作るなかでわれわれが学んだ教訓は、いまＡＩと対峙する指導者にとって最良の指針となる。ＡＩのもっとも危険な発展と応用を防止するためのガイドラインを作成する機会を手にしている米中は、この機会を早い段階で生かす必要がある。

ＡＩシステムの恩恵が明らかになるにつれて、システムは巨大化し、機能は改善され、安価になり、あらゆるところに存在するようになる。しかし、自動車を運転するシステムは戦車も操縦できる。病気を診断するアプリケーションは、新たな病気を誕生させて兵器化できるかもしれない。世界の指導者たちはＡＩを規制する必要性を口にするが、依然として規制に向けた政治的意思が欠落しているようだ。ＡＩを最大限に制約すれば、生活を変えるようなプラス面を見送ることを意味するが、ＡＩを最大限に自由化すれば、破滅をもたらしかねないマイナス面のすべてを引き出す危険を伴う。これを回避するための、規制・統治レジームとは何か。

人が技術をどのように理解するか、つまり新しい発明の役割についてどのようなストーリーを描くかによって、その技術がどのような結果をもたらすかも左右される。新技術が人間の労働を補助するために使われるのか、それとも人間の労働に取って代わるのかによって、雇用や所得に与える影響は大きく違ってくる。おそらく現時点でもっとも重要なことは、技術の進歩によってもたらされる新たな経済的利益は、国や労働組合のような社会組織がハイテク企業の市場パワーへの対抗バランスを提供できる場合にのみ、広く共有されていくということだ。逆に言えば、人々が新しいテクノロジーの前で無力化するとすれば、そうなることを社会が認めた場合ということになる。

チャットＧＰＴなどの対話型ＡＩは、人間が書いた文章かＡＩによるものかが分からず、大量生産が可能なコンテンツを安価に生成する能力をもっているために。プロパガンダに悪用される恐れがある。実際、ＡＩ生成プロパガンダでオンライン空間を埋め尽くせば、疑念の種をまき、真実を見極めるのを難しくし、人々は自分の観察さえ信用できなくなる。社会と共有する現実への信頼を失う危険もある。「こうした言語モデルのアクセスを誰が管理するのか、誰を危険にさらすことになるのか、ＡＩに人間の会話を模倣させるのは望ましいのか」。政府、企業、市民社会そして市民は、こうしたモデルの設計や使用法、そしてそれがもたらす潜在的なリスクを管理する方法について、発言権をもつべきだ。

最先端の技術を持ちながら、なぜアメリカは中国に世界のソーラー産業覇者の座を奪われてしまったのか。理由は、研究開発やイノベーション、そして製品ブランディングなどの付加価値の大きい部門を重視する一方で、生産プロセスをアウトソースして軽視してきたからだ。一方、中国は、限界まで生産能力を高めることで、大量生産そのものがもたらす学習プロセスを技術イノベーションに組み込んで進化させた。このような「プロセス知識」と呼ばれるスキルが、中国を技術イノベーションの中枢へ押し上げた。先鋭的な科学技術だけでなく、中国のように労働力を活用し、製品をより良く、効率的に製造することをアメリカは学ぶべきだ。製造プロセスは、発明や研究開発というスリリングな領域のサイドショーではない。それは、技術進化に不可欠の要素なのだ。

イノベーション・パワーとは、新技術を発明し、採用し、適応させる能力のことで、国家のハードパワー、ソフトパワーの双方に貢献する。大国間競争の結果を左右するのも、「より迅速かつ適切に技術革新を実現する能力」に他ならない。現状では、アメリカがイノベーション・パワーをリードしているが、多くの分野で中国が追い上げてきており、すでに先行している分野もある。ワシントンは、イノベーションを促す条件を整え、技術革新の好循環を作り出すために必要とされるツールと人材に投資しなければならない。「イノベーションか、さもなければ死か」。シリコンバレーでよく使われるこのフレーズは、ビジネスだけでなく、地政学についても当てはまる。

重要なのは、ＡＩの優位性をめぐる技術競争において米中のどちらが勝つかではなく、民主国家と独裁国家が社会を統治するために依存するそれぞれのフィードバックループをＡＩがどのように変化させるかだ。機械学習が広く浸透すれば、民主政治は必然的に蝕まれ、独裁政治が強化されると考えられている。たしかに、民主国家では政治的分断がさらに深刻になるかもしれない。しかし、投票と世論(vote and voice)という強力なフィードバック・システムによって問題をある程度は軽減できる。一方、機械学習は独裁国家も混乱させ、手遅れになるまで社会の根本的な亀裂を覆い隠してしまうかもしれない。これまでの一般認識とは逆に、ＡＩは、独裁体制による、現実の理解を妨げ、イデオロギーと幻想を強化することで、最終的に独裁政権を大きく揺るがすかもしれない。

ＡＩは、いまや防衛技術における進化のすべての中枢に位置し、戦力の配備や戦闘方法にまで影響を与えている。ロシアとウクライナはともにアルゴリズムを使ってソーシャルメディアと戦場から入ってくる膨大なデータを分析し、自国の攻撃にこれらの情報を生かしている。一方、ペンタゴンはＡＩと自律型兵器システムを含む新技術の重要性を説きつつも、軍事領域での応用ペースは緩慢だ。こうしたアメリカのＡＩ軍事技術開発の遅れは、もっともパワフルな地政学的ライバルである中国の動きとは対照的だ。ＡＩ技術を軍事戦略、計画立案、システムに統合することに向けて中国はより積極的な動きをみせ、台湾をめぐる未来の紛争の戦闘スキームにもＡＩを組み込んでいる。アメリカは現状に満足するのではなく、その軍事力を未来に向けて適応させ、再編していく必要がある。・・・

アメリカのサイバー戦略の大半は、攻撃の原因を取り除くのではなく、その余波を管理することに重点を置き、攻撃からの防衛そして抑止を試みてきた。だが結局のところ、サイバー攻撃は「地政学的緊張の結果」であり、その根底にある相手国との問題を解決しない限り、その現象は抑え込めない。貿易戦争の手を緩めることを条件にすれば、北京は知的財産のサイバー窃盗を抑えることに同意するかもしれない。同様に、ロシアの不正なサイバー活動を阻止したければ、ロシアの内政問題と地域問題にアメリカが介入するのではないかという、モスクワの懸念を緩和しなければならない。問うべきは、アメリカと同盟国に、サイバー空間の問題を他の地政学的課題よりも優先して対処する意思があるかどうかだ。