Zapp2Photo / Shutterstock.com
2019.8.22 Thu
人工知能への備えはできているか
―― うまく利用できるか、支配されるか
ＡＩは文明の救世主であるとともに、世界の破壊者でもある。実イノベーションの進化ペースをどの程度「警戒」し、（機械のメカニズムに関する）説明の「正確さ」をどこまで求め、（個人データを利用することによる）パフォーマンス強化と「プライバシー」のバランスをどこに求めるか。社会がこれらのバランスをどうみなすかで、人間がＡＩとどのような関係を築いていくかが左右される。（クキエル）
ＡＩは大きな恩恵とともに大きなリスクも生み出す。最大のリスクは、ＡＩ軍事システムを最初に開発した国が、ライバル国に対して圧倒的な優位を手に入れられるために、いい加減なテストだけで、システムを一刻も早く導入せざるを得ないと考えるかもしれないことだ。ＡＩシステムの導入を競い合うのではなく、その安全性の検証と研究に多国間で投資すべきだ。そうしない限り、「誰も勝者になれない世界」が創り出されることになる。（シャーリ）
人工知能を組み込んだ自律的軍隊を構築するのが望ましいだけでなく、それが技術的に可能になっている。時代遅れの一つのプログラムに投資されている金額で、数十の自律的システムを導入できるし、これによって、より高度な能力を手に入れられる。目的は、もちろん、戦争を挑発するためではなく、それを抑止することにある。問題は、新軍事技術革命を生かしたシステム移行に想像力と決意をもたらせるかどうかだ。（ブローズ）
人工知能への備えはできているか
―― うまく利用できるか、支配されるか
2019年8月号 ケネス・クキエル エコノミスト誌 シニアエディター
ＡＩは良くもあり、悪くもある。賢いが、鈍い部分もある。文明の救世主であるとともに、世界の破壊者でもある。実際、どのようにして決断を導き出しているか分からないし、それを人間が解明することもできない。特に、汎用人工知能（ＡＧＩ）については、「独自に進化し、人間が管理できなくなるのではないか」と懸念され、特定型ＡＩについても「デザイナー（である人間）がその意図を完全に伝えられず、壊滅的な結果が引き起こされるのではないか」と心配されている。一方で、ＡＧＩのことを心配するのは、火星が人口過剰になることを心配するようなもので、先ず、（ＡＧＩに関して）想定されていることが実現する必要があると主張する専門家もいる。イノベーションの進化ペースをどの程度「警戒」し、（機械のメカニズムに関する）説明の「正確さ」をどこまで求め、（個人データを利用することによる）パフォーマンス強化と「プライバシー」のバランスをどこに求めるか。社会がこれらのバランスをどうみなすかで、人間がＡＩとどのような関係を築いていくかが左右される。
人工知能の恩恵とリスク
―― 誰も勝者になれない世界を回避するには
2019年6月号 ポール・シャーリ 新アメリカ安全保障センター シニアフェロー（技術と国家安全保障プログラム）
19世紀の産業革命は世界に大きな経済成長だけでなく、戦車、機関銃、毒ガス兵器をもたらした。人工知能（ＡＩ）はこれらに匹敵する変化を誘発することになる。ＡＩは医療から交通に至るまでのあらゆる分野で大きな恩恵とともに大きなリスクも生み出す。最大のリスクは、ＡＩ軍事システムを最初に開発した国が、ライバル国に対して圧倒的な優位を手に入れられるために、いい加減なテストだけで、システムを一刻も早く導入せざるを得ないと考えるかもしれないことだ。こうして非常に深刻な問題が作りだされる。ＡＩシステムの導入を競い合うのではなく、その安全性の検証と研究に多国間で投資すべきだ。そうしない限り、「誰も勝者になれない世界」が創り出されることになる。
ＡＩと未来の戦争
―― アメリカが軍事的に衰退する理由
2019年6月号 クリスチャン・ブローズ カーネギー国際平和財団 シニアフェロー（国防戦略）
人工知能を組み込んだ自律的軍隊を構築するのが望ましいだけでなく、それが技術的に可能になっている。米軍は、低コストの自律型航空機から無人潜水艦までの、将来の戦力整備を目的とする数多くの開発プログラムをもっている。目的はさまざまなプラットフォームを導入することではなく、よりスピーディに「キルチェーン」を実現することにある。現状で、時代遅れの一つのプログラムに投資されている金額で、数十の自律的システムを導入できるし、これによって、より高度な能力を手に入れられる。目的は、もちろん、戦争を挑発するためではなく、それを抑止することにある。アメリカは、このタイプの軍隊を組み立てる資金、人的資源、テクノロジーを兼ね備えている。問題は、新軍事技術革命を生かしたシステム移行に想像力と決意をもたらせるかどうかだ。
