A I 兵器―――異次元の危険領域 ⑦

続き：

◆戦争の様相を変えるAI兵器

　AI兵器の問題は、人の殺傷だけではない。AIの別の使い方も注目すべき課題だ。それは、AIの判断により行われるサイバー攻撃、特に、政治的評判の失墜や社会的混乱を意図した非軍事の情報宣伝工作のためのサイバー攻撃をもAIが行なうケース。

　2016年のアメリカの大統領選挙で、ヒラリー・クリントンが勝利するとの大方の予想を覆し、不動産王ドナルド・トランプが当選した。この選挙結果の一因になったと広く人々から理解されているのが、ロシアによるサイバー攻撃だ。ヒラリー候補の評判をおとしめるフェイクニュース、つまり、偽の情報がフェイスブックなどインターネット上に大量に流布された。この事件にはロシア情報機関が深く関与しているとアメリカの捜査当局は見ている。ロシア情報機関の誰かが考え出したのと同じことを、ディープラーニングを行なったAIもできうるのではないか。

　ある国家の指導者が、AIに、最も効率的に敵対する国家を転覆させる作戦プランの作成と実行を指示したとしよう。AIは、4000年に上る歴史上の様々な事例をディープラーニングし、勿論、2016年のアメリカ大統領選の情報も学習する。AIは、自国の軍事力が相手の国より劣勢で、単純に戦争に訴えたのでは敗北すると判断し、別の手段を考える。たとえば、SNSを通じてフェイクニュースを大量に流布してその国の国民を動揺させ、指導者の信頼と影響力を失わせ、結果、自国の優位に事が進み、その国家への影響力を拡大することに成功する。

　戦わずして勝利する孫氏の兵法にもつながるやり方がATを通じて行なわれるかもしれない。人の血が流れる戦争という行為が回避できるなら好ましい手段かもしれないが、勝利する国家の指導者がさらにその後多くの人を虐殺する独裁者でない保証はどこにもない。

　最後に話を戦場の世界に戻そう。近未来の戦場は、人間の代わりにロボット兵器同士が戦うSF映画のような単純な世界ではおそらくない。そこには、人間の兵士と、AIを搭載したロボット兵器が混然一体となり、AIによる作戦指揮システムに支えられて戦うという、より複雑なものになるのではないか。あるいは、AIによって実行される軍事・非軍事のサイバー攻撃が相手の脆弱性をつくりだし、そこを突いて物理的な攻撃を行なうといった戦い方も出現することになるだろう。

　また、最先端のAI兵器を「持つ者」と「持たざる者」が争う非対称な戦争では、持つ者が持たざる者を圧倒し、一方的にせん滅してしまう残酷な戦いとなるかもしれない。その時そこに、巻き添えになった子供たちの屍が横たわっていても、良心の呵責に苦しむことのないロボットがうごめいているだけかもしれない。

　20C.核兵器という無差別殺戮の巨人を生み出した人類はいま、人間のコントロールを超えるAI兵器の出現という未知の危険領域に踏み出しているのかもしれない。「緩やかな規制」の下で、互いに国際人道法を遵守する紳士の振る舞いをしつつも、その陰では、「研究」の名のもとに、ルール違反の技術開発が着々と進んでいくようなことはないだろうか。

　その結果、私たちが将来直面するのが、国家間の争いだけでなく、人類に反旗を翻したAI/ロボット兵器と人間が争う世界でないことを祈りたい。私たちはホーキング博士に「あなたの懸念は杞憂でした」と報告することができるだろうか。