« A I 兵器―――異次元の危険領域 ④ | トップページ | A I 兵器―――異次元の危険領域 ⑥ »

2019年12月14日 (土)

A I 兵器―――異次元の危険領域 ⑤

続き:

 

◆アメリカ軍も反対?

  LAWSに対する様々な懸念は、AI兵器の開発で世界のトップランナーであるアメリカ自身も抱えている。

 2012年、アメリカ国防総省は、自律型または半自律型兵器システムに関する指令書「300・09」を公布した。この中で、「武力を使用するかどうかは、適切なレベルで人間が判断できるよう兵器システムを設計する」とし、完全自律型の導入に慎重な姿勢を鮮明にした。少なくとも2012年の時点でアメリカは、完全自律型の場合、ミスか誤作動によって意図せぬ交戦につながりかねないと受け止めていた。

 たしかに、軍事作戦の現場を預かる指揮官の立場に立てば、予測不能で必ずしも信頼のおけないAIの兵器システムの積極活用は、かえって作戦の妨げになると考えるのだろう。AI兵器を導入することは、司令部の方針に逆らって身勝手な行動ばかりの配下部隊に重要任務を託すようなものかもしれない。

 他方、現場の部隊に配備するかどうかの決断はさておき、最先端の軍事技術を他国に先駆けて開発し保有しておくことがアメリカの国防政策の確固たる方針だ。軍事技術の戦略的サプライズの防止と創造を任務とする「DARPA=国防高等研究計画局」や、陸海空軍がそれぞれ抱える研究所で、AIの活用を含む様々な最先端兵器の研究が行われているのもまた事実だ。

 

◆条約で禁止できるか――難航する規制の議論

 完全自律型のAI兵器の規制をめぐる最重要課題は、「兵器が出現する前に規制の網をかける」ことにある。これまで人類が生み出してきた非人道性がより高いとされる兵器の多くは、対人地雷にせよ生物・化学兵器にせよ、そして何より核兵器がそうだが、実際に使用されて悲惨な結果を招いた後で禁止や規制の条約が作られてきた。

  AI兵器の場合、その技術的進歩のあまりの速さと兵器開発の実態の不透明さゆえ、「完全自律型」が登場してしまってからでは手遅れになるという認識は国際的に広く共有されているといえよう。

 ではいま、国際社会はAI兵器をどのように規制しようとしているのか。

 議論されているのは、対人地雷などを禁止してきた「CCW=特定通常兵器使用禁止制限条約」による規制。ジュネーブにある国連ヨーロッパ本部を舞台に、CCWに加盟する120余りの国々による議論が5年ほど前から続いてきた。この枠組みの重要な点は、米・ロ・中などのAI兵器開発国が名を連ねていることにある。ただ、規制の議論は国際人権団体が期待する通りには進んでいない。

 兵器開発国と、途上国を中心とする反対国の主張が噛み合わず、規制対象となる「自律型兵器」の定義すら合意できずに何年もの歳月が流れてきた。結論が出ない間にAI兵器の技術はどんどん進歩し、完全自律型のAI兵器が完成してしまうのではないか、もはや条約による禁止は難しいのではないか、そうした悲観論が、ジュネーブの交渉関係者の間から聞こえてきていた。

 その悲観論の通り、ジュネーブでは、条約で一律に禁止するというやり方ではなく、より緩やかな規制の方向で議論が進んできた。

 因みに日本は、LAWSを「開発しない」としつつ、「人間の関与が確保された自律型の兵器システムは安全保障上意義がある」という立場だ。

 「緩やかな規制」とは、各国が文民保護などを定めた国際人道法の順守を再確認した上で、それぞれの国が独自のルールを設け、例えばその情報を公開する仕組みをつくることで一定の歯止めにしよう、ということのようである。実際、ジュネーブでの議論が続いていた2019年2月、アメリカ国防総省は初めての「AI戦略」を発表した。AIの軍事利用を加速させることを宣言する一方で、AI兵器はあくまで人間のコントロール下に置き、国際法や倫理に反しない形でAIを活用する方針を内外に示したのだ。

 そして2019/08/20 と 08/21 、CCW加盟各国がLAWSの規制を話し合う「政府専門家会合」の場で、この議論の節目ともいえる合意に達した。LAWSの規制に関する報告書が採択されたのだ。

 報告書は、▼すべての兵器システムは国際人道法が適用されること。▼AI兵器の使用には人間が責任を負うこと、などが盛り込まれた。AI兵器を規制する初めての国際ルールの指針が合意された形だ。

 しかし、このルールは法的拘束力がなく、玉虫色の決着をした感じは否めない。いわばそれは努力目標でしかなく、加盟国の中には、ルールを自国の都合のよいように解釈する国が現れるのではないか、攻撃の判断から人間を排除するシステムになっていないことをどのように検証するかなど疑問が残る。今後もCCWの枠組みで指針についての検討は続くというが、将来への懸念をどう払拭するか大きな課題だ。

 

 

 

« A I 兵器―――異次元の危険領域 ④ | トップページ | A I 兵器―――異次元の危険領域 ⑥ »

日記・コラム・つぶやき」カテゴリの記事