進化する A I 兵器 ②

続き：

◆技術規制議論深まらず

　では技術的観点から、規制はどこまで可能なのか。

　「ロボット戦争は現実的だ」。2007年に英国の著名ロボット研究者ノエル・シャーキー博士がこう危険性を訴えて以来、国際社会は新たな脅威への認識を徐々に深めてきた。国連は非人道的兵器を扱う「特定通常兵器使用禁止制限条約（CCW）」の枠組みで2014年から議論を続け、攻撃プロセスに人間の判断が介在しないAI兵器を「自律型致死兵器システム（LAWS）」と呼び、実用化前の先制規制を目指してきた。

　2019年8月の政府専門家会合で、攻撃判断に人間が関与し責任を負うことを柱とする指針にようやく合意したものの、肝心のLAWSの定義さえ明確に決まっていないのが現状だ。「ヒューマン・アウト・オブ・ザ・ループ」と呼ばれる、意思決定の輪に人間が全くいない完全自律型兵器への拒否感は各国の軍関係者も共有している。

　だが、事前のプログラミング、標的の捕捉、敵味方の識別、攻撃命令など「どこまで人間の関与が必要か」となると意見は一致しない。

　技術面からの規制も検討されてきたが、これまでの報告書は「技術の急速な進化を考えると、技術的特性だけではLAWSを特徴づけるのに十分ではない」と慎重な姿勢だ。特に、現在の第三次AIブームを象徴するディープラーニング（深層学習）などによるAIの「自己進化」については、「さらに研究する必要がある」として判断を避けてきた。

　ディープラーニングはAIが大量のデータから反復的学習し、そこに潜むパターンを見つけて応用することで自ら性能を高める技術だ。2016年に米IT大手グーグル傘下のイギリス企業ディープマインドが開発した囲碁ソフトが、韓国のトップ棋士に勝利したことで注目を集めた。

　軍事面では、画像や音声などのパターンから「敵」の識別精度を向上することができる。敵の立場からは脅威だが、攻撃が本当に正確になるとすれば、誤爆による市民の犠牲が減少し、「むしろ倫理的だ」とみる意見もある。

　また、過度な技術規制によって民生用のAI開発が妨げられることへの警戒も根強く、アルゴリズムなど技術的な線引きの議論は深まっていないのだ。

　では技術的観点から、AI兵器はいつ、どこまでのレベルに達するのか。

　一つ目の目安になるのは、米国防総省が2018年8月に公表した最新版の報告書「無人システム統合ロードマップ2017－2042」だ。ここでは四半世紀先までの技術発展の見通しと課題を示している。AIの改良については、短期目標で「民間部門との関係を強化し、有望な解決策を調達する」とされ、「高度な自律性」は長期目標に位置付けられている。高度な自律性とは、戦場のように何が起こるか分からない複雑な状況で、自ら学習して臨機応変に意思決定できるレベルのこと。現状は誤作動やハッキングなど、安全性や信頼性に難があると分析し、ディープラーニングなどでの改良に期待を示している。集団での自律性を左右する「群制御」も、実用化は長期的な目標となっている。

　四半世紀先と言えば、AIが人間の知性を超える「シンギュラリティー（技術的特異点）」を迎えると目されている頃だ。それなら脅威は当分先のことだ、と安心するのは早計だろう。米映画「ターミネーター」のような殺人機械が暴れ回るイメージと異なり、報告書が示す未来図は、標的の捕捉、識別、追跡、脅威の優先順位付け、攻撃後の評価などの大半を実行する「相棒やチームメート」として機能するシステム。

　つまり、人間と機械は補完し合って軍事目的を達成することが期待されている。機械が人間並みの知性を備えていない段階でも軍事能力は飛躍的に向上し、サイバー攻撃など現代戦の担い手にもなり得る。

　米国有数のAI研究者として知られる米カリフォルニア大学バークレー校のスチュワート・ラッセル教授は2019年7月、毎日新聞で私たちの企画の取材にこう答えた。「LAWSに必要な全ての技術は現存する。開発、実戦配備までに2年で十分だ」「LAWSを作るのは自動運転の車を作るよりも簡単だ。なぜなら自動運転車はミスが許されないのに対し、戦場で少なからずミスを犯す生身の兵士と比較するならLAWSは精度60％あれば許容されると言えるからだ」。

　実効性のある規制の議論が停滞して、技術が先行する今、完全自律型兵器は着実に実現化しつつある。

　また、国連でのLAWS規制は重要だが、完全自律型以外のAI兵器も人類の脅威となり得ることを強調したい。新たな軍拡競争の中心となるのはこうした兵器だ。前線で自軍の兵士が死傷しなければ、為政者は戦争を起こすことを躊躇しなくなっていく。

　テロや国内弾圧にも使われる。――市民の犠牲は増えることになる。そんな技術の担い手として、民間の科学者・技術者が狙われている。