AIの進化が目覚ましい。人類は技術革新のたび、恩恵を享受するとともに、弊害との付き合い方にも悩まされてきた。AIによる自動化は、実に多くのものに波及するといわれている。戦争の在り方も、そのひとつだ。

　1991年公開のSF作品『ターミネーター2』の正式な続編として、日本では今秋に公開される『ターミネーター6』に期待を寄せている人は少なくないだろう。映画『ターミネーター』では、自律型兵器と人工知能システム「スカイネット」の脅威が描かれる。

　AIの進化の先に、この作品のようなディストピアが待っている可能性はあるのだろうか。人工知能は人を殺し得るのだろうか。

『AI兵器と未来社会 キラーロボットの正体（朝日新書）』（栗原聡/朝日新聞出版）は、自律型致死兵器システムを「キラーロボット」と呼ぶ。キラーロボットの研究開発については、国際的にそれを禁止するための条約制定に関する会議が開催されるほど世界的に危険視こそされているが、一部の国で研究開発が進んでいる。本書によると、その国々はイスラエル、ロシア、中国、アメリカ、フランス、韓国の6カ国だが、7番目以降の国がひそかに存在している可能性にも言及している。

　さて、本書はキラーロボットを、科学技術のレベルに準じて、タイプAからEに分類し、そのスペックと脅威について論じている。

タイプA：半自動型兵器

攻撃対象は人が設定し、トリガーも人が引くものの、その途中経過の多くが自動化された兵器。アメリカの海洋発射巡航ミサイル「トマホーク」など。

タイプB：自動型兵器

トリガーを人ではなく人工知能に引かせるタイプの兵器。例えば、イスラエルが開発した「ハーピー」と呼ばれる無人攻撃機が該当する。ハーピーは、攻撃対象と、その攻撃対象近辺のエリア情報は人が入力する必要があるが、発射してしまえば、地上からの遠隔操作は不要で対象空域を旋回して標的を自動で見つけ、追突して自爆する。

タイプC：集団自動型兵器

連携機能が付加された、集団で作戦を実行するタイプB型のこと。本書は、中国の国有企業である中国電子科技集団がすでに映像を披露したドローン群がそれに当たるのでは、と見ている。そのドローンは119機あり、鳥の群れのように集結したり分散したりしながら飛行し、攻撃目標に到達すると、2つの編隊となって取り囲んだという。本書は、実戦投入が近いと読んでいる。

タイプD：自律型兵器

自律型人工知能を搭載した自律型致死兵器。「ターミネーター」シリーズに登場する、アーノルド・シュワルツェネッガー扮するT-800型アンドロイドなど。まだ存在していない。

タイプE：集団自律型兵器

「ターミネーター」シリーズに登場する人工知能システム「スカイネット」など。

　この中で、開発を禁止しようと議論がなされているものは、タイプB以降の兵器、つまりトリガーを人ではなく人工知能に引かせるタイプの兵器である。さらに、最も危険視されているのは、タイプCの集団自動型兵器だ。個々の人工知能の動作はしっかりと作り込まれていても、それらが群れることで、群れ全体としての挙動は想定外の現象が発生する可能性を、本書は指摘している。

　タイプB、Cとも「自律型」というよりは「自動型」といえる。SF映画に登場するようなイメージのAI兵器に怯える未来がやってくるとしたら、それはまだ先の話のようだ。しかし、本書は同時に警鐘も鳴らしている。人工知能の開発はゼロから始めるのではなく集合知的にできてしまうため、天才的なプログラミング能力をもつ人材が出現すれば、一気に開発が進んでしまう可能性が高い。

　本書は、倫理観にはじまる「人間力」を人類全体が高めることこそ、今の時代に必要だと述べている。

文＝ルートつつみ