自律型兵器の特徴は知能ではなく自由であること／『無人の兵団 AI、ロボット、自律型兵器と未来の戦争』ポール・シャーレ

・『デジタル・ゴールド　ビットコイン、その知られざる物語』ナサニエル・ポッパー
・『次のテクノロジーで世界はどう変わるのか』山本康正
・『ビッグデータの正体　情報の産業革命が世界のすべてを変える』ビクター・マイヤー＝ショーンベルガー、ケネス・クキエ
・『データの見えざる手　ウエアラブルセンサが明かす人間・組織・社会の法則』矢野和男
・『パーソナルデータの衝撃　一生を丸裸にされる「情報経済」が始まった』城田真琴
・『マインド・ハッキング　あなたの感情を支配し行動を操るソーシャルメディア』クリストファー・ワイリー

　・自動化（オートマチック）、手順自動化（オートメーション）、自律（オートノミー）
　・自律型兵器の特徴は知能ではなく自由であること

・『自衛隊最高幹部が語る令和の国防』岩田清文、武居智久、尾上定正、兼原信克
・『データ資本主義　ビッグデータがもたらす新しい経済』ビクター・マイヤー＝ショーンベルガー、トーマス・ランジ
・『アフターデジタル　オフラインのない時代に生き残る』藤井保文、尾原和啓
・『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』キャシー・オニール

　合意を基本とする調整は、分権の手法で、スウォーム・エレメント（小編隊）すべてが、互いに同時に通信し、行動の進路を共同で決める。これは“投票”もしくは“オークション”アルゴリズムで、行動を調整することで実行できる。つまり、スウォーム・エレメントはすべて、フライの捕球を“入札”したり“競売”したりすることができる。最高値をつけたものが“落札”して捕球し、あとのものは邪魔にならないように離れる。
　突発的調整は、もっとも分権が進んだ手法で、鳥の群れ、昆虫のコロニー、人間の暴徒の動きのように、周囲の個々の意思決定から、調整された行動が自然発生する。個々の行動の単純な法則から、きわめて複雑な共同行動が引き起こされ、スウォームは“集団的知性”を発揮する。たとえばアリのコロニーは、しばらくすると、個々のアリの単純な行動によって、食べ物を巣に運ぶ最適ルートに集まる。食べ物を運ぶアリは、巣に戻るときにフェロモンの足跡を残す。もっと濃いフェロモンが残っている既存の通り道にぶつかると、そのルートに切り替える。より早いルートでアリがどんどん巣に引き返すうちに、フェロモンの足跡が濃くなり、多くのアリはそこを通るようになる。アリはいずれも最速のルートがどれかを知っているわけではないが、アリのコロニーは集団として最速のルートに集まる。
　スウォーム（群飛）のエレメント間の通信は、外野手が“おれが捕る”と叫ぶのとおなじような直接の信号でも行なわれる。魚や動物の群れがいっしょにいる共同観察のような間接的手段もある。アリがフェロモンを残して通り道の印にするのは、“スティグマジー”と呼ばれるプロセスのたぐいで、環境に残された情報に反応して行動する。

【『無人の兵団　AI、ロボット、自律型兵器と未来の戦争』ポール・シャーレ：伏見威蕃〈ふしみ・いわん〉訳（早川書房、2019年）以下同】

　読書中に必読書にしたのだがその後、教科書本にとどめた。現在多忙につき、体力を整えてから再読する予定である。序盤はいいんだけどね。

　swarmの意味は「群れ、うじゃうじゃした群れ、大群、群衆、大勢、たくさん」（Weblio英和辞書）など。「スウォーム・エレメント」とはドローン兵器を指す言葉で、ドローンの小編隊同士を戦わせる実験が既に行われているという。そこで繰り広げられるのは「戦闘の自律化」である。スウォームの指揮統制モデルは以下の通りである。

　期せずして政治システムを表しているのが興味深い。直接民主制、議会制民主主義、談合、国際関係（安全保障・貿易体制）を思わせる。

　自律といえばアパッチ族の分権システムが知られる（『ヒトデはクモよりなぜ強い　21世紀はリーダーなき組織が勝つ』オリ・ブラフマン、ロッド・A・ベックストローム）。自律を支えるのは内発性だ。中央集権のハードパワー体制はリーダーが斃（たお）れれば組織が崩壊する。ヴェトナム戦争でアメリカはヴェとコンのゲリラ戦に敗れた。戦後長きにわたって一人戦争を続けた小野田寛郎もまた内発性ゆえに戦い得たのだ。

　自律には永続性がある。つまりロボットが自律性を獲得すれば「壊れるまで戦い続ける」ことが可能になる。電力供給や自動修復機能、更にはソフトウェアの自動更新が埋め込まれれば、AI兵器は永遠に戦い続けることだろう。精度の高い顔認証システムが完成すれば、ドローンから逃れることは不可能となる。テロリスト対策として開発され、やがては政敵を葬るために使われるはずだ。

　これらの例は、自律型兵器についてのよくある誤解――知能（インテリジェンス）〔認知・推論・学習能力〕を備えれば兵器は“自律”するという浅はかな考え――を浮き彫りにしている。システムの知能が高いことと、それが実行するタスクが自律的であることは、次元が違うのだ。自律型兵器の特徴は知能ではなく、自由であることだ。知能は自律を変えることなく、いくらでも兵器に付け加えられる。自律型兵器と半自律型兵器に使用されるターゲット識別アルゴリズムは、これまではしごく単純なものだった。このため、完全自律型兵器の有用性には制約があった。兵器の知能があまり高くない場合、軍は兵器に大幅な自由を委ねるのをためらう傾向があるからだ。しかし、機械の知能が進歩するにつれて、自律目標決定（ターゲティング）は幅広い状況で技術的に可能になった。

「！」――頭の中で電球が灯（とも）った。大人には大人の、子供には子供の、病人には病人の、障碍者には障碍者の「自律」があるのだ。「自律型兵器」を「自律型組織」に置き換えて私は読んだ。

　AIの自律性はヒューリスティクスやソマティック・マーカーをも実装し、失敗とフィードバックを繰り返しながら機械学習をしてゆくに違いない。その行く末を思えば「感情なき人間」の姿が浮かんでくる。ヒトの感情は元々集団の中で生存率を高めるためのアルゴリズムだったのだろう。歴史を生み、文化を育み、国家を形成したのは民族的感情に拠（よ）るところが大きい。

　機械やコンピュータは機能で構成されている。ビッグデータは感情や理由は無視する。膨大なデータから関連性・相関性を探るだけだ。それでも因果関係に迫ることができるのだ。

　では人類の未来は薔薇色に輝いているのだろうか？　違うね。『すばらしい新世界』（オルダス・ハクスリー）みたいな完全管理の碌（ろく）でもない世界が、サーバーの地平から現実世界へ押し寄せるに決まってらあ。