2021-09-27

自律型兵器の特徴は知能ではなく自由であること/『無人の兵団 AI、ロボット、自律型兵器と未来の戦争』ポール・シャーレ


『デジタル・ゴールド ビットコイン、その知られざる物語』ナサニエル・ポッパー
『次のテクノロジーで世界はどう変わるのか』山本康正
『ビッグデータの正体 情報の産業革命が世界のすべてを変える』ビクター・マイヤー=ショーンベルガー、ケネス・クキエ
『データの見えざる手 ウエアラブルセンサが明かす人間・組織・社会の法則』矢野和男
『パーソナルデータの衝撃 一生を丸裸にされる「情報経済」が始まった』城田真琴
『マインド・ハッキング あなたの感情を支配し行動を操るソーシャルメディア』クリストファー・ワイリー

 ・自動化(オートマチック)、手順自動化(オートメーション)、自律(オートノミー)
 ・自律型兵器の特徴は知能ではなく自由であること

・『自衛隊最高幹部が語る令和の国防』岩田清文、武居智久、尾上定正、兼原信克
『データ資本主義 ビッグデータがもたらす新しい経済』ビクター・マイヤー=ショーンベルガー、トーマス・ランジ
『アフターデジタル オフラインのない時代に生き残る』藤井保文、尾原和啓
『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』キャシー・オニール

 合意を基本とする調整は、分権の手法で、スウォーム・エレメント(小編隊)すべてが、互いに同時に通信し、行動の進路を共同で決める。これは“投票”もしくは“オークション”アルゴリズムで、行動を調整することで実行できる。つまり、スウォーム・エレメントはすべて、フライの捕球を“入札”したり“競売”したりすることができる。最高値をつけたものが“落札”して捕球し、あとのものは邪魔にならないように離れる。
 突発的調整は、もっとも分権が進んだ手法で、鳥の群れ、昆虫のコロニー、人間の暴徒の動きのように、周囲の個々の意思決定から、調整された行動が自然発生する。個々の行動の単純な法則から、きわめて複雑な共同行動が引き起こされ、スウォームは“集団的知性”を発揮する。たとえばアリのコロニーは、しばらくすると、個々のアリの単純な行動によって、食べ物を巣に運ぶ最適ルートに集まる。食べ物を運ぶアリは、巣に戻るときにフェロモンの足跡を残す。もっと濃いフェロモンが残っている既存の通り道にぶつかると、そのルートに切り替える。より早いルートでアリがどんどん巣に引き返すうちに、フェロモンの足跡が濃くなり、多くのアリはそこを通るようになる。アリはいずれも最速のルートがどれかを知っているわけではないが、アリのコロニーは集団として最速のルートに集まる。
 スウォーム(群飛)のエレメント間の通信は、外野手が“おれが捕る”と叫ぶのとおなじような直接の信号でも行なわれる。魚や動物の群れがいっしょにいる共同観察のような間接的手段もある。アリがフェロモンを残して通り道の印にするのは、“スティグマジー”と呼ばれるプロセスのたぐいで、環境に残された情報に反応して行動する。

【『無人の兵団 AI、ロボット、自律型兵器と未来の戦争』ポール・シャーレ:伏見威蕃〈ふしみ・いわん〉訳(早川書房、2019年)以下同】

 読書中に必読書にしたのだがその後、教科書本にとどめた。現在多忙につき、体力を整えてから再読する予定である。序盤はいいんだけどね。

 swarmの意味は「群れ、うじゃうじゃした群れ、大群、群衆、大勢、たくさん」(Weblio英和辞書)など。「スウォーム・エレメント」とはドローン兵器を指す言葉で、ドローンの小編隊同士を戦わせる実験が既に行われているという。そこで繰り広げられるのは「戦闘の自律化」である。スウォームの指揮統制モデルは以下の通りである。


 期せずして政治システムを表しているのが興味深い。直接民主制、議会制民主主義、談合、国際関係(安全保障・貿易体制)を思わせる。

 自律といえばアパッチ族の分権システムが知られる(『ヒトデはクモよりなぜ強い 21世紀はリーダーなき組織が勝つ』オリ・ブラフマン、ロッド・A・ベックストローム)。自律を支えるのは内発性だ。中央集権のハードパワー体制はリーダーが斃(たお)れれば組織が崩壊する。ヴェトナム戦争でアメリカはヴェとコンのゲリラ戦に敗れた。戦後長きにわたって一人戦争を続けた小野田寛郎もまた内発性ゆえに戦い得たのだ。

 自律には永続性がある。つまりロボットが自律性を獲得すれば「壊れるまで戦い続ける」ことが可能になる。電力供給や自動修復機能、更にはソフトウェアの自動更新が埋め込まれれば、AI兵器は永遠に戦い続けることだろう。精度の高い顔認証システムが完成すれば、ドローンから逃れることは不可能となる。テロリスト対策として開発され、やがては政敵を葬るために使われるはずだ。

 これらの例は、自律型兵器についてのよくある誤解――知能(インテリジェンス)〔認知・推論・学習能力〕を備えれば兵器は“自律”するという浅はかな考え――を浮き彫りにしている。システムの知能が高いことと、それが実行するタスクが自律的であることは、次元が違うのだ。自律型兵器の特徴は知能ではなく、自由であることだ。知能は自律を変えることなく、いくらでも兵器に付け加えられる。自律型兵器と半自律型兵器に使用されるターゲット識別アルゴリズムは、これまではしごく単純なものだった。このため、完全自律型兵器の有用性には制約があった。兵器の知能があまり高くない場合、軍は兵器に大幅な自由を委ねるのをためらう傾向があるからだ。しかし、機械の知能が進歩するにつれて、自律目標決定(ターゲティング)は幅広い状況で技術的に可能になった。

「!」――頭の中で電球が灯(とも)った。大人には大人の、子供には子供の、病人には病人の、障碍者には障碍者の「自律」があるのだ。「自律型兵器」を「自律型組織」に置き換えて私は読んだ。

 AIの自律性はヒューリスティクスソマティック・マーカーをも実装し、失敗とフィードバックを繰り返しながら機械学習をしてゆくに違いない。その行く末を思えば「感情なき人間」の姿が浮かんでくる。ヒトの感情は元々集団の中で生存率を高めるためのアルゴリズムだったのだろう。歴史を生み、文化を育み、国家を形成したのは民族的感情に拠(よ)るところが大きい。

 機械やコンピュータは機能で構成されている。ビッグデータは感情や理由は無視する。膨大なデータから関連性・相関性を探るだけだ。それでも因果関係に迫ることができるのだ。

 では人類の未来は薔薇色に輝いているのだろうか? 違うね。『すばらしい新世界』(オルダス・ハクスリー)みたいな完全管理の碌(ろく)でもない世界が、サーバーの地平から現実世界へ押し寄せるに決まってらあ。

2021-09-24

サバ缶炊き込みご飯


佐藤栄作と三島由紀夫/『絢爛たる醜聞 岸信介伝』工藤美代子


『三島由紀夫が死んだ日 あの日、何が終り 何が始まったのか』中条省平

 ・佐藤栄作と三島由紀夫
 ・「革新官僚」とは
 ・真相が今尚不明な柳条湖事件

 弟の栄作はどうだったのか。
 三島由紀夫が自決した昭和45(1970)年11月25日、首相を務めていた佐藤栄作はその死に際して、「気が狂ったとしか思えない」と短いコメントを残したとされる。
 だが、佐藤夫妻はかねてより三島の母・平岡倭文重(しずえ)を通じて三島本人とも昵懇(じっこん)だった。(中略)
 佐藤寛子の回想(※『佐藤寛子の宰相夫人秘録』)などを勘案すれば、佐藤栄作は、現役の総理として胸中とは違う無理に形式ばった発言をした可能性が考えられる。
 むしろ、岸の方が三島に対しては自分の理解を超えた不合理を感じていたのではないか。
 晩年、インタビューに答える次のような回答は彼の現実主義を見事に言い表している。

「三島由紀夫はね、いわゆる神がかりの考え方ですよ。ああなってくると、われわれの思想を超越している。政治家の世界では、真・善・美のうち美を追求する世界ではないと思う。政治家は善を追求し実現するけれども、美を追求し真理を探求するという世界ではない」
(『岸信介証言録』)

【『絢爛たる醜聞 岸信介伝』工藤美代子〈くどう・みよこ〉(幻冬舎文庫、2014年/幻冬舎、2012年『絢爛たる悪運 岸信介伝』改題)】

 これは佐藤の肩を持ちすぎだろう。咄嗟に「形式ばった」言葉が出てくることは考えにくい。私はむしろ本音を吐露したのだと思う。三島由紀夫の自決は、米軍に守られながら戦後をぬくぬくと経済一辺倒で行きてきた日本人の本音を引き出した。半世紀先をゆく行為であったと思われてならない。もしも2020年であれば「楯の会」は巨大民兵組織となっていたことだろう。三島の炯眼(けいがん)はあまりにも先を見通していた。自らの信念を時代に打ち込むためには、あのような形しか選択し得なかった。


 岸の発言は彼が理想に生きる人物ではなかったことを物語っている。その現実主義ゆえに日米安保の改正を成し得たのだろう。自らも一度は凶刃に倒れている人物にしては軽い発言だと思う。