言語が情報交換を可能にし物語を創作した／『人類の歴史とAIの未来』バイロン・リース

　・言語が情報交換を可能にし物語を創作した

・『サピエンス全史　文明の構造と人類の幸福』ユヴァル・ノア・ハラリ

　もっと強大な技術である言語は、私たちが情報を交換することを可能にした。言語を使えば学んだことを要約し、人から人へと効率よく広めることができる。（中略）さらに、言語は人間が持つ特殊能力の1つともいえる協力を可能にした。言語を持たないヒトが1ダース集まってもマンモス1頭には太刀打ちできないが、言語を使って協力し合えれば彼らはほぼ無敵だ。
　私たちの大きな脳が言語をもたらし、言語を用いて思考することで脳がより大きくなる、という好循環が生まれた。言語を使わなければできない種類の思考があるからだ。言葉とはつまるところ考えを表す記号であり、私たちは話すという技術がなければどうやればよいかも見当もつかない形で考えを組み合わせたり変化させたりできる。
　言語のもう1つの贈り物は、物語だ。物語とは私たちが進歩するために最初に必要だった想像力に形を与えるものであり、人間に最も重要なものだ。今日ある物語歌（バラッド）、詩、はたまたヒップホップの原型といわれる詠唱（チャント）は、話すことを覚えた私たちの祖先が最初に創作したものであろう。そのままでは覚えられないような物語も韻を踏むと覚えやすくなるのはなぜか？　1ページ分の散文よりも歌の歌詞のほうが覚えやすいのと同じ理由だ。私たちの脳がそのように作られているからこそ、「イーリアス」と「オデュッセイア」は、文字が発明されるずっと前から長きにわたり口伝で受け継がれていた。

【『人類の歴史とAIの未来』バイロン・リース：古谷美央〈ふるたに・みお〉訳（ディスカヴァー・トゥエンティワン、2019年）】

　個人的に「1つ」という書き方が大嫌いである。本文も翻訳も微妙によくない。

　マンモスの件（くだり）は明らかに間違っている。狩猟から派生したのがスポーツであるが、スポーツの試合において言語が発揮する力は極めて少ない。言語が有効なのは作戦においてである。

「人間に最も重要なものだ」との訳文も工夫が足りない。

　本書は数多い『サピエンス全史』派生本と考えていい。

オペレーションズ・リサーチの破壊力／『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』キャシー・オニール

・『ビッグデータの正体　情報の産業革命が世界のすべてを変える』ビクター・マイヤー＝ショーンベルガー、ケネス・クキエ
・『データの見えざる手　ウエアラブルセンサが明かす人間・組織・社会の法則』矢野和男
・『パーソナルデータの衝撃　一生を丸裸にされる「情報経済」が始まった』城田真琴
・『マインド・ハッキング　あなたの感情を支配し行動を操るソーシャルメディア』クリストファー・ワイリー
・『無人の兵団　AI、ロボット、自律型兵器と未来の戦争』ポール・シャーレ
・『データ資本主義　ビッグデータがもたらす新しい経済』ビクター・マイヤー＝ショーンベルガー、トーマス・ランジ
・『アフターデジタル　オフラインのない時代に生き残る』藤井保文、尾原和啓

　・アルゴリズムという名の数学破壊兵器
　・有害で悪質な数学破壊兵器のフィードバックループ
　・オペレーションズ・リサーチの破壊力

・『AI監獄ウイグル』ジェフリー・ケイジ
・『快感回路　なぜ気持ちいいのかなぜやめられないのか』デイヴィッド・J・リンデン
・『もっと！　愛と創造、支配と進歩をもたらすドーパミンの最新脳科学』ダニエル・Z・リーバーマン、マイケル・E・ロング
・『新しい資本主義　希望の大国・日本の可能性』原丈人

・情報とアルゴリズム
・必読書リスト　その三

　営利大学のリクルーターも、怪しげな薬を売るいかさま師も、まずは相手の無知を確認する。そのうえで、つけ入りやすい弱みをもつ人を特定し、彼らのプライベート情報をうまく利用していくのだ。具体的には、相手にとって今一番の苦しみの元である「痛点」がどこにあるのかを探り出す。それは、自尊心の低さかもしれないし、暴力集団が対立を深める地域で子供を育てるストレスかもしれないし、ひょっとすると薬物中毒かもしれない。たいていの人は、グーグル検索で調べものをするときなどに、気づかないうちに自分の痛点を露呈させている。

【『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』キャシー・オニール：久保尚子〈くぼ・なおこ〉訳（インターシフト、2018年／原書、2016年）以下同】

「痛点」とは弱点である。その弱味に付け込んで期待させ、依存させ、契約させ、購買させる。古い広告は一方的なメッセージで本質的にはチラシの延長線上にある。テレビCMは声と動きのあるチラシに過ぎない。これからは違う。パソコンやスマホを通じてあなたの購買履歴、興味、関心、検索キーワード、どこにアクセスし、何分滞在していたか、といった情報をAIが読み解いて、あなたに最も適切な広告が表示される。行動ターゲティングという手法である。スマホの登場によって現実の行動も履歴化される。どの店で何を買ったか、だけではない。ゆくゆくはどの棚の前に長くいたかまでを掌握される。便利と言えば聞こえはいいが、解放された欲望がどんな社会を生み出すのかが明らかではない。

　チビ・デブ・ハゲは痛点である。昔の漫画誌の裏表紙にはシークレットブーツの広告が躍っていた。底上げシューズだ。かつらメーカーはハゲ頭に群がる（『無資本主義商品論　金満大国の貧しきココロ』小田嶋隆）。デブは永遠の搾取対象である。昨今はBMI（ボディマス指数）というデタラメな指数が健康の根拠に格上げされたため、「より美しくより健康に」との二重奏をかなでるようになった。ま、脅し文句の強化だ。

　ブランド品、高級腕時計もわかりやすい。そもそも若者には不釣り合いだ。あるいは大排気量のクルマやバイクなど。これほど信号機が多く、渋滞まみれの日本でこれらのエンジン特性を発揮することは難しい。広告は欲望を刺戟し、切実なレベルにまで引き上げる。周りの人々が所持していれば自分も欲しくなってくる。社会的な動物である人間は欲望をも共有する。

　大半のスケジューリングテクノロジーのルーツは、実用性がきわめて高い、「オペレーションズ・リサーチ（OR）」と呼ばれる応用数学の領域にある。数学者らは、数世紀前からORの基礎を活用してきた。農家のために作物の植え付け計画を作成し、人や貨物の効率的な輸送を実現できる幹線道路地図を作成して土木技師を支えてきた。しかし、この学問領域が本領を発揮するようになったのは、第2次世界大戦が始まってからのことだった。米軍と英軍は、資源の使用を最適化するために、数学者チームを編成した。同盟国はさまざまな形で「交換比率」の記録をつけていた。味方の資源の投入量に対して、敵の資源をどれだけ破壊できたのか、その比率を計算したのだ。1945年3月～8月に実施された米軍の飢餓作戦では、食糧その他の物資が日本に無事に到着するのを妨げるために、第21爆撃集団が日本の商船を破壊する任務を負って飛び立った。この時、ORチームは日本の商船を沈めるのに要する1隻あたりの機雷敷設用航空機の数を最小限に抑えるために働いた。その結果、「交換比率」は40対1を上回った――日本の商船606隻を沈めるために失った航空機の数はわずか15機であった。これはかなり高い効率であり、その一端はORチームの功績だった。
　第2次世界大戦後、大手企業は（米国防総省も）膨大な資源をORに注いだ。ロジスティクスの科学は、商品の製造方法も市場への流通方法も一変させた。
　1960年代に入ると、日本の自動車会社がさらなる大きな飛躍を生んだ。「ジャスト・イン・タイム（かんばん方式）」と呼ばれる生産システムを考案したのだ。ハンドル部分や変速機の在庫を大量に抱え、巨大倉庫から取り出すのではなく、組み立て工場で必要に応じて部品を注文し、部品の待機時間なしで使用する。トヨタとホンダは複雑な供給（サプライ）チェーンを確立し、連絡すれば絶えず部品が届くような体制を整えた。業界全体が1つの生命体のようであり、独自のホメオスタシス（恒常性）制御システムを備えているようだった。

・大東亜戦争はアメリカのオペレーションズ・リサーチに敗れた／『藤原肇対談集　賢く生きる』藤原肇

　オペレーションズ・リサーチの破壊力は第二次世界大戦で最大限に発揮された。米軍は国際法を踏みにじって日本の非戦闘員を殺戮（さつりく）した。戦後、日本軍の残虐行為が国際社会で声高に主張されたのは自分たちの非道を隠蔽（いんぺい）するためだった。南京大虐殺というフィクションの犠牲者を30万人としたのも原爆犠牲者と釣り合いをとるためだった。

　オペレーションズ・リサーチこそはアルゴリズムの時代を告げる鐘の音（ね）であった。人類は争うことでそれを見出したのだ。

　合理化の風は止（や）むことなく加速し続ける。コンピュータとWebという約束の地に辿り着いたアルゴリズムは永遠の生命を手にしたも同然だ。フィンテックはマネーの意思を解き放ち、あらゆる決済・取引・交換が低コストで円滑に行われる。銀行や国会運営が過去の遺物となるのは時間の問題だ。一部のトップが行う意思決定はビッグデータに置き換えられる。

　それが薔薇色になるかどうかはわからない。便利になるのは確かだ。

有害で悪質な数学破壊兵器のフィードバックループ／『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』キャシー・オニール

・『ビッグデータの正体　情報の産業革命が世界のすべてを変える』ビクター・マイヤー＝ショーンベルガー、ケネス・クキエ
・『データの見えざる手　ウエアラブルセンサが明かす人間・組織・社会の法則』矢野和男
・『パーソナルデータの衝撃　一生を丸裸にされる「情報経済」が始まった』城田真琴
・『マインド・ハッキング　あなたの感情を支配し行動を操るソーシャルメディア』クリストファー・ワイリー
・『無人の兵団　AI、ロボット、自律型兵器と未来の戦争』ポール・シャーレ
・『データ資本主義　ビッグデータがもたらす新しい経済』ビクター・マイヤー＝ショーンベルガー、トーマス・ランジ
・『アフターデジタル　オフラインのない時代に生き残る』藤井保文、尾原和啓

　・アルゴリズムという名の数学破壊兵器
　・有害で悪質な数学破壊兵器のフィードバックループ
　・オペレーションズ・リサーチの破壊力

・『AI監獄ウイグル』ジェフリー・ケイジ
・『快感回路　なぜ気持ちいいのかなぜやめられないのか』デイヴィッド・J・リンデン
・『もっと！　愛と創造、支配と進歩をもたらすドーパミンの最新脳科学』ダニエル・Z・リーバーマン、マイケル・E・ロング
・『新しい資本主義　希望の大国・日本の可能性』原丈人

・情報とアルゴリズム
・必読書リスト　その三

　本書で論じる数学破壊兵器の多くは、ワシントンDC学区の付加価値モデルも含めて、フィードバックがないまま有害な分析を続けている。自分勝手に「事実」を規定し、その事実を利用して、自分の出した結果を正当化する。このようなたぐいのモデルは自己永続的であり、きわめて破壊的だ。そして、そのようなモデルが世間にはあふれている。

【『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』キャシー・オニール：久保尚子〈くぼ・なおこ〉訳（インターシフト、2018年／原書、2016年）以下同】

・フィードバックとは／『進化しすぎた脳　中高生と語る〔大脳生理学〕の最前線』池谷裕二

　作成者の意図によって作られたモデルがアルゴリズムとなって走る。ここにおいてAIが為すのは単なる「振り分け」である。しかもビッグデータが示すのは相関性であって因果関係ではない。「相関関係が因果関係を超える」（『ビッグデータの正体　情報の産業革命が世界のすべてを変える』ビクター・マイヤー＝ショーンベルガー、ケネス・クキエ）こともあるが、因果関係を滅茶苦茶にする場合も出てくる。なぜならビッグデータはある種の擬似相関であるからだ。大袈裟に言ってしまえば答えが決まっていない連想ゲームみたいな代物だ。

　現在、ビジネスから刑務所まで、社会経済のあらゆる局面の細かな管理が、設計に不備のある数理モデルによって遂行されている。それらの数学破壊兵器には、ワシントンの公立学校でサラ・ウィソッキーのキャリアを狂わせた付加価値モデルと同じ特徴が多く備わっている。中身が不透明で、一切の疑念を許さず、説明責任を負わない。規模を拡大して運用されており、何百万人もの人々を対象に、選別し、標的を絞り、「最適化」するために使用されている。算出された結果と地に足の着いた現実とを混同することによって、有害で悪質な数学破壊兵器のフィードバックループを生み出しているものも多い。

　こうなると「業」（カルマ）と言っていいだろう。アルゴリズムは文明が織り成す業（ごう）なのだ。身口意（しんくい）から離れた業はモデル設計者が神となって下す恩寵と罰となって人々を分断する。信用スコアリングは貧富の固定化に寄与し、より貧困な者に鞭を振るう。合理が生んだ不合理を人類は取り除くことが可能だろうか？　AIやビッグデータがインフラストラクチャー化すれば、もう後戻りはできまい。

　人々を苦しめる一番の要因は、有害な悪循環を生むフィードバックループにある。すでに見てきたように、生まれ育った環境に基づいて受刑者をプロファイリングする判決モデルでは、判決そのものが受刑者を追い詰め、判決を正当化するような結果を招いている。この破壊的ループは延々と繰り返され、その過程でモデルはますます不公平になっていく。

　透明性と異議申し立ての担保が不可欠なのは言うまでもないが、ビッグテックのような民間企業に対してどこまで規制できるのかが不明である。彼らは法整備よりも遥か彼方にまで進んでいる。また潤沢な資金でロビー活動も活発に行っている。政治はマネーに支配され、人間はアルゴリズムに従う時代の到来だ。

　要約すると、不透明であること、規模拡大が可能であること、有害であること――この3つが数学破壊兵器の三大要素である。

　私は原子爆弾、銀行の決済システム、そしてインターネットが、現代のラッダイト運動を不可能にしてしまったと考えている。これは民主政の根幹に関わる問題なのだ。例えば米騒動を起こすことは可能だろう。だが同様の目論見で銀行へ行ったところで銀行に現金はそれほどない。また、どれほどの国民が武装蜂起したとしても原爆にはかなわない。パソコン上の重要な情報はクラウドにアップロードされ、いつでも別の場所でダウンロードできる。つまり何かを破壊することで国家を転覆させることはもう不可能なのだ。

「そのために選挙というシステムがあるのではないか？」という声が聞こえてきそうだが、かつての民主党があっさりとマニフェストを放り投げて地に落としてからというもの、選挙公約に意味はなくなった。自民党の派閥は政策集団ではなく選挙互助会に堕している。国民もまた政策など気にもかけていない。会社の指示や、テレビで見た印象、マスコミの煽り方であっちへ入れたりこっちへ入れたりしているだけである。自分の政治信条に合致した政党を支持しているのは左翼だけだ。公明党は例外で教団益（税務調査回避）を目指している。

　我々は既にデバイスなしで生きてゆくことは難しい。スマホの次はウェアラブルな端末となり、やがては人体にデバイスが埋め込まれる。人類は進化を遂げてロボットになるのだ。

アルゴリズムという名の数学破壊兵器／『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』キャシー・オニール

・『デジタル・ゴールド　ビットコイン、その知られざる物語』ナサニエル・ポッパー
・『次のテクノロジーで世界はどう変わるのか』山本康正
・『ビッグデータの正体　情報の産業革命が世界のすべてを変える』ビクター・マイヤー＝ショーンベルガー、ケネス・クキエ
・『データの見えざる手　ウエアラブルセンサが明かす人間・組織・社会の法則』矢野和男
・『パーソナルデータの衝撃　一生を丸裸にされる「情報経済」が始まった』城田真琴
・『マインド・ハッキング　あなたの感情を支配し行動を操るソーシャルメディア』クリストファー・ワイリー
・『無人の兵団　AI、ロボット、自律型兵器と未来の戦争』ポール・シャーレ
・『データ資本主義　ビッグデータがもたらす新しい経済』ビクター・マイヤー＝ショーンベルガー、トーマス・ランジ
・『アフターデジタル　オフラインのない時代に生き残る』藤井保文、尾原和啓

　・アルゴリズムという名の数学破壊兵器
　・有害で悪質な数学破壊兵器のフィードバックループ
　・オペレーションズ・リサーチの破壊力

・『AI監獄ウイグル』ジェフリー・ケイジ
・『快感回路　なぜ気持ちいいのかなぜやめられないのか』デイヴィッド・J・リンデン
・『もっと！　愛と創造、支配と進歩をもたらすドーパミンの最新脳科学』ダニエル・Z・リーバーマン、マイケル・E・ロング
・『新しい資本主義　希望の大国・日本の可能性』原丈人

・情報とアルゴリズム
・必読書リスト　その三

　すべての負け犬たちに捧ぐ

【『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』キャシー・オニール：久保尚子〈くぼ・なおこ〉訳（インターシフト、2018年／原書、2016年）以下同】

　巻頭のエピグラフである。原題は『Weapons of Math Destruction : How Big Data Increases Inequality and Threatens Democracy：数学破壊兵器　ビッグデータがどのように不平等を拡大し、民主主義を脅かすか』。著者は数学者でハーバード大学で博士号を取得し、コロンビア大学の終身在職付き教授となる。その後、クオンツ（金融工学の専門家）に転身し大手ヘッジファンドで働く。リーマンショックを経て、「ウォール街を占拠せよ」運動にコミットした。

　かつて私を保護してくれた数学は、現実世界の問題と深く絡んでいるだけではなかった。数学が問題を大きくしてしまうことも多いという事実を、この経済崩壊はまざまざと見せつけてくれた。住宅危機、大手金融機関の倒産、失業率の上昇――いずれも、魔法の公式を巧みに操る数学者によって助長された。それだけではない。私が心から愛した数学は、壮大な力をもつがゆえに、テクノロジーと結びついてカオスや災難を何倍にも増幅させた。いまや誰もが欠陥があったと認めるようなシステムに、高い効率性と規模拡大性を与えたのも数学だった。
　なぜあの時、冷静な頭で考えられなかったのか。経済が崩壊した時点で一歩引き返し、なぜ数学が誤った使われ方をしたのか、将来起こりうる同様の大惨事を防ぐために何かやれることはないかと考えることもできただろう。しかし、経済危機の後も、私たちは立ち止まらなかった。これまで以上に人々を熱狂させる新たな数学的手法が次々に生み出され、その応用領域は今も拡大し続けている。

　サブプライムショックが2007年の7月25日である。私は日経先物で大損をしたのでよく憶えている。だが社会的に深刻の度合いが深かったのは翌年のリーマンショックである。あの時点で「資本主義が終わった」と指摘する書籍も多い。大半は隠れ左翼の願望であるが、長年に渡る金融緩和でもデフレを脱却できない現状を見ると、満更デタラメとも言い切れない。

　ロングターム・キャピタル・マネジメントが破綻（1999年）しても金融工学は死ななかった。ブラック–ショールズ方程式は現在でも有効とされている。続いてエンロンが倒産した（2001年）。ITバブル～住宅バブルに向かう中で現れた重要な指標であった。

　リーマンショック以降、緩和マネーが株式相場を押し上げ、新型コロナショックで緩和の蛇口は更に緩められた。

　でも、私には弱点が見えていた。数学のちからで動くアプリケーションがデータ経済を動かすといっても、そのアプリケーションは、人間の選択のうえに築き上げられている。そして、人間は過ちを犯す生き物だ。モデルを作成する際、作り手は、最善の意図を込め、良かれと思って選択を重ねたのかもしれない。それでもやはり、作り手の先入観、誤解、バイアス（偏見）はソフトウェアのコードに入り込むものだ。そうやって創られたソフトウェアシステムで、私たちの生活は管理されつつある。神々と同じで、こうした数理モデルは実体が見えにくい。どのような仕組みで動いているのかは、この分野の最高指導者に相当する人々――数学者やコンピューターサイエンティスト――にしかわからない。モデルのよって審判が下されれば、たとえそれが誤りであろうと有害であろうと、私たちは抵抗することも抗議することもできない。しかも、そのような審判には、貧しい者や社会で虐げられている者を罰し、豊かな者をより豊かにするような傾向がある。

　TEDでも「アルゴリズムとはプログラムに埋め込まれた意見なのです」と喝破している。

　アルゴリズムという名の数学破壊兵器が社会を分断し、富の偏重を加速させ（世界の最富裕層1％、富の82%独占　国際NGO）、貧困を固定化する。

　中盤からエピグラフに込めた思いが行間で谺（こだま）し始める。キャシー・オニールは数学者として「AI・ビッグデータの罠」を追求しながらも、ポリティカル・コレクトネスの罠に嵌（はま）っている。ポリティカル・コレクトネスは白人による人種差別を覆い隠すために編み出された概念だ（『人種戦争　レイス・ウォー　太平洋戦争もう一つの真実』ジェラルド・ホーン）。声高な主張は明らかな民主党支持の言葉となって幻滅させる。それでもAIやビッグデータを新時代の夢のように語る書籍が巷間（こうかん）に溢れている事実を思えば、耳を傾けるべき警鐘であろう。

　チャイナは共産党の一党独裁で管理社会を築き、自由の象徴であるアメリカはAI・ビッグデータで管理社会を実現しつつある。国家というアルゴリズムが目指すのは『一九八四年』（ジョージ・オーウェル）の世界なのだろうか？　完全に合理化された社会が現れれば、生きるに値しないと認定される人々が出てくることだろう。つい数十年前にドイツでは実際に行われた。

　しかもアルゴリズムやシステム、およびデータを格納するウェブ上の膨大なスペースは限りある資源だ。その対価を誰かが支払う必要がある。とても広告クリックで賄（まかな）えるような代物ではあるまい。犠牲になるのは中小零細企業と貧困者だ。アメリカでは犯罪の再犯予測や就職でAIが活用されている。この結果に異論を唱えたり抗議をすることは許されない。なぜならアルゴリズムの内容を誰も知らないためだ。もはやアルゴリズムは神と変わらない。ただ振り下ろされる鉄槌を御業（みわざ）と受け止めるしかないのだ。こうした状況に「待て！」と両手を広げて立ち塞がったのがキャシー・オニールその人である。

・行動嗜癖を誘発するSNS／『僕らはそれに抵抗できない　「依存症ビジネス」のつくられかた』アダム・オルター

自律型兵器の特徴は知能ではなく自由であること／『無人の兵団 AI、ロボット、自律型兵器と未来の戦争』ポール・シャーレ

・『デジタル・ゴールド　ビットコイン、その知られざる物語』ナサニエル・ポッパー
・『次のテクノロジーで世界はどう変わるのか』山本康正
・『ビッグデータの正体　情報の産業革命が世界のすべてを変える』ビクター・マイヤー＝ショーンベルガー、ケネス・クキエ
・『データの見えざる手　ウエアラブルセンサが明かす人間・組織・社会の法則』矢野和男
・『パーソナルデータの衝撃　一生を丸裸にされる「情報経済」が始まった』城田真琴
・『マインド・ハッキング　あなたの感情を支配し行動を操るソーシャルメディア』クリストファー・ワイリー

　・自動化（オートマチック）、手順自動化（オートメーション）、自律（オートノミー）
　・自律型兵器の特徴は知能ではなく自由であること

・『自衛隊最高幹部が語る令和の国防』岩田清文、武居智久、尾上定正、兼原信克
・『データ資本主義　ビッグデータがもたらす新しい経済』ビクター・マイヤー＝ショーンベルガー、トーマス・ランジ
・『アフターデジタル　オフラインのない時代に生き残る』藤井保文、尾原和啓
・『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』キャシー・オニール

　合意を基本とする調整は、分権の手法で、スウォーム・エレメント（小編隊）すべてが、互いに同時に通信し、行動の進路を共同で決める。これは“投票”もしくは“オークション”アルゴリズムで、行動を調整することで実行できる。つまり、スウォーム・エレメントはすべて、フライの捕球を“入札”したり“競売”したりすることができる。最高値をつけたものが“落札”して捕球し、あとのものは邪魔にならないように離れる。
　突発的調整は、もっとも分権が進んだ手法で、鳥の群れ、昆虫のコロニー、人間の暴徒の動きのように、周囲の個々の意思決定から、調整された行動が自然発生する。個々の行動の単純な法則から、きわめて複雑な共同行動が引き起こされ、スウォームは“集団的知性”を発揮する。たとえばアリのコロニーは、しばらくすると、個々のアリの単純な行動によって、食べ物を巣に運ぶ最適ルートに集まる。食べ物を運ぶアリは、巣に戻るときにフェロモンの足跡を残す。もっと濃いフェロモンが残っている既存の通り道にぶつかると、そのルートに切り替える。より早いルートでアリがどんどん巣に引き返すうちに、フェロモンの足跡が濃くなり、多くのアリはそこを通るようになる。アリはいずれも最速のルートがどれかを知っているわけではないが、アリのコロニーは集団として最速のルートに集まる。
　スウォーム（群飛）のエレメント間の通信は、外野手が“おれが捕る”と叫ぶのとおなじような直接の信号でも行なわれる。魚や動物の群れがいっしょにいる共同観察のような間接的手段もある。アリがフェロモンを残して通り道の印にするのは、“スティグマジー”と呼ばれるプロセスのたぐいで、環境に残された情報に反応して行動する。

【『無人の兵団　AI、ロボット、自律型兵器と未来の戦争』ポール・シャーレ：伏見威蕃〈ふしみ・いわん〉訳（早川書房、2019年）以下同】

　読書中に必読書にしたのだがその後、教科書本にとどめた。現在多忙につき、体力を整えてから再読する予定である。序盤はいいんだけどね。

　swarmの意味は「群れ、うじゃうじゃした群れ、大群、群衆、大勢、たくさん」（Weblio英和辞書）など。「スウォーム・エレメント」とはドローン兵器を指す言葉で、ドローンの小編隊同士を戦わせる実験が既に行われているという。そこで繰り広げられるのは「戦闘の自律化」である。スウォームの指揮統制モデルは以下の通りである。

　期せずして政治システムを表しているのが興味深い。直接民主制、議会制民主主義、談合、国際関係（安全保障・貿易体制）を思わせる。

　自律といえばアパッチ族の分権システムが知られる（『ヒトデはクモよりなぜ強い　21世紀はリーダーなき組織が勝つ』オリ・ブラフマン、ロッド・A・ベックストローム）。自律を支えるのは内発性だ。中央集権のハードパワー体制はリーダーが斃（たお）れれば組織が崩壊する。ヴェトナム戦争でアメリカはヴェとコンのゲリラ戦に敗れた。戦後長きにわたって一人戦争を続けた小野田寛郎もまた内発性ゆえに戦い得たのだ。

　自律には永続性がある。つまりロボットが自律性を獲得すれば「壊れるまで戦い続ける」ことが可能になる。電力供給や自動修復機能、更にはソフトウェアの自動更新が埋め込まれれば、AI兵器は永遠に戦い続けることだろう。精度の高い顔認証システムが完成すれば、ドローンから逃れることは不可能となる。テロリスト対策として開発され、やがては政敵を葬るために使われるはずだ。

　これらの例は、自律型兵器についてのよくある誤解――知能（インテリジェンス）〔認知・推論・学習能力〕を備えれば兵器は“自律”するという浅はかな考え――を浮き彫りにしている。システムの知能が高いことと、それが実行するタスクが自律的であることは、次元が違うのだ。自律型兵器の特徴は知能ではなく、自由であることだ。知能は自律を変えることなく、いくらでも兵器に付け加えられる。自律型兵器と半自律型兵器に使用されるターゲット識別アルゴリズムは、これまではしごく単純なものだった。このため、完全自律型兵器の有用性には制約があった。兵器の知能があまり高くない場合、軍は兵器に大幅な自由を委ねるのをためらう傾向があるからだ。しかし、機械の知能が進歩するにつれて、自律目標決定（ターゲティング）は幅広い状況で技術的に可能になった。

「！」――頭の中で電球が灯（とも）った。大人には大人の、子供には子供の、病人には病人の、障碍者には障碍者の「自律」があるのだ。「自律型兵器」を「自律型組織」に置き換えて私は読んだ。

　AIの自律性はヒューリスティクスやソマティック・マーカーをも実装し、失敗とフィードバックを繰り返しながら機械学習をしてゆくに違いない。その行く末を思えば「感情なき人間」の姿が浮かんでくる。ヒトの感情は元々集団の中で生存率を高めるためのアルゴリズムだったのだろう。歴史を生み、文化を育み、国家を形成したのは民族的感情に拠（よ）るところが大きい。

　機械やコンピュータは機能で構成されている。ビッグデータは感情や理由は無視する。膨大なデータから関連性・相関性を探るだけだ。それでも因果関係に迫ることができるのだ。

　では人類の未来は薔薇色に輝いているのだろうか？　違うね。『すばらしい新世界』（オルダス・ハクスリー）みたいな完全管理の碌（ろく）でもない世界が、サーバーの地平から現実世界へ押し寄せるに決まってらあ。

自動化（オートマチック）、手順自動化（オートメーション）、自律（オートノミー）

　・自動化（オートマチック）、手順自動化（オートメーション）、自律（オートノミー）
　・自律型兵器の特徴は知能ではなく自由であること

　機械の知能の変動範囲（スペクトル）をいい表すのに、“自動化”（オートマチック）、“手順自動化”（オートメーション）、“自律”（オートノミー）という言葉がよく使われる。
　自動システムは、“意思決定”の面ではあまり能力を示さない単純な機械だ。環境を感知し、行動するだけだ。感知と行動が、直線的にじかに結び付いている。人間ユーザーにとっては、予想しやすい。古い機械式サーモスタットは、自動システムの典型だ。ユーザーが望む温度に設定すると、温度がそれよりも高くなるか低くなったときに、サーモスタットは暖房やエアコンを作動させる。
　オートメーション・システムはもっと複雑で、行動を起こす前に複数の入力情報を検討し、実行可能な選択肢を比較考量する。それにもかかわらず、基本的には、機械内部の認識プロセスを人間ユーザーが追跡しやすい。現在のデジタル・プログラミングが可能なサーモスタットは、オートメーション・システムの典型だ。暖房やエアコンを、屋内の気温だけではなく日にちや時間に応じて作動させることができる。システムに入力された情報やプログラミングされたデータがわかっていれば、練度の高いユーザーはシステムの挙動（ビヘイヴィア）を予測できるはずだ。
“自律”はしばしば、システムが精巧で、内部の認識プロセスがユーザーに理解できないシステムに言及するときに使われる。システムがやることになっているタスクについては理解していても、そのタスクをシステムがどう行なうかを理解しているとは限らない。研究者はしばしば自律システムは“目標重視”であるという。つまり、人間ユーザーは目標を指定するが、自律システムは目標を達成するやり方については柔軟なのだ。
　その一例が自動運転車だ。ユーザーは目的地や、事故を避けるといったその他の目標を具体的に示すが、自動運転車がやらなければならない行動をすべて示すことは不可能だ。道路状況や障害物があるかどうかを、ユーザーは知らない。信号がいつ変わるか、他の車や歩行者がなにをするかということは、予測できない。したがって、目標を達成するために、いつ停止し、発信し、車線を変えるかを決める柔軟性を備えるように、プログラミングされている。
　現実には、自動、オートメーション、自律の境界線は、いまなおはっきりしない。“自律”はまだ創られていない未来のシステムを指すことも多いが、実現したらそれも“オートメーション”システムと呼ばれるかもしれない。これはAIを取り巻く流れとよく似ている。いまの機械にはできないようなタスクをひっくるめて、AIと見なされることが多い。機械がタスクを克服すると、それは単なる“ソフトウェア”になる。
　自律は、システムが自由意志を発揮したり、プログラミングに従わなかったりすることではない。自律は、オートマチック・システムが感知から行動へと単純に直線的に結び付いているのとはことなり、いかなる状況でも最善の行動を編み出せるように、幅広い変化を考慮する。制御できない環境に置かれた自律システムには、目標重視の姿勢が不可欠なのだ。

【『無人の兵団　AI、ロボット、自律型兵器と未来の戦争』ポール・シャーレ：伏見威蕃〈ふしみ・いわん〉訳（早川書房、2019年）】