2021-10-29

オペレーションズ・リサーチの破壊力/『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』キャシー・オニール


『ビッグデータの正体 情報の産業革命が世界のすべてを変える』ビクター・マイヤー=ショーンベルガー、ケネス・クキエ
『データの見えざる手 ウエアラブルセンサが明かす人間・組織・社会の法則』矢野和男
『パーソナルデータの衝撃 一生を丸裸にされる「情報経済」が始まった』城田真琴
『マインド・ハッキング あなたの感情を支配し行動を操るソーシャルメディア』クリストファー・ワイリー
『無人の兵団 AI、ロボット、自律型兵器と未来の戦争』ポール・シャーレ
『データ資本主義 ビッグデータがもたらす新しい経済』ビクター・マイヤー=ショーンベルガー、トーマス・ランジ
『アフターデジタル オフラインのない時代に生き残る』藤井保文、尾原和啓

 ・アルゴリズムという名の数学破壊兵器
 ・有害で悪質な数学破壊兵器のフィードバックループ
 ・オペレーションズ・リサーチの破壊力

『AI監獄ウイグル』ジェフリー・ケイジ
『快感回路 なぜ気持ちいいのかなぜやめられないのか』デイヴィッド・J・リンデン
『もっと! 愛と創造、支配と進歩をもたらすドーパミンの最新脳科学』ダニエル・Z・リーバーマン、マイケル・E・ロング
『新しい資本主義 希望の大国・日本の可能性』原丈人

情報とアルゴリズム
必読書リスト その三

 営利大学のリクルーターも、怪しげな薬を売るいかさま師も、まずは相手の無知を確認する。そのうえで、つけ入りやすい弱みをもつ人を特定し、彼らのプライベート情報をうまく利用していくのだ。具体的には、相手にとって今一番の苦しみの元である「痛点」がどこにあるのかを探り出す。それは、自尊心の低さかもしれないし、暴力集団が対立を深める地域で子供を育てるストレスかもしれないし、ひょっとすると薬物中毒かもしれない。たいていの人は、グーグル検索で調べものをするときなどに、気づかないうちに自分の痛点を露呈させている。

【『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』キャシー・オニール:久保尚子〈くぼ・なおこ〉訳(インターシフト、2018年/原書、2016年)以下同】

「痛点」とは弱点である。その弱味に付け込んで期待させ、依存させ、契約させ、購買させる。古い広告は一方的なメッセージで本質的にはチラシの延長線上にある。テレビCMは声と動きのあるチラシに過ぎない。これからは違う。パソコンやスマホを通じてあなたの購買履歴、興味、関心、検索キーワード、どこにアクセスし、何分滞在していたか、といった情報をAIが読み解いて、あなたに最も適切な広告が表示される。行動ターゲティングという手法である。スマホの登場によって現実の行動も履歴化される。どの店で何を買ったか、だけではない。ゆくゆくはどの棚の前に長くいたかまでを掌握される。便利と言えば聞こえはいいが、解放された欲望がどんな社会を生み出すのかが明らかではない。

 チビ・デブ・ハゲは痛点である。昔の漫画誌の裏表紙にはシークレットブーツの広告が躍っていた。底上げシューズだ。かつらメーカーはハゲ頭に群がる(『無資本主義商品論 金満大国の貧しきココロ』小田嶋隆)。デブは永遠の搾取対象である。昨今はBMI(ボディマス指数)というデタラメな指数が健康の根拠に格上げされたため、「より美しくより健康に」との二重奏をかなでるようになった。ま、脅し文句の強化だ。

 ブランド品、高級腕時計もわかりやすい。そもそも若者には不釣り合いだ。あるいは大排気量のクルマやバイクなど。これほど信号機が多く、渋滞まみれの日本でこれらのエンジン特性を発揮することは難しい。広告は欲望を刺戟し、切実なレベルにまで引き上げる。周りの人々が所持していれば自分も欲しくなってくる。社会的な動物である人間は欲望をも共有する。

 大半のスケジューリングテクノロジーのルーツは、実用性がきわめて高い、「オペレーションズ・リサーチ(OR)」と呼ばれる応用数学の領域にある。数学者らは、数世紀前からORの基礎を活用してきた。農家のために作物の植え付け計画を作成し、人や貨物の効率的な輸送を実現できる幹線道路地図を作成して土木技師を支えてきた。しかし、この学問領域が本領を発揮するようになったのは、第2次世界大戦が始まってからのことだった。米軍と英軍は、資源の使用を最適化するために、数学者チームを編成した。同盟国はさまざまな形で「交換比率」の記録をつけていた。味方の資源の投入量に対して、敵の資源をどれだけ破壊できたのか、その比率を計算したのだ。1945年3月~8月に実施された米軍の飢餓作戦では、食糧その他の物資が日本に無事に到着するのを妨げるために、第21爆撃集団が日本の商船を破壊する任務を負って飛び立った。この時、ORチームは日本の商船を沈めるのに要する1隻あたりの機雷敷設用航空機の数を最小限に抑えるために働いた。その結果、「交換比率」は40対1を上回った――日本の商船606隻を沈めるために失った航空機の数はわずか15機であった。これはかなり高い効率であり、その一端はORチームの功績だった。
 第2次世界大戦後、大手企業は(米国防総省も)膨大な資源をORに注いだ。ロジスティクスの科学は、商品の製造方法も市場への流通方法も一変させた。
 1960年代に入ると、日本の自動車会社がさらなる大きな飛躍を生んだ。「ジャスト・イン・タイム(かんばん方式)」と呼ばれる生産システムを考案したのだ。ハンドル部分や変速機の在庫を大量に抱え、巨大倉庫から取り出すのではなく、組み立て工場で必要に応じて部品を注文し、部品の待機時間なしで使用する。トヨタとホンダは複雑な供給(サプライ)チェーンを確立し、連絡すれば絶えず部品が届くような体制を整えた。業界全体が1つの生命体のようであり、独自のホメオスタシス(恒常性)制御システムを備えているようだった。

大東亜戦争はアメリカのオペレーションズ・リサーチに敗れた/『藤原肇対談集 賢く生きる』藤原肇

 オペレーションズ・リサーチの破壊力は第二次世界大戦で最大限に発揮された。米軍は国際法を踏みにじって日本の非戦闘員を殺戮(さつりく)した。戦後、日本軍の残虐行為が国際社会で声高に主張されたのは自分たちの非道を隠蔽(いんぺい)するためだった。南京大虐殺というフィクションの犠牲者を30万人としたのも原爆犠牲者と釣り合いをとるためだった。

 オペレーションズ・リサーチこそはアルゴリズムの時代を告げる鐘の音(ね)であった。人類は争うことでそれを見出したのだ。

 合理化の風は止(や)むことなく加速し続ける。コンピュータとWebという約束の地に辿り着いたアルゴリズムは永遠の生命を手にしたも同然だ。フィンテックはマネーの意思を解き放ち、あらゆる決済・取引・交換が低コストで円滑に行われる。銀行や国会運営が過去の遺物となるのは時間の問題だ。一部のトップが行う意思決定はビッグデータに置き換えられる。

 それが薔薇色になるかどうかはわからない。便利になるのは確かだ。

岡田英弘、島田和幸、渡部悦和、佐々木孝博


 3冊挫折。

誰も知らなかった皇帝たちの中国』岡田英弘(WAC BUNKO、2006年)/70ページあたりで挫ける。今読む必要はなさそう。再読するかも。

一生切れない、詰まらない「強い血管」をつくる本 内皮細胞が活性化する食習慣で』島田和幸(永岡書店、2011年)/今まで読んだ中では最低の血管本である。その辺の医者が言うところと変わりがない。玉石混淆という言葉があるが石以下だ。永岡書店の見識を疑う。

現代戦争論 超「超限戦」 これが21世紀の戦いだ』渡部悦和〈わたなべ・よしかず〉佐々木孝博〈ささき・たかひろ〉(ワニブックスPLUS新書、2020年)/400ページ超のボリューム。文章が硬く、長大なレポートという印象。読み物としてはかなり苦しい。

2021-10-28

大東亜戦争はアメリカのオペレーションズ・リサーチに敗れた/『藤原肇対談集 賢く生きる』藤原肇


『脱ニッポン型思考のすすめ』小室直樹、藤原肇

 ・大東亜戦争はアメリカのオペレーションズ・リサーチに敗れた

『ジャパン・レボリューション 「日本再生」への処方箋』正慶孝、藤原肇

藤原●日本人は太平洋戦争の敗因を米国の物量作戦だと考えがちです。だが、アメリカが英国から導入して完成させたオペレーションズ・リサーチによって、日本流その場しのぎの大福帳のやり方が破綻させられて、徹底的に打ち負かされた事実をいまだに気づいていない。
 要するに、数理発想に基づく計算されたリスク管理によって、太平洋戦争は頭脳戦で日本が完敗したということです。

【『藤原肇対談集 賢く生きる』藤原肇〈ふじわら・はじめ〉(清流出版、2006年)以下同】

「オペレーションは作戦、リサーチは検証、という意味です。互いに干渉しあう複数の作戦が最適な方法で、効率的に実行可能かどうか、リサーチ、つまり検証する、そういう目的で使われ始めた科学でした。様々な環境、次々に変化する状況において、 数学や統計学を用いた数理的なモデルに落とし込み、分析することで最適なアプローチを導きます」(オペレーションズ・リサーチとは? | ‐株式会社 構造計画研究所‐ オペレーションズ・リサーチ部)。

「オペレーションズリサーチ(OR)は、意思決定にかかわる科学的なアプローチと言われている。ある組織の運用問題に対して、さまざまな方法を用いて分析し、適切な解決法を見つけることである。そのため、しばしば経営学とも言われる。分析方法としては、数理モデル、統計的な手法、アルゴリズムなどがある」(オペレーションズリサーチ(OR):Operations Research:研究開発:日立)。

 マーケティング分野では「ランチェスター戦略」(ランチェスターの法則)と呼ばれる。それではと手始めに『まんが新ランチェスター戦略 1 新ランチェスター戦略とは』(矢野新一、まんが:佐藤けんいち、ワコー、1995年)を開いたが、敢えなく挫折した。

 本書で初めてオペレーションズ・リサーチという言葉を知った。日本の近代史及び大東亜戦争に関してはそこそこ読んできたつもりであったが、ORを敗因と指摘したのは藤原肇が嚆矢(こうし)ではあるまいか。藤原は石油コンサルタントで石油開発会社をアメリカで経営してきた人物である。彼にとってORは常識であったのだろう。石油精製には様々なプロセスがあり、不安定な国情や戦争、あるいは経済・金融など複合的なリスクが伴う。ORを欠けば金鉱を掘り当てるような博奕(ばくち)と化す。莫大な初期投資を可能にするのは精確なリスク・マネジメントである。

藤原●日本人はハード志向だから飛行機や軍艦を量として数え、主として戦闘の問題に全力を傾けてしまうから、システムとしての戦争を見忘れがちになる。

 これまた重要な指摘で、大東亜戦争では兵站(へいたん/ロジスティクス)を無視して南進したことが多くの餓死者を生んでしまった。日本には伝統的に輜重(しちょう)を軽んじる文化がある。どこか国土の感覚が関東平野の域を超えていないようなところがある。水が豊富なことも危機意識を鈍らせていることだろう。

 特に目に見えるものの増減に一喜一憂して、目に見えないものの変化に注目しないから、システム発想をしないという欠陥に支配されてしまうのです。
 そういった民族的な欠陥への反省を含めて、動態変化の重要性とサイバネティックスを結びつけ、それを資本と情報の流れとしてフローチャートにして、決算の機構を体系化したのが会計工学だと思います。

 システム思考ができない現実は今も変わらない。藩閥を打開したと思いきや、今度は陸軍と海軍が仲違いをし、戦局の正確な情報が首相にまで上がってこなくなっていた。東条英機首相はミッドウェー海戦の敗北を知らされていなかった。張作霖爆殺事件(1928年/昭和3年)で田中義一首相は天皇陛下に嘘をつき満州事変(1931年/昭和6年)では侍従武官長と若槻礼次郎首相が事実を伏せた(兼原信克)。昭和天皇は関東軍の暴走を「下剋上」と断じて厳罰に処さなかったことを悔やまれた(繰り返し戦争を回顧 後悔語る|昭和天皇「拝謁記」 戦争への悔恨|NHK NEWS WEB)。

 日本人の行動様式(エトス)が戦前も戦後も変わらないことを指摘したのが小室直樹の初著『危機の構造 日本社会崩壊のモデル』(ダイヤモンド現代選書、1976年)であった。藤原肇と小室直樹の対談は自然な流れであった(『脱ニッポン型思考のすすめ』ダイヤモンド社、1982年)。



オペレーションズ・リサーチの破壊力/『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』キャシー・オニール

2021-10-26

有害で悪質な数学破壊兵器のフィードバックループ/『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』キャシー・オニール


『ビッグデータの正体 情報の産業革命が世界のすべてを変える』ビクター・マイヤー=ショーンベルガー、ケネス・クキエ
『データの見えざる手 ウエアラブルセンサが明かす人間・組織・社会の法則』矢野和男
『パーソナルデータの衝撃 一生を丸裸にされる「情報経済」が始まった』城田真琴
『マインド・ハッキング あなたの感情を支配し行動を操るソーシャルメディア』クリストファー・ワイリー
『無人の兵団 AI、ロボット、自律型兵器と未来の戦争』ポール・シャーレ
『データ資本主義 ビッグデータがもたらす新しい経済』ビクター・マイヤー=ショーンベルガー、トーマス・ランジ
『アフターデジタル オフラインのない時代に生き残る』藤井保文、尾原和啓

 ・アルゴリズムという名の数学破壊兵器
 ・有害で悪質な数学破壊兵器のフィードバックループ
 ・オペレーションズ・リサーチの破壊力

『AI監獄ウイグル』ジェフリー・ケイジ
『快感回路 なぜ気持ちいいのかなぜやめられないのか』デイヴィッド・J・リンデン
『もっと! 愛と創造、支配と進歩をもたらすドーパミンの最新脳科学』ダニエル・Z・リーバーマン、マイケル・E・ロング
『新しい資本主義 希望の大国・日本の可能性』原丈人

情報とアルゴリズム
必読書リスト その三

 本書で論じる数学破壊兵器の多くは、ワシントンDC学区の付加価値モデルも含めて、フィードバックがないまま有害な分析を続けている。自分勝手に「事実」を規定し、その事実を利用して、自分の出した結果を正当化する。このようなたぐいのモデルは自己永続的であり、きわめて破壊的だ。そして、そのようなモデルが世間にはあふれている。

【『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』キャシー・オニール:久保尚子〈くぼ・なおこ〉訳(インターシフト、2018年/原書、2016年)以下同】

フィードバックとは/『進化しすぎた脳 中高生と語る〔大脳生理学〕の最前線』池谷裕二

 作成者の意図によって作られたモデルがアルゴリズムとなって走る。ここにおいてAIが為すのは単なる「振り分け」である。しかもビッグデータが示すのは相関性であって因果関係ではない。「相関関係が因果関係を超える」(『ビッグデータの正体 情報の産業革命が世界のすべてを変える』ビクター・マイヤー=ショーンベルガー、ケネス・クキエ)こともあるが、因果関係を滅茶苦茶にする場合も出てくる。なぜならビッグデータはある種の擬似相関であるからだ。大袈裟に言ってしまえば答えが決まっていない連想ゲームみたいな代物だ。

 現在、ビジネスから刑務所まで、社会経済のあらゆる局面の細かな管理が、設計に不備のある数理モデルによって遂行されている。それらの数学破壊兵器には、ワシントンの公立学校でサラ・ウィソッキーのキャリアを狂わせた付加価値モデルと同じ特徴が多く備わっている。中身が不透明で、一切の疑念を許さず、説明責任を負わない。規模を拡大して運用されており、何百万人もの人々を対象に、選別し、標的を絞り、「最適化」するために使用されている。算出された結果と地に足の着いた現実とを混同することによって、有害で悪質な数学破壊兵器のフィードバックループを生み出しているものも多い。

 こうなると「業」(カルマ)と言っていいだろう。アルゴリズムは文明が織り成す業(ごう)なのだ。身口意(しんくい)から離れた業はモデル設計者が神となって下す恩寵と罰となって人々を分断する。信用スコアリングは貧富の固定化に寄与し、より貧困な者に鞭を振るう。合理が生んだ不合理を人類は取り除くことが可能だろうか? AIやビッグデータがインフラストラクチャー化すれば、もう後戻りはできまい。

 人々を苦しめる一番の要因は、有害な悪循環を生むフィードバックループにある。すでに見てきたように、生まれ育った環境に基づいて受刑者をプロファイリングする判決モデルでは、判決そのものが受刑者を追い詰め、判決を正当化するような結果を招いている。この破壊的ループは延々と繰り返され、その過程でモデルはますます不公平になっていく。

 透明性と異議申し立ての担保が不可欠なのは言うまでもないが、ビッグテックのような民間企業に対してどこまで規制できるのかが不明である。彼らは法整備よりも遥か彼方にまで進んでいる。また潤沢な資金でロビー活動も活発に行っている。政治はマネーに支配され、人間はアルゴリズムに従う時代の到来だ。

 要約すると、不透明であること、規模拡大が可能であること、有害であること――この3つが数学破壊兵器の三大要素である。

 私は原子爆弾、銀行の決済システム、そしてインターネットが、現代のラッダイト運動を不可能にしてしまったと考えている。これは民主政の根幹に関わる問題なのだ。例えば米騒動を起こすことは可能だろう。だが同様の目論見で銀行へ行ったところで銀行に現金はそれほどない。また、どれほどの国民が武装蜂起したとしても原爆にはかなわない。パソコン上の重要な情報はクラウドにアップロードされ、いつでも別の場所でダウンロードできる。つまり何かを破壊することで国家を転覆させることはもう不可能なのだ。

「そのために選挙というシステムがあるのではないか?」という声が聞こえてきそうだが、かつての民主党があっさりとマニフェストを放り投げて地に落としてからというもの、選挙公約に意味はなくなった。自民党の派閥は政策集団ではなく選挙互助会に堕している。国民もまた政策など気にもかけていない。会社の指示や、テレビで見た印象、マスコミの煽り方であっちへ入れたりこっちへ入れたりしているだけである。自分の政治信条に合致した政党を支持しているのは左翼だけだ。公明党は例外で教団益(税務調査回避)を目指している。

 我々は既にデバイスなしで生きてゆくことは難しい。スマホの次はウェアラブルな端末となり、やがては人体にデバイスが埋め込まれる。人類は進化を遂げてロボットになるのだ。

2021-10-25

フィードバックとは/『進化しすぎた脳 中高生と語る〔大脳生理学〕の最前線』池谷裕二


『脳は奇跡を起こす』ノーマン・ドイジ
『脳はいかに治癒をもたらすか 神経可塑性研究の最前線』ノーマン・ドイジ
『唯脳論』養老孟司
『海馬 脳は疲れない』池谷裕二、糸井重里

 ・世界よりも眼が先
 ・人間が認識しているのは0.5秒前の世界
 ・フィードバックとは

『脳はなにかと言い訳する 人は幸せになるようにできていた!?』池谷裕二
『できない脳ほど自信過剰 パテカトルの万脳薬』池谷裕二

必読書リスト その三

 フィードバックというのは、一方通行だった情報の流れが、枝分かれして、前のほうに戻されたり、逆流したりする回路だ。こうなると、単純な一方通行とは違うやり方で情報が処理されるようになるよね。
 一対一じゃない情報の伝達を支える仕組み、そう、脳のような複雑な装置に絶対に必要な条件が「フィードバック」ってわけ。日本語だと「反回性回路」と言うんだけど、こうした情報が「行ったり来たり」する回転が最低限必要なの。それによって情報を分解したり、変調したり、統合したりできるってわけ。情報のループを描かないとブラックボックスはワンパターンの出力しかできない。(脳内の1個の神経は1万個の神経に情報を送っている)

【『進化しすぎた脳 中高生と語る〔大脳生理学〕の最前線』池谷裕二〈いけがや・ゆうじ〉(ブルーバックス、2007年)】

 非公開にしたブログ記事から引っ張り出してきた。やれやれ。

 脳はフィードバックによって軌道修正を可能にしている。ヒトが学習できるのもフィードバックの成せる業(わざ)である。フィードバックの集大成が文明なのだ。人類以外の動物は文明を持たない。

 更にフィードバックを欠けば人は感情やバイアスの奴隷となる。反省、振り返り、やり直し、見つめ直しに脳の本領がある。日常的にフィードバックを行えば後悔することが少なくなる。間違いは気づいた瞬間に修正できる。

 人も組織もフィードバックが途絶えると腐敗する。強力な独裁体制は誰かの話に耳を傾けることがない。ワンマンが通用するのは戦国時代だ。



有害で悪質な数学破壊兵器のフィードバックループ/『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』キャシー・オニール