アルゴリズムという名の数学破壊兵器／『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』キャシー・オニール

・『デジタル・ゴールド　ビットコイン、その知られざる物語』ナサニエル・ポッパー
・『次のテクノロジーで世界はどう変わるのか』山本康正
・『ビッグデータの正体　情報の産業革命が世界のすべてを変える』ビクター・マイヤー＝ショーンベルガー、ケネス・クキエ
・『データの見えざる手　ウエアラブルセンサが明かす人間・組織・社会の法則』矢野和男
・『パーソナルデータの衝撃　一生を丸裸にされる「情報経済」が始まった』城田真琴
・『マインド・ハッキング　あなたの感情を支配し行動を操るソーシャルメディア』クリストファー・ワイリー
・『無人の兵団　AI、ロボット、自律型兵器と未来の戦争』ポール・シャーレ
・『データ資本主義　ビッグデータがもたらす新しい経済』ビクター・マイヤー＝ショーンベルガー、トーマス・ランジ
・『アフターデジタル　オフラインのない時代に生き残る』藤井保文、尾原和啓

　・アルゴリズムという名の数学破壊兵器
　・有害で悪質な数学破壊兵器のフィードバックループ
　・オペレーションズ・リサーチの破壊力

・『AI監獄ウイグル』ジェフリー・ケイジ
・『快感回路　なぜ気持ちいいのかなぜやめられないのか』デイヴィッド・J・リンデン
・『もっと！　愛と創造、支配と進歩をもたらすドーパミンの最新脳科学』ダニエル・Z・リーバーマン、マイケル・E・ロング
・『新しい資本主義　希望の大国・日本の可能性』原丈人

・情報とアルゴリズム
・必読書リスト　その三

　すべての負け犬たちに捧ぐ

【『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』キャシー・オニール：久保尚子〈くぼ・なおこ〉訳（インターシフト、2018年／原書、2016年）以下同】

　巻頭のエピグラフである。原題は『Weapons of Math Destruction : How Big Data Increases Inequality and Threatens Democracy：数学破壊兵器　ビッグデータがどのように不平等を拡大し、民主主義を脅かすか』。著者は数学者でハーバード大学で博士号を取得し、コロンビア大学の終身在職付き教授となる。その後、クオンツ（金融工学の専門家）に転身し大手ヘッジファンドで働く。リーマンショックを経て、「ウォール街を占拠せよ」運動にコミットした。

　かつて私を保護してくれた数学は、現実世界の問題と深く絡んでいるだけではなかった。数学が問題を大きくしてしまうことも多いという事実を、この経済崩壊はまざまざと見せつけてくれた。住宅危機、大手金融機関の倒産、失業率の上昇――いずれも、魔法の公式を巧みに操る数学者によって助長された。それだけではない。私が心から愛した数学は、壮大な力をもつがゆえに、テクノロジーと結びついてカオスや災難を何倍にも増幅させた。いまや誰もが欠陥があったと認めるようなシステムに、高い効率性と規模拡大性を与えたのも数学だった。
　なぜあの時、冷静な頭で考えられなかったのか。経済が崩壊した時点で一歩引き返し、なぜ数学が誤った使われ方をしたのか、将来起こりうる同様の大惨事を防ぐために何かやれることはないかと考えることもできただろう。しかし、経済危機の後も、私たちは立ち止まらなかった。これまで以上に人々を熱狂させる新たな数学的手法が次々に生み出され、その応用領域は今も拡大し続けている。

　サブプライムショックが2007年の7月25日である。私は日経先物で大損をしたのでよく憶えている。だが社会的に深刻の度合いが深かったのは翌年のリーマンショックである。あの時点で「資本主義が終わった」と指摘する書籍も多い。大半は隠れ左翼の願望であるが、長年に渡る金融緩和でもデフレを脱却できない現状を見ると、満更デタラメとも言い切れない。

　ロングターム・キャピタル・マネジメントが破綻（1999年）しても金融工学は死ななかった。ブラック–ショールズ方程式は現在でも有効とされている。続いてエンロンが倒産した（2001年）。ITバブル～住宅バブルに向かう中で現れた重要な指標であった。

　リーマンショック以降、緩和マネーが株式相場を押し上げ、新型コロナショックで緩和の蛇口は更に緩められた。

　でも、私には弱点が見えていた。数学のちからで動くアプリケーションがデータ経済を動かすといっても、そのアプリケーションは、人間の選択のうえに築き上げられている。そして、人間は過ちを犯す生き物だ。モデルを作成する際、作り手は、最善の意図を込め、良かれと思って選択を重ねたのかもしれない。それでもやはり、作り手の先入観、誤解、バイアス（偏見）はソフトウェアのコードに入り込むものだ。そうやって創られたソフトウェアシステムで、私たちの生活は管理されつつある。神々と同じで、こうした数理モデルは実体が見えにくい。どのような仕組みで動いているのかは、この分野の最高指導者に相当する人々――数学者やコンピューターサイエンティスト――にしかわからない。モデルのよって審判が下されれば、たとえそれが誤りであろうと有害であろうと、私たちは抵抗することも抗議することもできない。しかも、そのような審判には、貧しい者や社会で虐げられている者を罰し、豊かな者をより豊かにするような傾向がある。

　TEDでも「アルゴリズムとはプログラムに埋め込まれた意見なのです」と喝破している。

　アルゴリズムという名の数学破壊兵器が社会を分断し、富の偏重を加速させ（世界の最富裕層1％、富の82%独占　国際NGO）、貧困を固定化する。

　中盤からエピグラフに込めた思いが行間で谺（こだま）し始める。キャシー・オニールは数学者として「AI・ビッグデータの罠」を追求しながらも、ポリティカル・コレクトネスの罠に嵌（はま）っている。ポリティカル・コレクトネスは白人による人種差別を覆い隠すために編み出された概念だ（『人種戦争　レイス・ウォー　太平洋戦争もう一つの真実』ジェラルド・ホーン）。声高な主張は明らかな民主党支持の言葉となって幻滅させる。それでもAIやビッグデータを新時代の夢のように語る書籍が巷間（こうかん）に溢れている事実を思えば、耳を傾けるべき警鐘であろう。

　チャイナは共産党の一党独裁で管理社会を築き、自由の象徴であるアメリカはAI・ビッグデータで管理社会を実現しつつある。国家というアルゴリズムが目指すのは『一九八四年』（ジョージ・オーウェル）の世界なのだろうか？　完全に合理化された社会が現れれば、生きるに値しないと認定される人々が出てくることだろう。つい数十年前にドイツでは実際に行われた。

　しかもアルゴリズムやシステム、およびデータを格納するウェブ上の膨大なスペースは限りある資源だ。その対価を誰かが支払う必要がある。とても広告クリックで賄（まかな）えるような代物ではあるまい。犠牲になるのは中小零細企業と貧困者だ。アメリカでは犯罪の再犯予測や就職でAIが活用されている。この結果に異論を唱えたり抗議をすることは許されない。なぜならアルゴリズムの内容を誰も知らないためだ。もはやアルゴリズムは神と変わらない。ただ振り下ろされる鉄槌を御業（みわざ）と受け止めるしかないのだ。こうした状況に「待て！」と両手を広げて立ち塞がったのがキャシー・オニールその人である。

・行動嗜癖を誘発するSNS／『僕らはそれに抵抗できない　「依存症ビジネス」のつくられかた』アダム・オルター