「Black Box Society」ブックレビュー：ビッグデータがもたらす弊害を解説

　Electronic Frontier Foundationの共同創設者であるJohn Gilmore氏は1993年、「インターネットは検閲を悪とみなし、避けようとしている」という有名な言葉を残した。2015年となった現在、メリーランド大学 法律学教授のFrank Pasquale氏は、「インターネットはプライバシーも悪と捉えているようだ」と付け加えている。

Black Box Society: The Secret Algorithms That Control Money and Information ● 著者：Frank Pasquale ● 出版社：Harvard University Press ● 311ページ ● ISBN: 978-0-674-36827-9 ● 25.95ドル

　「Black Box Society: The Secret Algorithms That Control Money and Information」（「ブラックボックス社会：金と情報を支配する秘密のアルゴリズム」の意）の中でPasquale氏は、いかにしてわれわれの個人情報がデータ化されて分析され、気づかない間にシステムによって点数付けされているかを解説している。この中でイギリス人やアメリカ人に最もよく知られているのは、クレジットのスコアだろう。このスコアは、銀行や電話会社が特定の人にサービスを提供する際、その人がサービスを提供するに値する人物かどうかを見極めるために使われている。しかしPasquale氏が言うには、このスコア付けのアルゴリズムは、ほかにも飛行機の搭乗拒否リストなどさまざまなシーンで使われているという。

　クレジットのスコアは、Pasquale氏が言うところの「評価システム」の中で最も古くから普及している方法であるため、一番統制された方法でもある。ただしPasquale氏は、この方法が評価システムを改善しているわけではないとしている。テレビ広告やテレビを通じて得る体験によってわれわれは、成功者よりも失敗者から利益を得ている金融業界の基準を取り込むよう仕向けられている。わかりやすく言うと金融業界は、クレジットカードの請求書を毎月きっちり支払っている人よりも、常に残金を残して金利を発生させている人の方が儲かる客だとみなしているのだ。もしこの手法が健康についても適用され、「体のスコア」なるものがつけられるとしたらどうだろうか。

　本書で書かれている内容の多くは、Pasquale氏の在住する米国ではあまり関係のないことだ。ただ、公共医療サービスが提供されている国の場合、クレジットと健康、そして雇用の関係は結構悪質で、米国以外では例えば糖尿病検査で陽性の結果が出た人のクレジットスコアや雇用に悪影響が出ている可能性もあるのだ。しかし、シークレットサービスが商用データベースから情報を入手して利用する方法を示した資料があるという事実は、誰にとっても脅威であるはずだ。さらに、警備会社が自ら入手できないデータを大手データ事業者から入手するようになると、ますます取り締まる側の規制が効かなくなってしまう。一部の大手銀行が「大きすぎて倒産できない」ように、政府はデータ事業者との関係を保つため、こうした事業者を「重要すぎて監視できない」存在とみなすようになるのではないかとPasquale氏は指摘している。政治家が選挙活動の資金を大企業の寄付に頼っているような国であれば、この話はより真実味を帯びてくる。

アルゴリズムの失敗

　Pasquale氏は、主にこうしたデータ活用システムに関する秘密に焦点を当てている。同氏によると、社会はより不透明になりつつあり、説明責任が薄れてきているというのだ。ベンダー側は、ビッグデータシステムが客観的で、人が下す決断よりも偏見に左右されにくいと主張しているが、Pasquale氏はビッグデータシステムが差別を合法化するのではないかと見ている。例えば、過去に金融機関で不利益を被った人は、ローンの利子が高くなり、それが支払いの遅延につながり、さらにクレジットスコアが低くなることにもなりかねない。個人レベルでもひどい話だが、Pasquale氏はこうしたことが社会レベルでは「アルゴリズムの失敗」にあたるとしており、その失敗後に一般救済策を施した2008年のことを指摘している。

　本書が主にシリコンバレーとウォール街に焦点を当てているのは、従来存在していた市場と国家の境界線があいまいになっていることこそブラックボックス社会の真髄であるからだとPasquale氏は述べている。英国で2015年5月に行われる選挙では、この境界線が保たれるような結果が出ると良いのだが。