「Black Box Society」ブックレビュー:ビッグデータがもたらす弊害を解説

Wendy M Grossman  (ZDNet UK) 翻訳校正: 沙倉芽生

2015-04-17 06:00

 Electronic Frontier Foundationの共同創設者であるJohn Gilmore氏は1993年、「インターネットは検閲を悪とみなし、避けようとしている」という有名な言葉を残した。2015年となった現在、メリーランド大学 法律学教授のFrank Pasquale氏は、「インターネットはプライバシーも悪と捉えているようだ」と付け加えている。


Black Box Society: The Secret Algorithms That Control Money and Information ● 著者:Frank Pasquale ● 出版社:Harvard University Press ● 311ページ ● ISBN: 978-0-674-36827-9 ● 25.95ドル

 「Black Box Society: The Secret Algorithms That Control Money and Information」(「ブラックボックス社会:金と情報を支配する秘密のアルゴリズム」の意)の中でPasquale氏は、いかにしてわれわれの個人情報がデータ化されて分析され、気づかない間にシステムによって点数付けされているかを解説している。この中でイギリス人やアメリカ人に最もよく知られているのは、クレジットのスコアだろう。このスコアは、銀行や電話会社が特定の人にサービスを提供する際、その人がサービスを提供するに値する人物かどうかを見極めるために使われている。しかしPasquale氏が言うには、このスコア付けのアルゴリズムは、ほかにも飛行機の搭乗拒否リストなどさまざまなシーンで使われているという。

 クレジットのスコアは、Pasquale氏が言うところの「評価システム」の中で最も古くから普及している方法であるため、一番統制された方法でもある。ただしPasquale氏は、この方法が評価システムを改善しているわけではないとしている。テレビ広告やテレビを通じて得る体験によってわれわれは、成功者よりも失敗者から利益を得ている金融業界の基準を取り込むよう仕向けられている。わかりやすく言うと金融業界は、クレジットカードの請求書を毎月きっちり支払っている人よりも、常に残金を残して金利を発生させている人の方が儲かる客だとみなしているのだ。もしこの手法が健康についても適用され、「体のスコア」なるものがつけられるとしたらどうだろうか。

 本書で書かれている内容の多くは、Pasquale氏の在住する米国ではあまり関係のないことだ。ただ、公共医療サービスが提供されている国の場合、クレジットと健康、そして雇用の関係は結構悪質で、米国以外では例えば糖尿病検査で陽性の結果が出た人のクレジットスコアや雇用に悪影響が出ている可能性もあるのだ。しかし、シークレットサービスが商用データベースから情報を入手して利用する方法を示した資料があるという事実は、誰にとっても脅威であるはずだ。さらに、警備会社が自ら入手できないデータを大手データ事業者から入手するようになると、ますます取り締まる側の規制が効かなくなってしまう。一部の大手銀行が「大きすぎて倒産できない」ように、政府はデータ事業者との関係を保つため、こうした事業者を「重要すぎて監視できない」存在とみなすようになるのではないかとPasquale氏は指摘している。政治家が選挙活動の資金を大企業の寄付に頼っているような国であれば、この話はより真実味を帯びてくる。

アルゴリズムの失敗

 Pasquale氏は、主にこうしたデータ活用システムに関する秘密に焦点を当てている。同氏によると、社会はより不透明になりつつあり、説明責任が薄れてきているというのだ。ベンダー側は、ビッグデータシステムが客観的で、人が下す決断よりも偏見に左右されにくいと主張しているが、Pasquale氏はビッグデータシステムが差別を合法化するのではないかと見ている。例えば、過去に金融機関で不利益を被った人は、ローンの利子が高くなり、それが支払いの遅延につながり、さらにクレジットスコアが低くなることにもなりかねない。個人レベルでもひどい話だが、Pasquale氏はこうしたことが社会レベルでは「アルゴリズムの失敗」にあたるとしており、その失敗後に一般救済策を施した2008年のことを指摘している。

 本書が主にシリコンバレーとウォール街に焦点を当てているのは、従来存在していた市場と国家の境界線があいまいになっていることこそブラックボックス社会の真髄であるからだとPasquale氏は述べている。英国で2015年5月に行われる選挙では、この境界線が保たれるような結果が出ると良いのだが。

この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。

ZDNET Japan 記事を毎朝メールでまとめ読み(登録無料)

ZDNET Japan クイックポール

所属する組織のデータ活用状況はどの段階にありますか?

NEWSLETTERS

エンタープライズコンピューティングの最前線を配信

ZDNET Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]