少し前から、時間が空いた時に少しずつ読んでいるのが、この本。私たちは、脅威的に進化するテクノロジーに目を奪われがちだが、だからこそ、目を向けるべきは、社会システムや倫理なのだ、ということをしさしてくれる。
AIなどのテクノロジーが急速に進歩する中、それを使う社会の仕組みは、ほとんど進歩がない。逆に退化しているのでは？と思うこともあります。今、人類の目の前にある危機は、テクノロジーの問題ではなく、社会、もっと言えば倫理に近いものではないかと。技術が脅威的に進歩する一方で、人間は相変わらず、恐怖や権力やお金ににとらわれ、あたふたしています。
そのギャップが広がれば、本当にディストピアが訪れるかも、とちょっと悲観的になります。
次は、全米の警察に導入された、犯罪多発地域を予測するソフトウェアについて論じる章からの引用。
「結果的に、プレドポル社が提供するソフトウェアは、完璧に役に立つ高尚なツールでありながら、お手製の数学破壊兵器になりかねない状況にある。つまり、悪気は全くないまま、警察権力の矛先が貧困層にのみ向けられる状況を生み出してしまっている。貧しい人々ばかりが職務質問され、逮捕され、刑務所に送られる。全員とまでは言わないが、多くの警察署長はそうすることが犯罪撲滅のための唯一の合理的方法だと考えている。貧しい人々が住む区画を地図上に浮かび上がらせることが、犯罪と戦うことなのだと。そして今、彼らのそのような認識は、ビックデータに駆動される最先端テクノロジーによっていっそう強化され、そのプロセスに精密さと「科学」の要素が加えられている。」
