AI関連の文献を漁っているけれど、倫理系の文献もそれなりに出ているみたい。一冊目として、直球タイトルのこの本を選んだ。
AIについて論じる人たちの論調は一枚岩ではない。「汎用AIなんて近いうちにできますよ」と利口ぶって言う人もいるし、「いやいや、われわれは人間の知能についてすらまだほとんど何もわかっていないのだ」という慎重な人もいる。わたしは正直なところ、利口ぶりたがる人々の軽薄さに反吐が出そうな気持ちでいっぱいなので、慎重な人たちの方にひかれる。
この本は、はっきり言うと夢のない本だ。汎用AIみたいなものの可能性には触れているけれど、まあ可能性はなくはないよねえくらいのスタンスで、もっと現実的な倫理問題を中心に考察を進める。そういう意味で、極めて常識的な本である。それだけに、AIを救世主かアンゴルモアのように夢想している人々にとっては地味で退屈な本かもしれない。だけど、現実というのは地味で退屈なものだ。救世主だってアンゴルモアだって、そうそう降臨しないものなのだ。
そうはいっても、AIはただの機械だ、という常識に安住しているだけではなく、少し踏み出した議論もしている。AIを虐待することに倫理的問題は無いのか？ 筆者はカントの議論を援用しながら、問題があるかもしれないと述べる。それは、AIに危害が加えられるから問題なのではない。そうではなく、AIを虐待することが当たり前だと考えてしまったら、人間の側の道徳意識が劣化してしまうからだ。もちろん、ここは議論の余地がある主張だし、筆者も全面的にこの主張にコミットしているわけではない。ただここで重要なのは、ここで示されている倫理問題が、決して新しいものではなく、数百年前にカントが動物虐待を批判したときから議論されてきた、古い倫理問題だということだ。AI倫理だからといって、これまでの倫理をそっくり見直す必要はない。
AIが人間の労働を奪うのでは？ というおなじみの問題にも、筆者は浮き足立つことなく冷静に議論を進める。たしかに、AIが人間の労働を奪う可能性はある。それを貧困の蔓延したディストピアとして描く人もいるし、労働から解放されたユートピアとして描く人もいる。しかし筆者はどちらの立場も取らない。むしろ筆者は、人生にとっての労働の価値に議論をシフトさせる。
別の見方として、労働には価値があり、労働が労働者に目的と意味を与え、他者との社会的つながり、より大きな何かへの帰属、健康、そして責任を行使する機会などのさまざまな恩恵を与えるという見方もある（Boddington 2016）。もしそうであるなら、私たちは人間のために労働を保持しておくべきなのかもしれない。 （p117）
そして、「AI倫理は私たちに、善き公平な社会とは何か、意味ある人生とは何か、そしてこれらに関連した技術の役割がどのようなものであり、どのようなものでありうるかについて考えさせてくれる。」（p118）と述べる。そうした善き人生に関する問いは、アリストテレスや孔子など、大昔の思想家たちが展開した徳倫理に関わるものだ。
AIの倫理について考えることは、自分たちについて考えることだ。つまり、AI倫理に関する議論を通して、人々は人生の価値や意味についての理解を深めていくことができるのだ。これはたぶん、AIに限ったことではないだろう。たとえば環境倫理について考えることも、人生の価値や意味についての議論につながりがちだ。ただ、AIについて多くの人々が浮き足立った軽薄な意見を交わしている中で、「人生の価値や意味」という昔ながらの倫理問題を持ち出すのは、かなりユニークなスタンスだと思う。
そして、最後の方の章で筆者は「ポジティブな倫理」を提案する。必ずしも何かを禁止するための倫理ではなく、「善き生や善き社会についてのビジョンを発展させる」（p147）前向きな倫理のことだ。そして、そうしたビジョンをつくるプロセスには多様な人々が参加しなくてはならない。技術者たちに任せていてはいけない。技術者たちはもっと教養を持つべきだし、文系だって技術音痴のままでいてはいけないのだ。
私たちは、方法論やアプローチに関して、そしてテーマや伝達手段や道具に関しても、もっと根本的に学際的で多元的であるような、より多彩で包括的な教養や語り方について考えることができるはずなのだ。無遠慮に言わせてもらえれば、技術者がもっと本を読むようになり、人文学の人たちがもっとコンピューターのことを知るようになれば、技術倫理や技術政策が現実にうまく機能する望みも出てくるということだ。（p150）
繰り返すけれど、この本は夢のない本だ。しかしAIに関しては、こういう夢のない議論こそが必要なのだと思う。AIをめぐるハッピーな夢も凍り付くような悪夢ももう聞き飽きた。現実的に、AIとどう付き合うかというのが問題なのだし、その問題はけっきょくのところ、人としてどう生きるかという昔ながらの問題なのだ。
