米国MITマサチューセッツ工科大学メディアラボは、テクノロジーの最先端の場です。
同ラボに10年間所属し、2023年からはロボット工学と人工知能を専門とする著名な研究組織「ボストン・ダイナミクス」のAI研究所で倫理と社会研究チームの責任者を務める研究者がいます。ロボット倫理学者のケイト・ダーリング博士です。*1

ロボットは人間のスキルや人間関係を代替するのではなく、補完するものである可能性が高いと同博士は考えています。

それを前提とすると、ロボットとの未来において、人間はロボットを動物と考え、動物との関係性と同じ関係性を築いていくべきだというのがダーリング博士の主張です。

TEDやThe Conference でのスピーチ、インタビュー記事から彼女の意見を紹介し、人間とロボットとの関係について考えます。

くるくる回りながら掃除をしてくれる、ロボットのルンバ。あのルンバのことを、冷蔵庫や洗濯機とはどこか違うと感じる人は多いのではないでしょうか。

筆者もルンバを「ちゃん付け」で呼んでいます。「ルンバちゃん、お願いね」とか「ルンバちゃんがお掃除してくれるから助かっちゃうなあ」などと。
それどころか、ルンバに独自の名前を付けている友人さえいます。
でも、それは世界的にみて珍しいことではなさそうです。*2

ロボット倫理学者のケイト・ダーリング博士はTED（Technology Entertainment Design：著名人によるさまざまな講演会）でのスピーチで、人間のそうした心のありようを指摘しています（図1）。*3

図1　TEDでスピーチをする、MITマサチューセッツ工科大学メディアラボのケイト・ダーリング博士
出所）YouTube  TED Salon　ケイト・ダーリング「なぜ人はロボットと感情的繋がりを持つのか」（2018年9月）
https://www.ted.com/talks/kate_darling_why_we_have_an_emotional_connection_to_robots?landa-rinngu guage=ja

たとえば、こんな事例があります。
米軍はナナフシをモデルにした地雷処理ロボットの実験をしていました。そのロボットは脚を使って地雷原を歩き回り、地雷を踏むごとに脚が1本、吹き飛ばされます。*4
手足を失うたびに、ロボットは体を起こし、残りの脚で歩き続けて地雷を爆発させていきます。

ところが、責任者だった陸軍大佐はこの実験を中止させました。
理由は、「非人道的だから」。

大佐は、火傷を負い、傷跡が残るロボットが、最後の脚を引きずって前進するのを見ることに耐えられなかったのです。

こうした類いの話はまだまだあるとダーリン博士はいいます。*5ロボット兵士に名前を付け、勲章を与える。壊れれば修理して元通りにするし、元通りにならない場合には砲礼つきの葬儀を行う。

ダーリング博士自身も、このような経験をしています。*2
ある日、同博士は「PLEO」という“赤ちゃん恐竜ロボット”を手に入れました。
PLEOはさまざまな機能を備えていますが、その1つが傾斜センサー。体の向きが感知できるようになっていて、逆さにすると泣き出します。
同博士は友だちにPLEOの尻尾を持たせてみました。

ところが、もがきながら泣くそのロボットを見ているうちになんだか嫌な気分になって、 下に置くよう頼みます。そして、ロボットが泣き止むように撫でてやったのです。

「PLEO」の仕組みは理解していましたし、機械なのですから生き物でないのはわかり切っていました。それなのに「優しくしてあげなければ」と感じた。
自分はなぜそんな気持ちになったのだろう―この経験が同博士の探求心を呼び起こしました。

今やロボットは工場だけでなく、家庭やオフィスなどさまざまな場所に入り込んでいます。
私たちはいたるところにロボットがいる世界へと向かっているのです。*2
では、人間とロボットの関係をどのように捉えればいいのでしょうか。

ダーリング博士はThe conferenceでのスピーチで、次のようなエピソードを紹介しています。*5

先述の「ボストン・ダイナミクス」は人間や動物のような形をした軍用ロボットを作っています。
その1つ、スポットという名前の、犬に似たロボットの動画が公開されました。

その動画の中では、1人の男性が思い切りスポットを蹴飛ばします。スポットはよろけながらも体勢を持ち直し前進しますが、しばらくしてもう1人の男性がもっと強くスポットを蹴りました。

それはスポットの安全性を示すためです。
ところが、多くの人がこの動画に対して非常にネガティブな感情を抱き、SNSなどに非難の投稿をしました。

それだけではありません。動物愛護団体のPETAに電話が殺到したため、PETAは声明を出さなければなりませんでした。本物の犬ではないのに、です。

もう1つ、興味深いエピソードがあります。
ダーリング博士が行ったワークショップの様子です。*2

同博士の探求心に火をつけた、あの赤ちゃん恐竜ロボットPLEOの出来事から数年後、ダーリング博士はワークショップを開きました。

まず、PLEOを5体用意して、5つのグループに1体ずつ渡し、名前を付けて1時間くらい遊んでもらいました。
それから、ハンマーと斧を出して、それを使ってPLEOを痛めつけて殺すように言いました。
ところが、誰もPLEOを叩こうとしません。

それで、「他のチームのロボットを壊せば、自分のチームのロボットは壊さなくていいです」と言ってプッシュしましたが、それに従う人もいませんでした。

最後には 「誰かが斧を手に取って、どれか1つに振り下ろさなければ、ロボットをみんな壊します」 と伝えました。
それでようやく1人が立ち上がって、斧をロボットの首に振り下ろしました。その瞬間、部屋にいた人は全員ギクッとして、妙な沈黙が訪れたというのです。

ダーリング博士は、その後、可愛らしいロボットではなく、昆虫のように動き回る「HEXBUG」というロボットを潰してもらう実験をしましたが、その場合にも、共感力の強い人ほど HEXBUGを潰すことにためらいを感じることが分かりました。

人間がロボットを生き物のように扱うのはなぜでしょうか。
それは、「生物学的に、人間は自律的に動くものに対して意思や生命を見ようとするようにできているからだ」とダーリング博士は説明します。

ならば、人間はロボットとどのような関係性を構築すればいいのでしょうか。

ものごとを知覚し、自律的に決断し、学ぶことのできるロボットに対して、最善のアナロジーとなるのは動物との関係ではないか―これがダーリング博士の主張です。*2

数千年前に人類は動物を家畜化するようになりました。そして、労働や戦争のために使い、遊び相手として飼い慣らしてきました。
ただし、どの動物に対しても思いやりをもって扱ってきたわけではありません。

人間は、社会的あるいは文化的な理由で、あるいは可愛らしいという理由から、ある動物は尊重したり愛したりしています。*6
しかしその一方、まったく同じ能力をもつ動物でも、食肉のために屠畜したり、働かせたり、もっとひどい扱いをすることさえもあるのです。

私たちが動物をどのように扱ってきたか、その歴史を振り返ると、私たちが動物にどう感情移入するかがすべてなのだと気づかされる―博士はそう述べています。

動物との関係から学べることは、人間は本能的に、自分たちにとって魅力的な、思い入れのある存在を守り、それらと関係をもち、仲間になろうとするということ。
そしてその一方で、その他の存在を道具や商品として扱うということです。

人間の仲間としてのポジションを与えられた動物がいる一方で、道具や商品として扱われた動物もいる。
ロボットもまた同じように取り込まれていくかもしれないとダーリング博士は述べています。
既に人間は、多くのロボットを製品として扱いながら、ある種のロボットは仲間として扱っています。

ロボット倫理学は、新しい研究領域です。ロボットの開発や利用に際して留意すべき倫理的な問題だけでなく、人間に近づいてきているロボットをどのような存在として受け入れるべきかもその考察対象です。*7

では、ロボット倫理はなぜ必要なのでしょうか。

現在のロボットのように、ものごとを知覚し、自律的に決断し、学習できる機械を産み出すのは、これまで倫理が扱ってきたものとは決定的に異なる技術です。*6

新しい技術には必ず検討すべきことがありますが、その中でも特に考えるべき点が多いのが、ロボットやAIだとダーリング博士は指摘します。

具体的には、自律型兵器システム、加害に対する責任、ロボットを職場や学校、病院に導入することによる社会的影響、プライバシーとデータセキュリティなどが挙げられます。

ボストン・ダイナミクスのAI研究所のエグゼクティブ・ディレクター、マーク・ライバート博士は、AIとロボット工学の倫理的側面に取り組むことの重要性を強調し、倫理と社会研究チームの責任者としてダーリング博士を迎えたことについて、こう述べています。*1

 「すべての新しいテクノロジーには機会とリスクが伴います。同研究所に倫理チームを設立する私たちの目標は、リスクを最小限に抑えながら、ロボット工学とAIが提供できる機会を最大化することです」

ダーリング博士は、ロボット倫理はロボットに関するものだとは考えていません。それは、人間とロボットとの相互関係に関わるものだというのが博士の考えです。*5

ロボットとの共生時代への問いは、 「人はロボットに共感するのか」 ではなく 「ロボットは人の共感性を変えられるのか」だと同博士は主張します。*2

たとえばロボット犬を蹴らないようにすることは、本物の犬を蹴るような人間にならないようにするために効果があるのか。
動物に似せてデザインされたロボットに対して暴力的に振る舞うのは、暴力性に対する健全なはけ口になるのか、それとも暴力性を強めることになるのか。

こうした問いへの答えは、人間の行動や社会規範に影響する可能性があります。それは、ロボットに対して何ができ何ができないかというルールにつながる可能性があるということです。

先述のスポットの件では、「ロボットであっても、蹴り飛ばすのは倫理的によくない」と思った人々がいました。
こうした反応をみて、あるロボット倫理学者は、「私たちがロボットに対して配慮しなければならないのは、ロボットが痛みを感じるようになったときだけである」とコメントしました。
今のところ、ロボットは痛みを感じないので、ロボットは倫理的な配慮の対象とはならないでしょう。*7

しかし、かつて西洋の道徳的哲学では、最初は白人、男性、成人だけがその対象であり、それ以外の存在には道徳的な権利はないとみなされていました。しかしやがて、少なくとも理論上はすべての人間が平等に道徳的権利をもつものとして認識されるようになり、それが動物や自然環境を含めた生態系、景観にまで広がってきています。

では、今後、ロボットのような人工物が、倫理的配慮の対象となるのでしょうか。

ロボットが今のところ何も感じないとしても、ロボットに対する振る舞いは私たち自身に影響するかもしれない。そして法律を変えることになるかどうかにかかわらず、ロボットは人間についての新たな理解をもたらすかもしれないとダーリング博士は述べています。*6

子どもがルンバに優しく接するとき、兵士が戦場でロボットを救おうとするとき、人々が赤ちゃん恐竜ロボットを傷つけることを拒むとき、ロボットはモーターと歯車とプログラムだけでできた物ではありません。
それは、私たち自身の人間性の反映なのです。