2018年10月5日金曜日

ロボット工学三原則とは

このエントリーをはてなブックマークに追加

ロボット工学三原則というものがある。
アイザック・アシモフ『われはロボット』に書かれたもので、SFの世界では有名な原則だ。
第一条
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第二条
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

第三条
ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
たった三条というのはあまりに少ない気もするが、まあこれは基本法であって、じっさいは「ロボット民法」「ロボット刑法」「ロボット商法」「ロボット訴訟法」「ロボット行政法」など実務的な法律で運用することになるんだろう。

さて。
第一条の「危害」について考えてみたいと思う。
ここで用いられる「危害」の範囲はどこまでだろうか。

ロボットが人間をぶんなぐったら、これは明らかに「危害を加える」だ。ここに異論はない。



ではロボットが人間の財布を盗んだら。これも危害だろうか。
窃盗は辞書的な意味の「危害」には入らないが、ここではやはり「危害」と考えて問題ないだろう。
ロボットによる窃盗を許せる人はほとんどいないだろうから。



ロボットが人間を口汚く罵ったら。これも危害だろうか。
DV(家庭内暴力)とは、じっさいに暴行をふるったときだけでなく罵詈雑言を浴びせたときにも適用されうるらしい。受けた側が激しい精神的苦痛を受けるような行為も暴力に含まれるのだとか。
それでいうと、やはり音声や文字による罵倒も危害と考えていいだろう。



子どもができなくて悩んでいる夫婦にロボットが「コドモハツクラナイノデショウカ?」と訊いたらどうだろう。言われた夫婦が激しい精神的苦痛を受けたと思ったら。
言ったロボットに悪意はない(だってロボットだからね)。
これは「危害」に含まれるだろうか。これを含まないなら、ロボットはどれだけ人のデリケートな部分を刺激してもかまわないのだろうか。



金属製のロボットが金属アレルギーの人に触れて、アレルギー症状を引き起こしてしまったら。これも危害だろうか。
もちろんロボットに悪意はない(だってロボットだからね)。だが肉体的な苦痛を生じさせている。
人間であれば、過失ならセーフかもしれない。だがロボットに故意/過失という概念を適用してもよいのであろうか。
完璧に制御されたロボットであれば「うっかり」という事態が発生しないので、彼の行動によって生じた結果はすべて「故意」になるのではないだろうか。



じっさい、ロボットが「人間に危害を加えない」ためには、ありとあらゆる可能性を予期できなくてはならない。
この人は金属アレルギーかもしれない、この人に子どもの話題を振ったら傷つけてしまうかもしれない。あらゆる行為が「危害」につながる可能性がある以上、ロボットは何もできなくなってしまう。

これは人間も同じことだ。どんな聖人君子であれ、人を傷つけてしまうことはある。未来を完璧に予想できない以上「危害」はぜったいについてまわる。

だから法律では「人に危害を加えてはならない」「人を殺してはいけない」とは規定していない。
法に書かれているのは「殺人を犯した者は〇〇の刑に処す」「盗みをはたらいた者は〇〇年以下の懲役または〇〇円以下の罰金に処す」といった処罰だけだ。
「危害」を完全に防ぐことはできないからだ。



したがって「ロボット工学三原則」は拘束力は持たない。
あくまで法の精神、努力目標である。「なるべく危害をくわえないようにしましょうね」という目標だ。

つまり中学校の生徒手帳に書いてある「質実剛健、創意工夫、切磋琢磨」みたいな標語と同じ。つまりは何の意味もない言葉ってこと。


このエントリーをはてなブックマークに追加

0 件のコメント:

コメントを投稿