021_ロボットと帝国表紙
ロボット三原則について


 米国のSF作家であるアイザック・アシモフは、その作品のロボット小説の中で登場するロボットが従うべき行動規範として「ロボット工学三原則」を創出し用いた。
 この別名ロボット三原則は下記のように、人間に対する安全性、人間の命令に服従、ロボット自身の自己防衛、からなっている。

 [アシモフのロボット三原則]

  • 第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
  • 第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
  • 第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
 尚、後に 、「第〇条 ロボットは人類に危害を加えてはならない。また、その危険を看過することによって、人類に危害を及ぼしてはならない。」が付け加えられた。

 この三原則は人間が操作するロボットには適用されず(適用できず)、自己判断能力を持った自立型ロボットに適用される、とされた。
 現実社会にロボットが登場する前に、SFの世界ではロボットを誕生させ人間をも超える判断能力を持ったロボットに進化させていった。その空想の世界で高度な自立型ロボットに求められる規制が必要とアシモフは考え、それをロボット三原則として成立させた。アシモフはロボットが登場する数多くの優れたSFを遺したが、いずれもが将来の実社会で直面する問題を予測しており、その解決策としてロボットが従うべき原則を発案し、自らのSFの中で使った。
 アシモフの三原則は、発想としてはロボットを人間の「道具」として位置づけており、安全・便利・耐久性をその高級な道具の作動制限として定めたものとも言えよう。無論、アシモフはロボットを人間の親密なパートナーまで昇華させたり、人間の能力をも超えた人類擁護の存在として登場させた作品も遺しているが、本質的にはロボットを人間の道具としての役割を超えた存在にしてはいないと私は思っている。
 しかしながらこの高度な自立行動能力を持った道具の作動制限というロボット三原則は、非常に明快であり説得力をもっていることから多くのSFに影響を与えている。

 このアシモフのロボット三原則とは全く異なったロボット行動規範にはどのようなものがあるか代表的なものを紹介しておく。このような高度の行動規範を受容する自立型のロボットは実世界では未だ実用化の段階には達しておらず、いずれもSFの世界に登場するロボットに使われているものである。

 *人類が製作したロボットは例外無く人類に危害を加えない。(「スターウォーズ」等)
  (ただし、非人類が製作したロボットは人類に対して攻撃することはある。)
 *特定の目的のためには行動の制限は受けない。(「ターミネーター」等)
 *人間と同じ道徳規範に従う。(「鉄腕アトム」等)
 *法律を遵守する。(「ロボコップ」等)
 *統一された規範はなく、タイプ・用途毎に種々のロボットプログラムが存在する。
  (「ペリーローダン・シリーズ」等多数)

 今後自立型ロボットが実社会で実用化・一般化していく中でどのようなロボット行動規範が具体化されていくのか見守っていきたい。

 ここでひとつ、アシモフのロボット三原則には次のような矛盾と限界があることを提示しておきたい。
 ① 「人間」とか「人類」とかの定義が可能なのか? また、ロボットがそれを正確に認識するためにどれだけの計算能力が要求されるのか。
 ② ロボットが人間に服従するとしても、人間同士で争う場合にそれを防止・制止できるのか? また端的な例として、戦闘機械としての無人自立ロボットの製造を止める事ができるのか?
 ③ 近い未来、遠い未来のことまで予測して行動することができるのか?
 ④ 三原則を組み込まれたロボットのプログラムを別の行動規範のプログラムに変更することを防止できるのか?
 ⑤ 人間・人類に危害を加えない判断が人間・人類をコントロールすることと両立してしまう可能性はないのか?

 いずれにしてもロボットが今後高性能になっていく流れのなかで、その最大公約数的なターゲットとなるであろうヒューマンロボット(HR)は高度な自由度をもった自己判断型ロボットとなるはずであり、いかに人間の精神構造に近づけるかが開発目標となっていくのではないかと想像する。
 その時に、「人間とは何か?」があらためて問われることになると思う。