今回の言葉は、「ロボット工学三原則」。
　この言葉、今から80年も前に作られたものです。作った人は、（というか正確にはこの概念を考えた人は）SF作家のアイザック・アシモフ。1940年代に書かれたアシモフ初のSF短編集『われはロボット』の中で考え出されました。この概念を文章にまとめたのは、アシモフの担当編集者で自身もSF作家であるジョン・W・キャンベルJrだと言われています。

■「ロボット工学三原則」とは
　
　ロボット工学三原則というのは、ロボットが守らねばならない３つのルールです。
それは、次のようなものです。
**************************************************
第１条
ロボットは人間に危害を加えてはならない。また、その危険を見過ごすことによって、人間に危害を及ぼしてはならない。
第２条
ロボットは人間にあたえられた命令に従わなければならない。ただし、あたえられた命令が、第１条に反する場合は、この限りでない。
第３条
ロボットは、第１条および第２条に反するおそれのないかぎり、自分を守らなければならない。
**************************************************
　第１条が一番強くて、ロボットは人間に危害を加えてはいけません。そして人間が危ない時には助けなければなりません。
　次が２条で、人間の命令に従うこと。３条が最後で、１条・２条に反さなければ、自分を守ること。

　この三原則は絶対です。なぜなら、アシモフの世界のロボットは、作られた時から三原則が頭（ポジトロン脳）に組み込まれていて、違反すれば壊れてしまうのですから。

　アシモフの小説では、この三原則のどれかに矛盾が生じたせいで、ロボットが奇妙な行動をとります。その謎を主人公たちが解き明かし、解決します。SFですが、一種のミステリとしても楽しめるのです。
　たとえば、宇宙で主人公たちが生命の危機を迎えた時。ロボットに、生きるのに必要な資源を取りに行かせました。ところがロボットは、なぜかその資源の周りを大きな円を描いてぐるぐる歩き始めたのです。ちっとも資源を取ってきません。このままでは死んでしまうのに。いったいなぜ？（「われはロボット」所収『堂々めぐり』）

　この「ロボット工学三原則」は、非常に有名になりました。アシモフの後にロボットSFを書く作家は、多かれ少なかれ、この三原則を意識せざるを得ないほどです。
　それだけでなく、本物のロボットを研究する科学者たちにも大きな影響を与えました。 　
　ロボットが高度に発展していくと、やがて人間に危害を加える可能性がある。人殺しロボットだって作られるかもしれない。
　そんな時に、この三原則は、「ロボットやロボット開発者の守らねばならない倫理」として、思い起こされ、議論されるのです。

■「ロボット工学三原則」とChatGPT

　なぜ、突然「ロボット工学三原則」を持ち出してきたかというと、先週お話ししたChatGPTがきっかけです。
　ChatGPTの話を聞いた時、けっこうショックを受けました。
「えっ、AIがウソをつくの？　それってロボット工学三原則に違反しないのかな」って。
ChatGPTは、前回お話したように、自分の答えをなめらかにしようとするあまり、平気でウソの論文を作り上げたりします。
　私の心の中では、コンピュータシステムやプログラムは、アシモフのロボットと同じでした。プログラムは、人間の指示した通りに動く。自分では人間に危害を加えられない。犯罪に加担した場合、それはそのように作った「人間」のせいで、プログラムが悪いわけではない。
　ところがChatGPTは、自己の深層学習によって、自律的にウソをついたのです。
　私の考えていた「プログラム、ウソつかない」神話がガラガラと崩れた瞬間でした。
　プログラミングされて、ウソをついたなら問題はないのです。でも、ChatGPTは「自律的」だった。

　いろいろな人々がAIに対して感じる恐れを、漠然と抱いた瞬間でした。
　最近の戦争では、爆弾を搭載した無人機が相手の施設を攻撃したりしている。いつか、自律的に人間を攻撃するドローンが出てきて、敵と認めた人々を無差別に攻撃し始めたら。
　いや、もう出来ているのかもしれませんね。私としては、意思を持って攻撃してくる機械に殺されるなんて、絶対イヤですが。（死んでもイヤ、と書くところでした。もちろん意思を持った人間に殺されるのもイヤです。）

　人間は「意識を持った」存在ですが、その意識って何なのか。ウソをつくAIは、本当に意識を持っていないのか。じゃあ、AIにも「ウソをついてはいけない」と善悪の倫理を教え込まなければならない。
　じゃあ、その倫理って何なのか。善悪って何なのか。人によって善悪の定義はまちまちです。
　将棋のAIは、今では人間より強いですが、ある棋士は、そのAIの差す手に「一種の格調のようなものを感じた」と言っていました。
　人間でないものに、人間しか持たないはずの「格調」を感じたというのです。
将棋のAIは人間のように意識を持って格調ある手を差したのか。そんなはずはありません。
　では、「意識」とは何なのか。本当に、今のAIは意識を持たないといえるのか。 　
　考え出したらきりがないですね。
　ちなみに、アシモフは作品の中で、ロボット工学三原則について、こうも言っています。
「ロボット工学三原則をきちんと守っているものがいるならば、それはロボットなのか、善良な人であるのか区別がつかない」
　意識を持つにせよ、持たないにせよ、その者（AI）は善良であってほしいと思います。