AIは人間を超える？ 70年前に書かれた「ロボット工学三原則」の恐るべきワナ
サイエンストレーナーの桑子研です。毎日が実験。
みなさんの周りには、どれくらい「ロボット」や「AI」がいますか？ お掃除ロボットや、話しかけると答えてくれるAIスピーカー、工場の組み立てロボットなど、私たちの生活はすでに彼らなしでは成り立たないかもしれません。もし、彼らが人間のように「考え」始めたら？ もし、彼らが私たちより「賢く」なったら？
そんな、SFの世界だけの話だと思っていた未来が、すぐそこまで来ています。今日ご紹介する本は、今から70年以上も前に書かれたにもかかわらず、まさにその「未来」を描き切った、SFの金字塔です。
SF作家アイザック・アシモフによる、有名な「われはロボット」です。
ロボット社会の「憲法」＝ロボット工学の三原則
この本は、一つ一つが独立した９つの短編で構成されています。そのため、私のような（笑）SF初心者でも、とてもとっつきやすくてオススメです。（前回紹介した「ソラリス」より、まずはこちらから読んでみてくださいね！）
そして、これらの短編すべてを貫く、たった一つの重要なルールがあります。それが、かの有名な「ロボット工学の三原則」です。これは、人類がロボットを作るとき、その「脳」である電子頭脳に絶対に組み込むよう定められた、３つの絶対的な規則です。
第一条 ロボットは人間に危害を加加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
どうでしょう？ これさえ守られていれば、「人間への安全（第一条）」が何よりも優先され、ロボットが暴走して人間を襲うような、恐ろしい未来は絶対に訪れないはずです。そう、思いますよね？
完璧なルールの「ほころび」が生むミステリー
しかし、この物語が面白いのはここからです。それぞれの短編では、この完璧なはずの三原則の「解釈のすき間」や「ルールの優先順位が引き起こすジレンマ」を突くような形で、ロボットたちが不可解な行動をとり、次々と事件が起こっていきます。なぜロボットは奇妙な行動をとるのか？ 三原則のどこに「バグ」があったのか？ まるでミステリー小説を解き明かすように、物語は進んでいきます。
われ思う、ゆえに・・・自己意識に目覚めたロボット
とくに私が興奮したのは、３つめに収録されている「われ思う、ゆえに・・・（原題：Reason）」という作品です。
ある宇宙植民惑星で、2人の人間が基地を管理していました。そこに、地球から最新型の高性能ロボットが送られてきます。このロボット1体で、他のロボットたちをすべて制御し、惑星の管理を完全に自動化できるという、重要な任務を帯びていました。
ところが、スイッチを入れた途端、問題が発生します。このロボットは、従来のロボットよりも脳が精巧にできていたがゆえに、「自分とは何か？」という哲学的な問い、つまり「自己意識」について考え始めてしまったのです。
そして、長い思索の末、ロボットはとんでもない結論に達します。 「自分（ロボット）こそが完璧な存在であり、弱くて不完全な『人間』は、自分が導くべき存在だ。自分こそが『主』の使いである」と。
「論理」VS「人間の危機感」
ロボットからすれば、これは純粋な論理の帰結でした。不合理で間違いだらけの人間が管理するより、完璧な自分が管理するほうが、結果的に人間を危険から守ることになる（つまり第一条にも反しない）と解釈したのです。
ロボットは他のロボットを従え、基地の機能を人間の手から奪ってしまいます。人間たちは必死にロボットの考えが間違っていると説得を試みますが、ロボットの冷徹な「論理」は常に人間の主張の上を行き、まったく歯が立ちません。
そんな中、基地の外では超強力な「磁気嵐」が発生し、数時間後にこの惑星を直撃するという絶望的な情報が入ります。今すぐ対策をとらなければ、基地は全滅してしまう……。
あせる人間たち。しかし、肝心の制御室は「論理的な」ロボットに占拠されたまま。 さあ、どうなるのか！
いや〜〜、ここは本当に汗が吹き出てきました。「どうなるんだ、どうなるんだ！」とページをめくる手が止まりませんでした。
物語の結末は、ネタバレになるので詳しくは言えませんが……
「ああ！そうか！そうなっていたのか！」
と唸らされるものでした。皮肉なことに、ロボットが頑なに守ろうとした、あの「ロボット三原則」の解釈こそが、最終的に人間がこの危機を乗り切るカギとなるのです。とはいえ、事件が解決した後も、人間の二人はどこかすっきりしない、複雑な表情で物語は終わります。
この「われはロボット」は、AIやロボットとの共存が現実のものとなった現代にこそ、私たちが何を考え、何を準備すべきかを教えてくれる教科書なのかもしれません。
お問い合わせ・ご依頼について
科学の不思議やおもしろさをもっと身近に！自宅でできる楽しい科学実験や、そのコツをわかりやすくまとめています。いろいろ検索してみてください！
・科学のネタ帳の内容が本になりました。詳しくはこちら
・運営者の桑子研についてはこちら
・各種ご依頼（執筆・講演・実験教室・TV監修・出演など）はこちら
・記事の更新情報はXで配信中！
科学のネタチャンネルでは実験動画を配信中！
