コラム・エッセイ

　現れたと思ったら1年も経たないうちに世の中を変え、今や、これなしには何も動かない、大国間の首脳会議でも第1のテーマになるほどのAI。そのAIが暴走して、数年のうちに人類を滅亡させるかもしれないから、技術開発にブレーキをかけなければならないと警告が発せられた。

　発したのは、したり顔のコメンテイターや宗教家、政治家ではなく、AI技術開発で大儲けするはずの企業経営者や開発担当者だというのだから、これまでの様々な警告とは様子が違い｢えっ!、ウソッ!、ホント!?｣と驚きながら｢また、また、ご冗談を｣と笑い飛ばすことの出来ない真実感で迫ってくるのだ。

　それと同時に｢なぜ、そんなことが言えるの?｣｢何が起こるというの?｣と｢?｣が続くが、これには全く答えてくれていないから、驚きながら真実味、現実味を伴った恐怖感が迫ってくる。

　でも、このことから一つだけ明らかになることがある。それは今世界中で進められているAI技術開発には｢人間不可侵｣の原則はないということだ。

　世の中を変えるような新しい技術開発で起こることを考えるときすぐ思い浮かぶことは映画｢2001年宇宙の旅｣で、宇宙船を運航するコンピューター｢HAL｣が自分の故障を直そうとする操縦者に反抗して勝手に動き出すシーン。

　人間の作ったコンピューターでも人間の指示に従わず人間を危険な目に遭わせることも起こるのだという警告に見えた。このシーンを見たとき思ったのは、当時の人気マンガ｢鉄腕アトム｣のこと。人間に作られたスーパーロボット。AIで動かされ、何でもやってのける能力とパワーを備えているが、どんな状況でも、例え自分が破壊されるかもしれない場面でも決して人は傷つけない｢人間不可侵｣が貫かれているのだ。

　同じようにAIに操作されていても、人間に逆らうこともあるHALと、逆らわないアトムとの違いは、それぞれの作者アーサー・クラークと手塚治虫の考え方の違いというのでなく、西洋と東洋の、技術と人間との関係についての本質的な感性の違いを反映しているのかと思ったのだが、SF作家のアイザック・アシモフは二人より先に｢ロボット工学三原則｣を発表していて、開発技術は人間に危害を加えないこと、人間の命令に従うこと、その二つを前提に自分を守ることが許されることを唱えている。

　人間不可侵の技術開発の原則を手塚治虫さんだけが受入れいて、HALも、AI技術開発もこの原則を無視していることが分かる。AI暴走による危機がどのようなものかはまだ分からないが、この3原則を採用することを、開発者も企業も政治家も利用者も受け入れれば、悪用は防げなくても人類の滅亡は最低限防ぐことは出来、｢人類滅亡｣の警告は出さなくてもよかっただろう。

　ブレーキを掛け、3原則を取入れて開発競争をやり直そう。そうしなければ人類は滅亡させられると、改めて警告したい。

（カナダ友好協会代表）