ロボットの未来
第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
そして先日、サイエンスゼロでお馴染みの東大の佐倉教授と国際電気通信基礎技術研究所の川人フェローが「BMI倫理4原則」をまとめていたと、新聞で知りました。
原則2 何人も本人の意志に反してBMI技術で心を読まれてはいけない
原則3 何人も本人の意志に反してBMI技術で心を制御されてはいけない
原則4 BMI技術は、その効用が危険とコストを上回り、それを使用者が確認するときのみ利用されるべきである
BMIというのはメタボの…ではなく「Brain-machine Interface」のことです。
簡単にいえば脳波を解析してプログラムを実行するもので今後、急成長するであろう分野です。アメリカが莫大な投資を行なっています。
なんでこんなことをいきなり持ち出すかって?
今までは人間とコミュニケーションをとれるロボットはごく一部で、3~5才程度の脳しかもたなくて「こんにちは」程度の会話しかできなかったのですが、ものすごくスムーズに会話できるロボットを見る機会がありまして、ちょっと怖くなったというか…
ロボットに興味がある人は「TEPIA」という科学館をご存知かもしれません。少なくともそこにいるレベルのコミュニケーションロボットではないのです。
この調子でいくと近い将来、AIをもったロボットが人間を支配する、というシナリオが現実になりかねませんので警鐘を鳴らしておきます。
ロボット・人工知能に関わる研究者は慎重に開発し、政治家は急ぎで法整備を。