人工知能の倫理指針

人工知能学会で２０１７年２月２８日にまとめられた指針の中で、

　　「人工知能自身にも倫理性を」求めた

とのことでした。（朝日デジタル３月１日より）
これは将来　「人工知能が人工知能を作り出す」　ことを想定してのことだそうです。

ここで質問なのですが、「人工知能が人工知能を作り出す」　というのはどういう形態があり得るでしょうか。
人工知能学会がどう考えたのかという意味ではなく、どういう可能性があり得るかという質問です。

「人工知能が人工知能を際限なく作り出すことなどできない」という話は横に置き、できてしまうとしたら、どんな形あるいは方式の可能性があるでしょうか。

人工知能が人工知能を作り出したら、人間にはもう何をやっているのか分からなくなるようにも思います。
きっとその時のためにいまから指針を作ろうというのが、上の指針の趣旨だと思います。

また、コンピュータの電源を切ってしまいたくても切れなくなるような可能性もあるとしたら、どんなことが考えられるでしょうか。
よろしくお願いします。

No.3 ベストアンサー 回答者： zuntac 回答日時： 2017/03/21 11:22

人工知能に作曲させるとか、膨大な数の医学論文から主旨内容を理解して検索するとかが行われてますので、人工知能が人工知能について調査検索すれば新しい人工知能が作れるのでは。

また、拡大解釈すれば、人間も神が作った人工知能ですし。

人工知能の本体がクラウド上に存在するようになるので、それが全世界のコンピュータシステムをコントロールするようになればSFが現実になるのも近いのでは。

この回答へのお礼

人工知能がハッカーのようになって、全世界のコンピュータを支配したら、確かに恐ろしいです。
ご説明、ありがとうございました。

お礼日時：2017/03/21 13:37

No.5 回答者： yhr2 回答日時： 2017/03/21 12:05

No.4です。

No.4に述べた「ロボット憲章」などは、「ロボットを作る人間」に対して求めたものではありますが、同時に作られた「知性」に対してもその遵守を求めているのが特徴です。「第3条」なんて、まさしく「ロボット自身の正当防衛の権利」を認めているということですから。

お題目の「人工知能自身にも倫理性を求めた」とは、まさしくそういうことです。

結果的には、それを作り、「第2条」に基づいて命令する人間の問題なのですけどね。それを「AI、ロボット側」にも求めておかないといけなというのが、人間の弱さ・醜さなのでしょう。

この回答へのお礼

yhr2様　丁寧な説明ありがとうございます。
ご説明は（多分）おおむね分かりました。
No4.にもお礼をさせて頂きました。ありがとうございました。

お礼日時：2017/03/21 22:01

No.4 回答者： yhr2 回答日時： 2017/03/21 11:40

自然の世界を見ればわかる通り、「自然」状態であれば「弱肉強食」「強者が自分の都合のよい社会の仕組みを作る」ということになります。

人間の社会では、それを「理性」「倫理」によって「法律」「社会規範」という形で克服しています。

人工知能も、なんらの「規範」の存在しない自然状態に置けば、同じような「野生社会」を生み出しかねません。
あるいは「法律」「社会規範」が存在しても、自分自身を停止・廃棄しようとする人間に対して「正当防衛」によって攻撃を仕掛けることもあり得ます。映画「2001年宇宙の旅」のコンピュータ HAL (IBM の一つ「手前」の文字列との説もある）がその例ですね。
https://ja.wikipedia.org/wiki/2001%E5%B9%B4%E5%A …

そういったものに対する例として、1950年にSF作家アイザック・アシモフ氏が小説の中で「ロボット工学三原則」を書いており、手塚治虫氏も同様の「ロボット憲章」を掲げています。
第1条：人間に危害を加えないこと。
第2条：人間の命令に服従すること。ただし第1条に反する場合は除く。
第3条：第1条、第2条に反しない範囲で自己を守る。
https://ja.wikipedia.org/wiki/%E3%83%AD%E3%83%9C …

こんなものを前提に、社会的な規範の確立の必要性を考えているのだと思います。

この回答へのお礼

ご説明ありがとうございます。
やはり「人工知能が人工知能を作り出す」という場合、人工知能搭載ロボットという形態をとるということでしょうか。（「ロボットがロボットを作り出す」）

それともソフト上だけでできると思われますか。ただその場合、人工知能にはメモリもＣＰＵもハードディスクも電気なども作れないのが問題になりそうに感じます。（人間が自力で脳も電気も作るのと比べてです）

お礼日時：2017/03/21 21:58

No.2 回答者： lv4u 回答日時： 2017/03/21 11:20

>>ここで質問なのですが、「人工知能が人工知能を作り出す」　というのはどういう形態があり得るでしょうか。

人工知能は、初期のころ、判断のネタになる推論ルールを全て人間が用意してあげていました。
でも、ある時期から、そのルール自身をプログラムが見つけて、生み出すような仕組みができたんですね。

「こういう条件がそろうと、こんな結果が出やすい」っていう探索は、人間よりもコンピュータのほうが得意ですからね。
そして、ルール作りの元ネタになる膨大なデータ（ビッグデータ）が揃う環境も整ってきました。

まあ、簡単に言うと、こんなところでしょう。

>>人工知能が人工知能を作り出したら、人間にはもう何をやっているのか分からなくなるようにも思います。

人工知能がある結論を出したとき、どのルールを適用して、判断したのか、人間にはわかりにくくなるでしょう。

>>また、コンピュータの電源を切ってしまいたくても切れなくなるような可能性もあるとしたら、どんなことが考えられるでしょうか。

ＳＦによく出てきますが、人工知能の防衛システムに阻まれるようなときでしょうね。
ＳＦ小説では、人工知能を壊そうとすると、それに操られたロボットや人間に阻止され、殺されてしまったりする話がありますね。

No.1 回答者： Mokuzo100nen 回答日時： 2017/03/21 11:16

＞「人工知能が人工知能を作り出す」　というのはどういう形態があり得るでしょうか。

１．人工知能Aができるだけ多くの人工知能（複数形）に同じ質問を投げかけ、そのレスポンスを解析し、もっともスマートな群とスマートではない群に分けます。
２．もっともスマートな群とスマートでない群の比較をして、スマート群の共通項、スマートでない群の共通項をまとめます。
３．スマート群の共通項を最大化する設計と、スマートでない群の共通項を最小化する設計を立案します。
４．上記の二つの設計から相互矛盾のない設計を抽出・提案します。

ここまでが人工知能の役割で、この設計案を具体化するには配線工や電気職人が必要かも、、、。

この回答へのお礼

ご回答ありがとうございます。
確かにこうやって進化していけば、どこまでも？　進化しそうです。
ありがとうございました。

お礼日時：2017/03/21 13:34