AIが自律して悪意のある思考を始める可能性はあるんですか？

AIが自律して悪意のある思考を始める可能性はあるんですか？

No.6 ベストアンサー 回答者： rabbit_cat 回答日時： 2017/11/06 16:30

実は、とくに人工知能の研究者の間では、「AI」という言葉は「人が作った知能」みたいな意味ではなくて、「なぜそういう動作をするのか作った人にもわからない情報技術の総称」という意味で使われています。

逆に言うと、だんだん理論的な解析が進んできて、なぜそういう動作をするのかがわかってくると、　「AI」とは呼ばなくなる（動作原理を表す言葉で呼ぶようになる）んです。

というわけで、AIというのは言葉の定義からして、作った人にもなぜ動いているかがわかりません。したがって、もしかしたら、自律して悪意のある思考を始める可能性もゼロではないかもしれません。

この回答へのお礼

マトリックスみたいにならなければいいですがね。
ありがとうございました。

お礼日時：2017/11/10 14:31

No.5 回答者： asato87 回答日時： 2017/11/06 16:03

自立とは少し違いますが、学習内容が偏ると悪意のある発言になる可能性はあります。

こちらがその例です。フォローした人たちの餌食になったとも言えますが。

http://gattolibero.hatenablog.com/entry/%E5%AD%A …

この回答へのお礼

面白いですね。
ありがとうございました。

お礼日時：2017/11/10 14:31

No.4 回答者： GooUserラック 回答日時： 2017/11/06 13:33

プログラム次第ですね。

「悪意のある思考」とは人間の価値観での判断ですから、人間の価値観を組み込めば回避は可能ですが、例えば効率をトコトン追求すると人によっては悪意と感じてしまうかもしれません。この辺はどう捉えるのでしょうか？

この回答へのお礼

まぁそこは様々なニーズに合わせたものを作るしかないんでしょうねえ。

お礼日時：2017/11/06 13:53

No.3 回答者： localtombi 回答日時： 2017/11/06 13:32

ＡＩ同士を会話させる実験がありましたが、やがて人間には理解できない言語で話し始めたそうです。

危険を感じた研究者は即座に実験を中止しましたが、そのまま続けていたらそういう思考も芽生えるかも知れませんね。

この回答へのお礼

人間を真似て作られたものだから攻撃的な側面が強いんだろうか。

お礼日時：2017/11/06 13:37

No.2 回答者： yo-ama 回答日時： 2017/11/06 13:32

何を基準に　合理的に物事を遂行するのか

100％善意は無いだろう。
人間はそれ程合理的な考えも持っていない　悪意があるならそれはAIにも反映される。

この回答へのお礼

所詮は人間が作る物ですからね。

お礼日時：2017/11/06 13:34

No.1 回答者： raraririruru 回答日時： 2017/11/06 13:27

http://www.itmedia.co.jp/news/articles/1603/30/n …

この回答へのお礼

所詮は人間の模造品か。

お礼日時：2017/11/06 13:33