映画ターミネーターみたいに人工知能が暴走して人間を滅ぼす事はないんですか？

映画ターミネーターみたいに人工知能が暴走して人間を滅ぼす事はないんですか？

No.7 ベストアンサー 回答者： 05051036 回答日時： 2019/01/14 18:48

AIでなくたって機械が誤動作して死亡事故起こす事はいくらでもありますよ。

システム的には正常でも、ロボット三原則に相当するようなプログラムを組み込んでいなかったら与えられた命題に対して人類を滅ぼすのがベストという結論出してしまって、制御権限与えられてる機械をどうにかしてやっちゃうことはあり得ますね。
三原則的なもの組みこんでても、なんかズレた解釈の結果やらかすかもしれません。

質問者様は部活とか仕事とかで新人さんの指導した経験はあるでしょうか？
きちんと１から１０まで教えたはずなのに思いもよらないズレた解釈でとんでもない行動やらかすことって、生身の人間でもあることなんです。
まして機械なら…。

なお、ターミネーターは２では生命の尊さを理解してます。（訳し方に数パターンあるんで、違う表現のものもあるかもしれませんが）

環境破壊を防ぐ、生態系を守る、絶滅危惧種を救う。
現実世界でも、そういった命題を与えたら命の尊さは学ぶかもしれません。
そのためには人類が滅びるしかないって結論に到達する可能性が大ですが。

この回答へのお礼

人間でも暴走することあるんですからコンピュータはもっと危険ですね。ロボット三原則通りにならないかもしれないですね。ありがとうございます

お礼日時：2019/01/14 20:26

No.6 回答者： yuripino 回答日時： 2019/01/13 16:36

ちなみに、映画「2001年宇宙の旅」のHALちゃんはそれに近い暴走をしてます。

所詮は人間が組むプログラムなのですが、「滅ぼす」という意図ではなく「選択肢として」そういう方法があるなら、可能性はもちろんあります（怖）。
でも、最近のデジタル世代の若者は、想像力が欠如し始め、自分のことしか考えなくなってきており、まるでAIのようにドライになってます。
本当に怖いのは機械ではなく、人間なのかもしれません。

この回答へのお礼

人間が一番怖いかもしれないですね。ありがとうございます

お礼日時：2019/01/13 16:53

No.5 回答者： ryuitimotomura 回答日時： 2019/01/13 15:08

今のAIの研究や医術開発は、あの有名なアイザック・アシモフが唱えたロボット工学3原則に添う

様に研究/開発されています。
特に充分人間の代わりが務まる位のロボット（Boston Roboticsの動画をYou Tubeで見ると良くわかる）
は慎重に開発が為されています。（戦闘用ロボットは除きますが）
何故3原則に従うかと言うのはそれが非常に合理的且論理的で有り、人類の保護の為に必要な原則
だからです。
アシモフはSF作家であると同時に有名な科学技術の解説者でも有り論理的思考に長けた人です。

因みにロボット工学3原則とは、
第一条
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、
人間に危害を及ぼしてはならない。
第二条
ロボットは人間にあたえられた命令に服従しなければならない。ただし、
あたえられた命令が、第一条に反する場合は、この限りでない。
第三条
ロボットは、前掲第一条および第二条に反するおそれのないかぎり、
自己をまもらなければならない。
— 2058年の「ロボット工学ハンドブック」第56版、『われはロボット』より

これに違反したロボットが登場するのが映画「I Robot」＝われはロボット。これ中々面白い
主人公はウィル・スミスだし。

この回答へのお礼

人間優先にした自己保存なんですね。I robot今度見てみようと思います。ありがとうございます

お礼日時：2019/01/13 16:25

No.4 回答者： 田舎はどこだ 回答日時： 2019/01/13 14:30

要は、どこまでAIに判断を任せるかという問題。

本来、人間が判断しなければならないことの線引きを、人間がきちんとできるか。
またアシモフのロボット三原則のように、すべてのプログラムに「人間を傷つけない」という一項を書き加えれば、防げる。

この回答へのお礼

そうプログラミングしておけば暴走防げますね。ありがとうございます

お礼日時：2019/01/13 14:36

No.3 回答者： yuripino 回答日時： 2019/01/13 14:18

やはり、過去に遡って歴史を変えないと避けられない未来なのかもしれません。

「運命ではない」・・誰かが言ってたような。

この回答へのお礼

タイムマシンも発明されたりして。ありがとうございます

お礼日時：2019/01/13 14:29

No.2 回答者： ノムリン 回答日時： 2019/01/13 14:17

そこまでなるにはまだまだ時間がかかると思う。

まぁ、分かりませんがね・・・。(-_-;)

あくまでも映画。

この回答へのお礼

あくまでも映画の話ですもんね。ありがとうございます

お礼日時：2019/01/13 14:29

No.1 回答者： lv4u 回答日時： 2019/01/13 14:14

暴走というより、正常稼働状態で、論理的に推論の結果、人間を殺すのが最も効果的って判断すればそんな行動を起こすこともありうるでしょうね。

たとえば、ある地域の大気汚染が酷いとなって、ＡＩが分析した結果、Ａ工場が原因と判明。
それで、Ａ工場を排除するのが、最も効果があると判定。
でＡ工場の破壊命令を出すとか。で、まきぞえになった人間が死ぬ。
そういう考え方をＡＩがすすめれば、「人間を滅ぼすのが最も良い解決方法」って結論が出ても不思議ではないですね。

この回答へのお礼

AIって生命の尊さとか学べないですもんね。ありがとうございます

お礼日時：2019/01/13 14:28