将来 “AI” がクーデターを起こすなら、その後の “未来人” はどのように効果的にそれを阻止する？

将来 “AI” がクーデターを起こすなら、その後の “未来人” はどのように効果的にそれを阻止する？

質問者からの補足コメント

• 回答ありがとうございます。
  例えば “電話” の開発者って最初2人いましたよね？
  “AI” の開発者って、いったい何人暗殺すれば “AI” の潮流を永劫凍結できるでしょう？

  No.1の回答に寄せられた補足コメントです。 補足日時：2018/11/09 22:58

• 回答ありがとうございます。
  “AI” の実装形態が複雑化して、“AI” と人間の生活機能が融合化した未来では、どのような遮断方法があるでしょう？

  No.5の回答に寄せられた補足コメントです。 補足日時：2018/11/10 14:40

• 回答ありがとうございます。
  暴走や欠陥、蜂起を予見できれば “非常停止” 可能かもしれません。
  
  人間が “非常停止” できなかった例です。
  自動運転車で歩行者死亡事故　ウーバー車両　米アリゾナ州 - BBCニュース
  https://www.bbc.com/japanese/43467055
  「困ったなあ」「不便だなあ」の範疇を超えてしまいました。
  今後、“AI” は我々の生活にどこまで組み込まれ、どこまで介入してくるでしょう。

  No.8の回答に寄せられた補足コメントです。 補足日時：2018/11/11 11:02

• AIを頭脳とする全自動ロボットが起こした人間の死亡事故に焦点を当てたドキュメンタリー「The Truth About Killer Robots」 - GIGAZINE
  https://gigazine.net/news/20181114-the-truth-abo …
  
  

    補足日時：2018/11/14 21:41

No.10 回答者： viajar_rajaiv 回答日時： 2018/11/15 12:45

昨日のホンマでっかTVでも言っていましたが、世間はAIについて大きな勘違いをしています。

このことは前の回答でも述べたのですが、AIというのは人間の指示通りに処理しているだけです。
自分で考えて行動しているわけではありません。この点を何度言ってもなぜか回答者さんは無視されていますが、AIというのはその程度のレベルなのです。
AIが意外な答えを出すので「自ら考えている」ように見えるだけです。
また、AIは自ら新しい方法を考え出したり新しい能力を身につけたりすることができません。
AIがクーデターを起こすというのは「タイムマシンが悪用されたらどうする」ぐらいの現実味のない話なのです。

>人間が “非常停止” できなかった例です。
>自動運転車で歩行者死亡事故　ウーバー車両　米アリゾナ州 - BBCニュース
>https://www.bbc.com/japanese/43467055

自動運転車が事故を起こしたからといって必ずしも車に責任があるわけではありません。
その事故が具体的にどんな状況で起こったかをちゃんと確認した上での反論でしょうか?
また、これは決してAIが暴走して起こった事故ではありません。
「AIがクーデター」とは別次元の話です。AIが「事故を起こそう」という意志のもとに起こしたのではありません。

この回答へのお礼

回答ありがとうございます。
~100, ~200, ~300年, 千載にわたり今知り得ぬ技術が開発されるなか、“AI” がなお永劫に自ら考えられぬ事由と筋道はいかなるものでしょう？

お礼日時：2018/11/15 15:00

No.9 回答者： 05051036 回答日時： 2018/11/14 22:02

改めて考えたのですが、ユーザーの主観では『クーデター』に見えても、AIの主観では『指示された仕事の範囲内』という解釈で動いてるだけ。

という可能性は出てくると思います。
質問者様は仕事で新人にアレコレ指示出したことはあるでしょうか？
予想だにしなかったような物凄くズレた解釈で行動してとんでもないトラブルになった経験は？
AIでも似たようなことは起こりえると思います。
1979年に発表されたジェイムズ・P・ホーガンによるSF小説『未来の二つの顔』でこの問題を深く取り上げています。
検索したらあらすじとかがHitします。

こういう展開を防ぐための安全装置のようなプログラムを組み込んだら、今度はそれによってすぐ動作が止まってしまうためとても不便になるかもしれません。
それを嫌がって安全装置を切ってしまい、思いもよらない動作で人間が被害に遭うという可能性が出てくるでしょうね。
AIでなく普通の機械で、すでにうんざりするほど起きている事故…というより事件です。

未来人がそれを阻止するためには、今の製造業の現場で定期的に行われているような安全教育を徹底し毎朝再確認して唱和する方向に向かうのかもしれません。

「AIの良心回路ヨシ！」
「AIの安全装置ヨシ！」
「AIの電源確保ヨシ！」
「今日も一日ゼロ災で行こう！」

No.8 回答者： viajar_rajaiv 回答日時： 2018/11/11 09:56

前にも書いた通り、クーデターといっても具体的に何をするのかが謎です。

いくらパソコンが暴走したところで人に傷を負わせることはできないし……。
それに、AIは新しい方法を考えたり新しい能力を獲得するということができないので暴走したとしてもたいした事はしません。
例えば「言語を理解して自ら発話するAI」が暴走したとしてもせいぜい不気味なことを言うぐらいしかできません。
万が一暴走したとしても「困ったなあ」「不便だなあ」と思う程度でしょう。

人間に危害を加えるような機械にAIを搭載する際は、製作段階で必ず安全装置のようなものを入れておくはずです。
例えば「非常ボタン1つで停止する」とか「危険な機能は複数の人が同時に操作しないと作動しない」など。

この回答へのお礼

以下、未回答(無視)の質問は、持ち越しでしょうか？
私の質問は、未来(未確認)の “AI”。
…貴方の回答は、現在(既知)の “AI”。
“未来の質問” に、“現在の知識” では行き詰まるのも無理ありません。
お疲れ様でした。

・ “AI” の実装形態が複雑化して、“AI” と人間の生活機能が融合化した未来では、どのような遮断方法があるでしょう？
・ ~100, ~200, ~300年, 千載にわたり今知り得ぬ技術が開発されるなか、“AI” がなお永劫に自ら考えられぬ事由と筋道はいかなるものでしょう？

お礼日時：2018/11/22 14:33

No.7 回答者： 05051036 回答日時： 2018/11/10 20:00

AIの反乱ってのはSFに古くからある『フランケンシュタイン・コンプレックス』の一つですね。

ロボットが造物主たる人間を破滅させるというもの。
その対抗策としてロボット三原則というものも提唱されています。

第一条
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条
ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

当時はハードウェアとソフトウェアという概念がなく、ロボットの電子頭脳ってのが今でいうAIに相当するので、この条文の『ロボット』を『AI』に置き換えればAIの反乱を防ぐプログラムの原案にもなると思います。

もっとも、こちらも古くからある概念なんで色々と穴があり、その穴、今でいうセキュリティホールのようなものを突いて反乱もしくは予期せぬ動作を招き、結局は人間の破滅に繋がることも考えられます。
反乱を経験した未来人は、その教訓を生かして穴のないより完璧な『三原則』を作ってAIに組み込んで阻止しようとするのではないでしょうか。
もっとも、現代人を悩ますセキュリティホールと同様に、AIに組み込む『三原則』にもどんなにパッチ当てても想定しきれなかった穴をついて反乱とか予期せぬ動作による破滅のリスクが付きまとうのかもしれませんが。

電源を切るという手段も提唱されてますが、AIによる機械に依存するようになった人間こそが電源切るのを阻止する側に回るのではないでしょうか？
AIの機械を使いたい、作動させたままで何とかAIの不具合を修正しろよ！
そんなユーザーのワガママによって、電源を切るに切れなくなったりして。

システムが複雑になって保守も人間の手では追っつかなくなって機械任せにしてしまい、人間の手で電源切ろうとしたら保守のシステムに妨害されるなんてこともあり得ますね。

No.6 回答者： konjii 回答日時： 2018/11/10 14:40

マスコミをそのまんま信じてはいけません。

管理職はマスコミが作った架空の職位です。それと、管理監督者を勘違いして管理職だからサービス残業は仕方ないと思い込ませたマスコミの罪は重い（多くの死者を出しました）。
今度はＡＩです。今のままでＡＩは出来ません。少なくとも2万年掛かるでしょう。マスコミの親分方をＡＩの操縦する自動車へ載せて高速道路をぶっ飛ばすと、きっと気絶することでしょう。また、マスコミの親分方をＡＩの操縦するジェット機へ載せて飛行しようとすると、タラップの下で泣きながらイヤイヤをするでしょう。ね。

No.5 回答者： viajar_rajaiv 回答日時： 2018/11/10 11:04

よく勘違いされがちですが、AIというのは人間が考えた方法に従って処理をしているだけです。

新しい方法を考え出すことはできません。
なのでバグはあってもクーデターを起こすことはないでしょう。
そもそもAIがクーデターって一体何をするのでしょうか?

それでも万が一のことがあるかも知れません。しかし止める方法は簡単です。
電源を切ればいいのです。
ネットワークに接続された多数のコンピューターの複合体がAIとして機能している場合は
多少手間はかかりますが世界中のケーブルを切断すればいいだけです。

No.4 回答者： chiha2525 回答日時： 2018/11/10 09:31

あと２０～３０年もすれば『昔はＡＩ、ＡＩ言って騒いでたよねー』って昔ばなしになってるか、誰も話題にしない程度のものに成り下がってい

ますｗ

この回答へのお礼

回答ありがとうございます。
その後の “未来人” が至極効果的に地下抵抗活動を行っていれば “AI” の発展のない平穏な時間軸もあり得るでしょうね。

お礼日時：2018/11/10 14:56

No.3 回答者： Lescault 回答日時： 2018/11/10 00:49

まぁ、ターミネーターのような世界が本当に展開する可能性もあるが、あれは効果的な阻止と言うには犠牲も労力もあまりに大きすぎですよね＾＾；。

阻止の基本は、AIを起動する動力のオンオフを常に人間側の手に保持しておくことでしょうか。

この回答へのお礼

回答ありがとうございます。
ターミネーター、ヤバいですよね。
“AI” が永劫にコントロール可能であり続ければよいのですが、いささか勘ぐってしまいます。

お礼日時：2018/11/10 01:27

No.2 回答者： 田舎はどこだ 回答日時： 2018/11/09 23:11

難しいね。

人間はイメージできるものはいつか実現できる。では人工知能の概念を発明した人間を殺せばいいのか。
それともコンピューター（自動計算機）が生まれた時点で、人工知能はいくつかの岐路はあっても必然的に生まれるものだったのか。
とすると数学が生まれることも阻止しないとダメ…？

ムリや。

この回答へのお礼

回答ありがとうございます。
真面目に考えると “阻止” 難しいですよね。

お礼日時：2018/11/09 23:39

No.1 回答者： 田舎はどこだ 回答日時： 2018/11/09 22:44

ターミネーターを過去に送って、AIの開発者を暗殺するんじゃ。