航空機に搭載されているAIがパイロットの意思に反して事故を起こすケースがありますが、コンピューターが

航空機に搭載されているAIがパイロットの意思に反して事故を起こすケースがありますが、コンピューターが意思を持って墜落させたのかそれとも単純なプログラミングのミスなのかどちらだと思いますか？ディープラーニングによるAIの自立学習機能が事故を誘発した可能性もあると思います。２０４５年には人間を超えるといわれる人工知能ですが、その危険性が表面化した事案ではないでしょうか？

No.2 ベストアンサー 回答者： lv4u 回答日時： 2019/06/08 20:38

>>コンピューターが意思を持って墜落させたのかそれとも単純なプログラミングのミスなのかどちらだと思いますか？

スカパーで「メーデー」という番組があります。
飛行機の墜落事故を調査して再現映像を作った番組です。
この番組が好きでよく見ていますが、飛行機は、まだＡＩと言われるようなプログラムでは制御されていません。
いわゆる「自動操縦」ってレベルで、目的地のデータを入力することで自動的に飛行機を目的地付近に向かわせてくれるものです。

過去の番組においては、その自動操縦でのプログラム・ミスって事例は見たことありません。
尾翼の制御装置が劣化して壊れて制御不能になったとか、自動操縦装置に入力する地名が、似たものがあって、間違えて飛行先を入力し、とんでもない方向に飛行機が飛んでいったとか、飛行機の外部にある姿勢検知装置が、高い高度を飛行中に凍りついて、正常なデータが得られなくなり、ベテランパイロットが操縦していたのに、訳わからない状態になって墜落したなどのケースが紹介されていました。

ただ、自動操縦がパイロットの慌てた操作とか、自動操縦に逆らう操作をすることで解除されてマニュアル操縦に移行し、それまで安定して飛んでいた飛行機が姿勢を崩し、一気に急角度で墜落っていうパターンはあります。

いずれにしても、人工知能は使われてないので、それが原因での事故はありません。

No.4 回答者： Tacosan 回答日時： 2019/06/09 00:30

現在のオートパイロットは「AI」ではないし, よしんば「AI がなんかして墜落させようとした」としても

搭乗している「人間のパイロット」はそんなことを許してはならない
ことになっている.

どこが「化学」なのかさっぱりわからんけど.

No.3 回答者： tomban 回答日時： 2019/06/08 20:40

私が把握している限りでは、ほとんどの事故や重大インシデントの場合「ヒューマンエラー」の可能性のほうが高いはずです。

人間が、自分の経験を基にしての判断をし「そんなはずはない」という「思考の膠着」を生む。
それによって判断力が低下しているにかかわらず、操作を続けたことが事態を悪化させたと。

ＡＩそのものは、まだまだ「命令を正しく実行するにはどうすればいいか？」を思考するのみに過ぎません。
ある特定の命令なり行動なりを、ひたすら実行していくには人間を凌駕しつつありますが（碁のＡＩのように）「それ以上の何か」についてまで追及は出来ないし、その必要性を感じもしないと思います。
ＡＩには哲学が無いのです。
今のところは。

No.1 回答者： trajaa 回答日時： 2019/06/08 20:33

AIが独自で判断出来るわけではない

ありとあらゆるセンサーからの情報を信用して判断する
そのセンサーが正しくない情報を渡すとかセンサーそのモノが故障しているとか
そう言う場合、誤った情報を元に判断する事になる

AI自体がという以前に、そう言うセンサー類の不具合だろね普通に考えて