AIと社会問題

Question

大きな発明があると、社会はその恩恵を受けると同時に、新しい問題を生じます。
電気にしても、自動車にしても、便利ではありますが大きな社会問題を伴ってきました。
今、AIの出現にあたり、新たに顕在化する問題があるなら、それはどう言った事でしょうか。
よろしくお願いします。

phj · Accepted Answer

ＡＩにおける最大の問題は「ＡＩの判断は常に正しいか。間違っていた場合の損失は誰が負担するか」です。

自動運転車の問題がまさにそれです。ＡＩによる１００％自動運転の車が事故を起こした場合、誰が責任を取るのか、が問題になっています。技術的な問題や保障問題は実はそれほどたいしたことが無いのですが、一番の問題は「判断し責任を負うのは人間だけ」という法律の根本が揺らいでいるのです。

ただ、航空業界は、１９８０年代からのオートパイロットと操縦士の判断の争いについて、ずっと研究してきており、最近「オートパイロットが適正な回避行動を行っているときに、パイロットは邪魔をしてはならない」という判断になりました。アメリカの連邦航空局が通達を出した形になっています。

つまり「ＡＩの判断と操作を人間が邪魔をしてはならない」ということで、実はこのような各業界での判断が積み重なって、１００％自動運転車の流れが整いつつある、ということです。

で、これら「ＡＩが判断するのが正しい」ということが普通の出来ごとになる未来、大体今から５０年から１００年ぐらい先に、もうひとつ危機が生まれるでしょう。

それは「はたして、人間による政治や経済運営とＡＩによるそれではどちらがより豊かになるだろう」という命題です。このままでいけば、１００年後ぐらいにはＡＩによるユートピアが出現するでしょう。
でも、それは人類の存亡をかけた問題になるかもしれません。

cleemy · Answer

人工知能と人工人格（Artificial Individuality？？？）を区別すべきかもしれません。

「AIには価値観というものが予め存在していませんから、それを学習してもらわなければ」という部分については、そういうとらえ方自体がレトロな感じがしたんですが、数日前はそこには触れずに回答しました。

人工知能は問題解決のためにあり、人工人格は社会的存在であると。このようにとらえると、人工知能に価値観はそもそも無関係で、人工人格は価値観こそが重要になってくると考えられます。

例えば、ある経済政策のアイディアについて、意見を求めた場合を考えてみます。

人工知能らしい回答
「都市部では支持されるでしょうね。地方でも、20代や30代は支持してくれるかもしれません。今月のFRBの発表によってその政策が持つ意味合いは大きく変わりそうです。○○県、○○県、○○県においては、FRBの方針と関係なく、短期的に雇用の改善につながるでしょう。○○党の○○派はこの政策に強く反対する可能性があります」

人工人格らしい回答
「おや。あなたもそのアイディアに惹かれましたか。惹かれたかどうかはともかく、私に意見を聞いてみたいと思う程度には興味を持ったわけですね。しかし経済政策というのは本当に難しいものです。ここ数年の日本の経済政策によって、2つの重要なテーゼの正しさが証明されたと考えています。それは経済についての長期的予測は難しいということと、野心的な経済政策は必ず意図しない結果をもたらすということです」

人工人格なんてものが登場するのはずっとずっと先のようにも見えますが、人工無能の元祖のELIZA（1960年代）なんかは人工人格といえます。このサイトのオシエル君も、少なくとも企画段階では間違いなくELIZAを参考にしたはずです。

ところで、時代とともに妄想の内容は変わりますが、自分は生身の人間ではなくAIなのではないかという妄想はこれから急増するのではないかと思います。

cleemy · Answer

AIの病気を描いた漫画としてすでに『AIの遺電子』がありますが。

AIには、AI特有の治療がありうる……というか、すでにあると思います。

例えば、動物が写った写真から、どの動物かを認識するディープラーニング（以下DL）のシステムがあるとします。猫にはスフィンクスという品種がありますが、このスフィンクスの画像を判別しようとした時だけ、ネズミやブタと誤認しやすいという問題がこのシステムにはあるとします。こういう時、スフィンクス、ネズミ、ブタなどの画像から、できるだけ紛らわしい画像によってたくさん学習させると、いずれスフィンクスの画像も正しく認識できるようになります。

この「紛らわしい画像の学習」を治療とみなすなら、すでにAI特有の治療は存在しています。そしてこの「治療」は、これまでのよくあるシステムの「不具合の修正」とは大きく性質が異なっています。

なぜこうなるかというと、DL（を含むニューラルネットワークのシステム）は、既存のシステムと違ってアルゴリズム的でないからです。フローチャート的でないといってもいいかもしれません。個人的に、DLの何が衝撃的だったかというと、将棋や囲碁で世界最高峰の人間に勝ったことではなく、システムが概念を自力で発見することが出来るということです。

DLが流行するまでは、人間の顔を認識させようとしたら、「目」や「輪郭」をどのように認識するかをあらかじめ人間が考えてプログラムを書く必要がありました。しかしDLでは、「目」や「輪郭」という概念そのものを自力で発見します。しかも、「ここが目を認識している部分だ」というような、そういう部分を抽出することが困難です。これは恐ろしいことです。普通なら、「ここが目を解析しているコードだ」と指し示すことができますが、DLでは、実質的にブラックボックス化されます。

人間の脳も、きちんとパーツに分かれていません。人間の脳には（おそらく）設計者がいないからです。

人間には、例えば、読字障害という障害があります。文章を読むのに非常な困難がともなう障害です。興味深いのが、読字障害の人は、空間認識能力に優れている場合が多いそうです。なぜそうなるのでしょうか。スマホのように「機能を追加していく」という発想なら、「文章を読む」ということと「空間の認識」にはあまり関係がなさそうです。さらに、読字障害の人でも、粘土遊びなどの指先を使う遊びによって、「読字」において若干の改善が見られる場合があるそうです。これはとても不思議です。文章を読むことと粘土遊びと何の関係があるのでしょうか。

さて、DLのように人間の脳に近いものが登場し、社会はどう変わるのか。

短期的には、AIが社会にもたらす最大の具体的利益は、病気の診断の精度が劇的に高まることでしょう。いったい今まで何をやっていたんだという感じになるでしょう。

短期的・中期的にAIが社会にもたらす脅威は、機械が人間に対する脅迫を行うことです。

最近ランサムウェアが話題ですが、あれも脅しの一形態です。金を払わないとデータが消えるぞと。

よくiCloudから有名人の裸の写真が流出していますが、大量にクラックしたアカウントの中から、誰が最も金を持っていそうな人物か、誰が最も流出が困るであろう人物か、といったことを、AIは瞬時に判別できるようになるでしょう。（ちなみにパスワードクラック自体にはDLを使うまでもないですが、これからはDLを使ったパスワードクラックも増えるでしょう）

ある男性がある愛人を口説いているチャットログがあったとして、このチャットログを誰に見せたらこの男性は一番困るのか？こういったことをAIは瞬時に判断できるようになるでしょう。そしてチャットログやSNSでの発言から、効果的な脅しの文面を自動的に生成できるようになるでしょう。

問題は、今は機械による脅しは「金を払え」が多いですが、そのうち、SNSユーザーに対して「この民族に対する憎悪を煽る発言をしろ」とか、投資家に対して「何月何日にこの株を売れ」とか、そういうものが増えてくるだろうということです。

自己増殖の過程に脅しを使うようなケースも考えられます。「バラされたくなければ少なくとも5台のマシンで"私"を実行しろ」というような。Stuxnetが最終的に遠心分離機に到達したように、自己増殖を繰り返した末に、最終的に国家のトップに「バラされたくなければ核のボタンを押せ」と脅すようなものも考えられます。

「人間VS機械」という対立構図は、局所的には発生するかもしれませんが、地球全体を覆うとは限りません。また、「人間VS機械」というその発想自体が人間の側の発想です。

狩猟採集を行う民族の言語の中には、「座っている人間」と「立っている人間」をまったく別の単語で呼ぶ言語もあるようです。だから、生きている人間だろうと死んでいる人間だろうとアニメのフィギュアだろうと涅槃仏像だろうと、とにかく「寝転がっているヒト型のもの」を異常に敵視するAIとか、そういうものが登場する可能性は十分あります。

物理的実体を持っていても持っていなくても、とにかく文章を書く時に語尾に「にょ」を使わない存在を異常に敵視するAIとか、そういうのも登場したりするかもしれないんだにょ。

saburo0 · Answer

質問者様の仰ってる事は、ＡＩに限らず、コンピュータや機械全般の事を言っていますね。
コンピュータや機械等の不具合を問題視しているなら分かりますが、ＡＩに特化した問題点があるとは思えません。

saburo0 · Answer

もちろん、人間が作るものですから、そこにヒューマンエラーは必ず存在します。
これは仰るとおりにＡＩ技術を利用していない自動車にもあり、ＡＩに限った話ではありません。
私が言いたいのは、ＡＩ特有の問題というのは、無いということです。

ＡＩ技術の話ではなく、あくまで、ソフトウェアの不具合の問題にしか過ぎないという話です。
この問題は何十年も前からいろいろな対策をしており、何度も繰り返しテストを行い、
不具合がないか調べて製品等が完成します。

saburo0 · Answer

少なくとも現在のＡＩ技術で、豊かさや人間の幸せなどは求められないですし、
そういう意図では利用されていないはずです。
質問者様が危惧するまでもなく、ＡＩ技術は単なる人間の補佐でしかありません。

tanzou2 · Answer

考える力が失われないか、ということだと
思います。

人間は文字を発明して、記憶力が衰えた
と言われています。

また、無文字社会では、情報の伝達は、物語
や歌、詩にして、後生に伝えました。
文字が発明され、そうした情感も衰えました。

ＡＩは、人間最大の武器である思考能力を
奪うことにならないか。

記憶力が衰え、詩的情感が減衰し、その上
思考能力さえ削がれてしまった人間は
どうなるのでしょうか。

saburo0 · Answer

数十年前からある技術で、現状を見る限り、コンピュータ技術の発展には貢献はしているが、
それが特段何かしらの問題が発生はしてないと思われます。
多少のデメリット（労働力がコンピュータの代わり、職業が無くなる等）ということはありますが、
新たな職業が増え、雇用に関しては、大して問題ないでしょう。
それよりも、コンピュータ技術の発展のメリットの方が大きいです。

lv4u · Answer

最近のAIの発展を見ていて、不安になるのは「人間の能力の劣化」「ＡＩが使えなくなったときの不安」ですね。

音声認識と判断機能により、「○○やって」「○○どうしたらいい？」などと問いかけたら、ＡＩにより答えが得られたり、ロボットが対応してくれる状況に慣れきったとき、人間が退化していくのでは？なんて心配ですね。
また、停電とか、ウイルスなどによってシステムが使えなくなった時、どんな混乱になるかも心配です。

saburo0 · Answer

AIそのものは数十年前からあります。

AIと社会問題

ＡＩにおける最大の問題は「ＡＩの判断は常に正しいか。

人工知能と人工人格（Artificial Individuality？？？）を区別すべきかもしれません。

AIの病気を描いた漫画としてすでに『AIの遺電子』がありますが。

質問者様の仰ってる事は、ＡＩに限らず、コンピュータや機械全般の事を言っていますね。

もちろん、人間が作るものですから、そこにヒューマンエラーは必ず存在します。

少なくとも現在のＡＩ技術で、豊かさや人間の幸せなどは求められないですし、

考える力が失われないか、ということだと

数十年前からある技術で、現状を見る限り、コンピュータ技術の発展には貢献はしているが、

最近のAIの発展を見ていて、不安になるのは「人間の能力の劣化」「ＡＩが使えなくなったときの不安」ですね。

AIそのものは数十年前からあります。

似たような質問が見つかりました

関連するカテゴリからQ&Aを探す

デイリーランキングこのカテゴリの人気デイリーQ&Aランキング

マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング