人工知能は人間を超えるか

Question

「人工知能は人間を超えるか」という本を読んだことがありますが、こういう場合の人工知能は普通どんなイメージで考えられているのでしょうか。
　（本の中でという意味ではなく、一般的にという意味です。）

私はコンピュータプログラムの作成経験はありますが、「人間を超える」という場合の人工知能は、やっぱり単にコンピュータ上のソフトウェアなんでしょうか？

それともクラウドやビッグデータと連動すると、単なるソフトウェアとは言えなくなるのでしょうか。
あるいはアンドロイドやロボットのように、人間によく似た、独立した存在なのでしょうか。

計算速度や計算の正確性の点では、既に人間をはるかに超えていると思います。でもその点はあまり問題ではないようで、「人工知能が人間を超える」というのはどういうことでしょうか。

つまり人は人工知能に関して恐れるべきなのは何でしょうか、という質問でもあります。

核兵器なみかそれ以上の武器にはなりそうですが。

tanzou2 · Accepted Answer

「人間を超える」という場合の人工知能は、やっぱり単に
コンピュータ上のソフトウェアなんでしょうか？
　　　↑
ソフトとハードの双方だと思います。
人間の脳細胞は数千億あります。
現在の人工知能素子とは桁違いの
多さです。

計算速度や計算の正確性の点では、既に人間をはるかに
超えていると思います。
　　↑
今の人工知能が出来るのは将棋なら将棋、
囲碁なら囲碁だけです。
しかし、人間は将棋も出来るし囲碁も出来ます。
作曲も出来ます、恋愛も出来ます。
マルチです。

「人工知能が人間を超える」というのはどういうことでしょうか。
  　　　↑
人間は何万年の歴史を持ち、その間に
無数の知識、情報、ノウハウ、技術、文化
などを築いてきました。

人工知能がその総和を上回る、ということ
です。

つまり人は人工知能に関して恐れるべきなのは何でしょうか、
という質問でもあります。
　　↑
自我が芽生えることだと思います。

人間並に素子が数千億に達したら、自我が芽生える
かもしれません。
そうなったら人間から独立しかねません。

Glory_777 · Answer

コンピュータープログラムの作成経験がある人にはピンと来ないですかね。

今更と言う感じがします。

人によって捉え方が違うものかもしれません。

プログラマーとして活躍されている人に既出過ぎて新しくないんですよね。

なので、そうじゃない人にはどう見えるか考えれば納得できると思います。

これだけ進歩した便利な社会。

しかし利用者の殆どは、

「自分で作り出せないもの」

どういう仕組みか分からないもの、そういうものを利用して生きているんです。

便利だと感じれば感じるほど、自分の存在価値について考えなければならないでしょう。

何か時代に取り残された感覚があるはずです。

そうした負い目に苦しんでいれば、

「とうときたか」

とパニックを起こすんじゃないでしょうか。

さらに少し前ですが、

機械が人間に勝てないと言う論法を用いて、自分は大丈夫だと安心させた時代が

あったんですよ。

こういう負い目が反動となっていると思います。

当時もAIと呼ばれるものが流行りました。

お粗末なものでした。

プログラムを作ったことがある人には、

「ああ、プログラマーが力尽きて手を抜いたな。」

と言う見え方をしたんですが、そうでない人は、

「やはり機械には機械の限界がある。人間が持つ想像力とか判断はできないな。」

と評価したんです。

これには大変驚きました。

つまり、手抜きが分らないほど、分らない人が多数いたということ。

「そんなんで体制を維持していけるんですか？」

腹の底が冷えるような、足元が崩れるような不安感でした。

「だめだ、こいつら、スローライフがまだまだ続くとタカをくくってる。」

本気で心配しましたよ。

実はこのあたりから、二極化、乖離を感じていました。

ニューラルネットワークを使った学習回路（AI)は、其の他の線形学習回路と大した差がありません。

日常で使われている音響機器や電話のエコーキャンセラー、ノイズキャンセラーなどは、

線形学習回路を使用しています。

勿論、これもプログラミングしないと動きません。

プログラマーは、数学と物理学の専門知識を持ち、それをデジタル化された機器の上で実現してい

るだけですから、実際に脅威であるのは、数学や物理学が為した功績のほうでしょう。

今までは、これが直接利用できなかっただけなんですね。

労働の主体が人間でしたから、実現するためには実施者が数学と物理学を理解し、

理解した人間の手で実現しないといけなかったんです。

実施者が「わからない」と言って無視をすれば、無いことにできたんです。

プログラマーには、理論をシミュレーションで明らかにしたり、デバイスを操作によって理論を

物理的な結果に変換する作業が求められます。

このため、理科系の学問に深く精通しているプログラマーとそうでないプログラマーとの間で、

大きな力の差が生じます。

例えば、現在流行っている３Dポリゴンを使用したゲームや動画の映像は、

そのエンジンが数学上での計算になっています。

この計算も大学の専門課程でしか習わないものを使用しています。

これらに対応できるプログラマーと、

彼らが提供したライブラリを利用するプログラマーに分れてしまい、

階層化が生じています。

問題なのは、ITの専門企業であっても、経営層や管理層がこうした実情を理解していないことです。

「どんな技術者も自分が一番優秀だというんだよ。」

という論法で正しく技術動向（技術者の市場）がどう変化しているのか把握していないんですね。

技術者の間に実力差があることは知っていても、

どういう尺度で測れば良いのか分からないんですよ。もしくは恥ずかしくて聞けないんです。

更に注意しないといけないのは、この階層間では人間の性質が違います。

上手にマネージメントできていないと思えます。

ITに関しては、人材の活用が出来ていないと言う状態でしょう。

「このままでは、政治や経済から独立した別の階層化が生じてしまう。」

私はこういう危機感を持っていたんですが、かなり現実化しています。

いまのIT世界では、科学を直接物理世界に体現できます。

これの実施においては勿論プログラマーが必要です。

現在最強の戦闘機には電子戦を担う高度なプログラムが実装されています。

この開発に凄い予算が投入されているんです。

こうした技術者を確保できるマネージメントと、

そうでないマネージメントがあるという事です。

今は、この両者が並列しており、非常に危うい状況に見えます。

特にセキュリティ関連で危険と感じるのは、

プログラマーとしての階層の上位（ウィザードですね）が攻撃側になり、

下位が防御側になっています。

正しく階層を理解していれば、全く意味の無い防御布陣なんですが、

雇われている技術者があえてそれを申告しないんですよ。

「俺なんかが勝てるわけ無いじゃん。」

こういう状況であっても、組織としてチームを構築すると安心するわけです。

既に、時代に追従できていません。

昨今、ビットコインで有名になったブロックチェーンですが、

これは、プルーフオブワークと言って、階層上位のプログラマーを防御側にアサインしています。

つまり、正しく人間をマネージメントする事で強い布陣（無人なんですけど）を作っています。

こうした事は、ちゃんと技術者の実力階層を理解していれば、

政府機関や企業が為したはずなんです。

ところがそうした体制側ではなく、個人が作り上げてしまう時代です。

大変歪な状況でしょう。

もっと根底にある部分で反省をしないと、体制自体が崩壊するでしょう。

ここ数十年で非常に大きな変革が生じています。

一方で、人が就業する年数も長くなっています。

そこにいる人間の感覚は大きくずれているのに、時代だけは進化しているんです。

現状の企業、政府の状況は、

例えて言うならば、音感が無い人が音楽事務所の経営権を得て、

良く分からないまま音楽を商売にしようと考えている状態でしょう。

こうなってしまえば、インディーズの自費出版のほうが良いモノを出すはずです。

人に優しい社会を作るためには、無法遅滞だけが未来へ進化する状態を止めないといけません。

AIにおいても、

ビックデータを用いて学習させる発想は確かに新しいのですが、

ニューラルネットワークの構造とその弱点を知らないまま投資をして良いのでしょうか？

これらの問題は、何十年も前にプログラマーは知っているんです。

果たしてちゃんと、彼らを見出して、助言を仰ぐことが現体制にできるんでしょうか？

まだまだ、魔法みたいなことが連続して市場に登場するでしょう。

これに慌てて、AIが人間を超えるかと言う論議を本にするのは、どうかと思います。

実際は、人間の中に格差があったということでしょう。

また、

ニューラルネットワークについては、線形理論が成立せず曖昧なときに有用であって、

線形学習が成立するような場合は、必ず線形学習理論に負けると証明されています。

つまり公式がある世界では、人間の感覚は理論に負けます。

これと同じということですね。

ところが、公式が成立しない芸術や音声認識、画像認識、パラメーターが多い状況ですと、

人間の経験や勘が確かに有用だったんです。

一方で、

古いソフトウェアは、線形理論をプログラム内に埋め込み計算をするものが多いです。

しかし、プログラマにとっては、線形理論を体現したソフト、と言うカテゴリでしかなく、

単なる仕様です。

非線形学習理論を体現するソフトについては、大概の工学系であれば授業で習いますから、

いつでもコーディングできたんですよ。

マシンパワーが足りないので、実現してもお粗末なものになると分かっていただけです。

プログラマーは、無数の方法論を持ち、リソースに対して最大のパフォーマンスを設計する

仕事ですから、出来なかったのではなく、選ばなかっただけです。

私だけではなく、かなり多数の技術者やプログラマーが、

「今頃出てきたのか。俺が死ぬまでには無理だと思っていたが。

まあ、段々面白くなってきたな。」

程度で認識しているんではないでしょうか？

また実用においては、注意をしませんと、安いプログラムに負けます。

結果として、普通にソフトを作ったほうが優秀なものが出来上がります。

AIが人間を超えたのではなく、

技術者集団が体制側を超えてしまったという事ですよ。

一般の人は、体制を維持する人間を信頼し頼るしかありません。

しかし、体制を維持する人は、自分には制御できないとバレるのが怖いでしょう。

そのため、何十年も前に考えるべきことが、新しいことの様に大騒ぎされるのだと思います。

今の時代は、技術に精通していない人を、人の上に置くのは、大変なリスクになります。

先端技術と人の間に対立構造を演出してしまうからです。

これらは融和できるはず。

しかし、上層部に苦手意識あると前向きには取り組まないでしょう。

一般の方がAIで今更驚くことのほうが、日本の根幹の問題に思えてなりません。

体制（自分がいる場所と）全く関係ないところから出現するから怖いのであって、

人間はまだ大丈夫だと安心することは合理的じゃありません。

正しい進歩とするためには、積極的に体制に取り込んでいかないといけませんね。

以上、ご参考になれば。

Mokuzo100nen · Answer

＞つまり人は人工知能に関して恐れるべきなのは何でしょうか、という質問でもあります。

人工知能が社会資本などの公共財ではなくて、特定の個人や営利企業が所有し、その所有者の利益のために活用されるものであることを恐れるべきであります。

Epsilon03 · Answer

全てに於いて人間を超えてしまうと言う状態にはならないでしょう。
人間はまず完璧ではありませんし欠点も多々有ります。
人工知能がその欠点部分を予測したとしても、その予測から外れる部分が必ず出て来ますからね。
その部分を考えれば、人工知能が人間を超えられない部分ともなるでしょう。
人工知能の恐るるべき物は、計算能力が早く高い事が取り返しのつかない事を生む可能性としてある事でしょうね。
人間ほどの曖昧さ優柔不断さは人工知能に如何に学習機能が有っても、人間を超える事は無いでしょう。

人工知能は人間を超えるか

「人間を超える」という場合の人工知能は、やっぱり単に

コンピュータープログラムの作成経験がある人にはピンと来ないですかね。

＞つまり人は人工知能に関して恐れるべきなのは何でしょうか、という質問でもあります。

全てに於いて人間を超えてしまうと言う状態にはならないでしょう。

似たような質問が見つかりました

関連するカテゴリからQ&Aを探す

デイリーランキングこのカテゴリの人気デイリーQ&Aランキング

マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング