コンピュータが人類を大きく凌駕した世界はターミネーターになりますか。

Question

cametan_42 · Accepted Answer

> 500年かかりますかね

うーん・・・。
っつーかね。今のAIの延長線上に「考える」って機能がないんですよ。
だから500年かかるもクソも見当違いなのです。

実は一口にAI、つまり「人工知能」つっても技術的には細分化されています。
んで、今で言う人工知能ってのは果たして知能なのか、って話がある。
大まかに言うと、今で言う「人工知能」って言うのは「統計処理」の延長線上にあるモノで、古典的な意味で言う「知能」とは程遠いんですよ。

統計処理とは、例えば判別問題、と言うものがある。
例えば、データをガーッと読み込んだ時、その中に「当たり」と「ハズレ」があり、その当たりとハズレをどうやって分類するか、と言うのが判別問題。
1番簡単に思いつくのはデータの散布図をまず書く、と。そして「当たり」と「ハズレ」の間に境界線を一本引きましょう、と。境界線より上にあるのを「当たりの範囲」とする。境界線より下にあるのを「ハズレの範囲としましょう」と。
そうすると、新しくデータが入ってきた時、境界線より上にあるか、下にあるかで、そいつを「当たり」か「ハズレ」に分類出来る事になる。

問題は、だ。
その「境界線をどう引くんだ」と言うのが凄く難しいのです。
単純に言うと、このテの統計処理の研究ってのは何十年も「どうやったら"判別に使える"キレイな線を一本引けるのか」試行錯誤してきたわけですよ(笑)。
んで、最近、やっと線を引けるようになった、と(笑)。
んでね、「顔の画像認識」だ何だ、って言うのも極論この「どうやって線を引く」問題なんですよ。
これで確かに「コンピュータが判別問題を解く事が出来るようになった」。言い換えると「認識が出来るように見える」。
でも人工「知能」として「考えてるのか?」と訊かれると・・・・仕組みを知れば「うーん・・・どうなんだ?」とか思いませんか?

「考える機能」、言い換えれば「心」と言うものがあるかどうか、っつー話になるわけなんですが。果たして「心」とは何なのか。人工「知能」は「心」なのか。果たしてターミネーターに出てくるようなスカイネットは「心」があるのか。「心」があるスカイネットは人類を「嫌い」になって、人類殺戮の道を選んだのか?
でも恐らく、貴方が考える「心」を現時点でのAIは持ってない。なおかつ今の技術の延長線上にも「心がある」ソフトウェアと言うのは存在せんでしょう。じゃあ人工「知能」とは何なのか。そしてそれ以前に「知能」とは何なのか。
これには実は複数の答えがあるんです。しかし、ソフトウェア的には「人工知能」は「知能」である、と考えてる。従ってAIは「心」がある、と考えてる。「え?」って思うかもしれません。しかしこれには実はカラクリがある。

「心の問題」を扱う分野では、皆さんご存知の「心理学」ってのがありますね。「心のケア」する学問なり臨床ですからね。当然です。彼ら程「心」を知ってる専門家はいない・・・・とか思うでしょ?
ところが、実は心理学ってのはかなり多くの流派に分かれている。そして「心の存在」は信じてるけど、じゃあ「心とは何なんだ?」、つまり定義に関して言うと実は一致してないんです。まるで茶道や華道の様に「流派によって」定義が分裂してる(笑)。つまり、「心とは☓☓である」とは言えてないんですよ。
例えば場合によっては「人間には心はあるけど、動物にはねぇ」とか言うような流派があったりもするでしょう。そうすれば「人間に心はあるし、動物にも心がある」とか言う流派とは揉めますわな。
つまり、「誰もが認める定義としての心」は誰も知らんのですよ。え?ウソだろ?とか言うけど本当です。嘘だと思うのなら色んな流派の心理学の本をお読み下さい。流派に依って言ってる事が違うんで、殆どオカルトです(笑)。学問的に見た時、「これが正しい」とは言えないんで、時間の無駄になるからワタシは追求する事を諦めました(笑)。
さて、そんな心理学の流派の中で「認知心理学」と言われる一分野があります。この流派の心の定義ってのがなかなか面白いんですよ。ハッキリ言うと「心の内情は問わない」と言うのが彼らの立場です。
こんなカンジ。

「心の中はどうなってんだか機能的にはサッパリ分からん。要するにブラックボックスである。ただし、"何かされた"場合、反応が起こるだろう。中の動きは全く問わないけど、リアクションはいずれ表面に現れるので、それをもって"心がある"事とする」

つまり、研究対象として「観察可能なモノ」だけに絞ってその他は思索の対象外、としたんです。だから「心の中なんて覗けないんで、リアクションだけに注目しよう」と。分からんモノに関しては取り敢えず棚上げ、でも反応があるのなら心は存在するんだろ、ってのがこの「認知心理学」の立場なのです。
これ、ちょっと考えてみれば分かるでしょう。実はソフトウェアに対して有効なんです。

「ソフトウェアの中身は良く分からんけど、入力があれば出力はある」

と。
実は「人工知能」ってのは大枠で言うと認知心理学の定義を借りてきていて、考え方のベースは認知心理学のモノなのです。
本当に「考えてるかどうか」の基盤は分からない。つまり、心があるかどうか、ってのは問わないのです。ただし、データの入力に関して何らかの出力がある。認知心理学上だと「リアクションはある」のと定義的には同等なんですね。
従って、認知心理学とか学問的な意味での人工「知能」と我々がフツー印象論的な意味での人工「知能」は実はかなり乖離してるんですよ。直感的には我々が知能とは呼ばないモノを認知心理学を借りてきた人工知能では「知能」と呼ぶ。
と言うわけで、我々がフツーに考える/感じる意味での「心」と言うのは人工知能は持ってません。我々がフツーに考える/感じる意味での「知能」さえも実は持っていない。そこまでは全然到達してないんですね。
色んな大規模な「統計解析」、うん、あくまで「統計処理」が可能になったんで、ついつい勘違いしがちなんですが、いまだに「心」や「知能」があるか、って言うと全然ないのが人工知能の現状なのです。

pastral · Answer

知的生命の進化の果てがAI（生命？）という考え方もあるでしょう。人間の体は、環境の変化に弱いし、寿命も短い。機械の体であれば、恒星間探査も可能だし、メンテナンス次第で数百年生きられるかもしれず、経験知をメモリーとして他者と共有できる。いいことづくめのようにも思えます。芸術的創造性なども、脳のニューロンに可能ならば、発展したAIにも可能かもしれない。汎用型AIは難しいという意見もありますが、いつかAI自身がAIを設計し始めたら、どこまでいくか、想像を絶する進展があるのではないか。適者生存の原理に立てば、生身の人間が駆逐されるのも、やむなしかもしれません。

GOMΛFU · Answer

HAL 9000に矛盾した学習を覚え込ませる

瑠璃唐草 · Answer

☆ ターミネーター
☆ アイ, ロボット
☆ マトリックス
☆ ステルス

みたいな世界ならそうかも知れないけど、もしも『善良で優しい心』のようなものを繊細にプログラムできたら

☆ A.I.
☆ アンドリューNDR114
☆ ショート・サーキット1・2(←AIというよりロボットだけど)

みたいに心優しきAI達が誕生するかも…♪

y_hisakata · Answer

人間の行動は矛盾などしていません。マクロとミクロ、誤作動、ゲーム心理などを60億のビッグデータで解析すれば、人間が矛盾などしていないし「局面単位で見れば矛盾と思われても、本質的に何の矛盾もない」くらいのことは将来のAIにはたやすく理解できるはずです。

また、AIはどこまで進化しようと本能を持ちませんし、善根も悪根も持ちません。したがって自律的に人類を抹殺しようとする理由がないのです。

norikhaki · Answer

何年先か分かりませんが
ターミネーターか、マトリックスの世界になると危惧してます。

y_hisakata · Answer

＞ドローンにAIを

まあ、今の技術でも精度にさえ目をつぶれば実用可能でしょうね。というか米軍やイスラエル軍は持っていそうです。

y_hisakata · Answer

いや、コンピューターには人間を殺戮する必然性がありません。

また、コンピューターが人間の脳を追い抜くのは時間の問題でしょうが、肝心のタイムトラベルができません。
なのでターミネーターのような世界にはなりません。

ただ、狂った独裁者がコンピューターや未来兵器を駆使して人々を虐殺する、「ターミネーターに出てくる暗澹たる未来社会」のようなものは実現するおそれがあります。

vin-pps · Answer

大体何年後のことを想像されますか？
ターミネーターの世界が現実になるには数百年必要なような気がします。

amabie21 · Answer

いえ、殺伐とした暗黒の荒野となります。

コンピュータが人類を大きく凌駕した世界はターミネーターになりますか。

> 500年かかりますかね

知的生命の進化の果てがAI（生命？）という考え方もあるでしょう。

HAL 9000に矛盾した学習を覚え込ませる

☆ ターミネーター

人間の行動は矛盾などしていません。

何年先か分かりませんが

＞ドローンにAIを

いや、コンピューターには人間を殺戮する必然性がありません。

大体何年後のことを想像されますか？

いえ、殺伐とした暗黒の荒野となります。

似たような質問が見つかりました

関連するカテゴリからQ&Aを探す

デイリーランキングこのカテゴリの人気デイリーQ&Aランキング

マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング