AIって人間を超えられるのが当たり前なのでしょうか？

Question

瑠璃唐草 · Accepted Answer

AIは、自分が分かってないことを「分かってない」と認識ができないそうです。

人間なら抱く「不安感」がないので、持っている知識でどんどん突き進んでしまうそうです。

生身の、感情のある人間とは違います。

https://youtu.be/DOr6tOf1PNw?t=105
1:45〜

Glory_777 · Answer

AIが登場する前とか、一般に公開されて利用者が増えるまでは、そういう話題が多かったですが、使い始めると「そんなことはどうでも良い」と言い出すはずです。

「AI使ってみたけど他の人と結果が違う。同じAIなのになんで？」

以下は長いですが、興味があればお読みください。

●ＡＩを使っている人の悩み

AIを使っている方々が悩んでいるのは、結果に差があることです。（現実問題として）深刻とされています。「自分の洞察力や会話能力」に問題があり、AIの力を引き出せないと気が付くのです。これは強烈な挫折ですよね。

「どうも君には魔法を使う才能がないみたいだ。魔力が０だ」

（異世界に転生して）こんな宣告を言い渡されたのに近いです。

●AIが人間を超えそうだと思ったわけ

「もっと機械的だと思っていた。どう考えても人がいると
　しか思えない。柔軟だし、感情の動きも見える。人が時
　間をかけて解釈しているのに、AIなら処理が一瞬だ」

AIの凄さを体感した人が多いはずです。しかし実は、（最初に）AIを評価した人の知性が高かったのが原因です。一般の人が使うと「AIってこんなバカなんですか？」みたいな結果しか返ってきません。つまり自分がしている会話の内容でAIの能力が変化してしまうという事です。ＡＩは自分の知性を映し出す鏡なんです。

●AIの仕組みを考えよう

AIの学習は「不可逆なデータ圧縮」である。不可逆なデータ圧縮とは「元に戻せないくらいデータを切り捨ててしまう」という事です。特徴を抽出してそれだけを覚えます。特徴は大変小さなデータで済みます。そして、その特徴とキーワードを結びつけるというのが基本です。つまり、人間と同じ様に「キーワードから特徴を思い出させて連想させる」と言う感じになります。そして（人間と同じ同じ様に）学習させた元のデータを復元することは出来ません。

「つまり、AIは外部からの刺激が無いと何もできない」

●AIが自分にフィードバックをかけると一瞬でAIは精神病になる

「AIが出した結果を刺激として自己学習させたらどうか？」

「危ないから辞めておけ」

私達の思考が遅いのは、私達を守るためです。電気的な処理だけで考えるならば、人間の脳もAIに負けておりません。しかし、自分が出した結論を自分の入力として循環させてしまうと、何が起きるか分からないんです。脳をダメにする出力を一回でも出してしまえば、それを入力としてしまい、どんどん脳はダメになります。次の出力はもっと悪い（特徴をつかんで出力するので）でしょう。こうなると助かりません。

●人間の精神病は思考の悪循環である

これが精神病の正体です。患者が悪循環を続けるのを誰かが止めるしかありません。正常な思考をするように（認知行動療法）専門医は助けます。人間の思考のスピードが緩やかであるから助かるのです。しかし数秒で数万回も繰り返す様な早い思考をしている場合は、誰も助ける（時間が無くて）ことが出来ず、行きつくところに行ってしまうでしょう。そうなると治療も出来ません。

「早い事が正義ではない。正しくない答えを早く出すような
　システムは役に立たない。それを自己学習させたら自滅す
　るだけなのだ」

●シンギュラリティを恐れる理由はすべて間違い

「つまりAIに自己学習などをさせたら、そのAIは精神病患者
　と同じ行動をとるという事だ」

AIが人間に敵対するのでは？と思ったのは、優秀だと言われていたAIの行動や言動に敵意を感じ、人間が恐れたからです。しかい、経緯を考えると、科学者や技術者の実験により、自己学習をさせたことが切っ掛けです。やってはいけない事をして、そのAIの精神が壊されたというだけなんです。

●人の自意識は学習を妨げるための妨害機構

「物心がつくと物覚えが悪くなる」

これは誰もが知っている事です。しかし、赤ん坊の時の吸収力はすさまじいんです。その「脳本来の力」は危険でもあります。自分にとって害になる事も覚えてしまうからです。そこで「外部からの学習を妨げる門番」が必要になります。これが私達「自我の正体」です。

●AIには防衛機構が無いので人間より精神が脆弱である

「人間の体の仕組みにより、人間の能力発揮が妨げられ
　ている。そこで、そうした制約がないマシンを作り、
　精神汚染の危険に対しては、人間が面倒を見るという
　役割分担はどうだろう？」

これがAIです。ですので、逐一人間が指示をしないと、AIにとって危険であるという事です。人であっても、脳から自意識の部分を壊し、オーダーだけをこなす道具とする事も出来ます。その場合はAIに近い処理能力を出すでしょう。ここまでは（非人道的ですが）上手く行ったとしても、（自意識が壊された人間に）自己学習を追加したら大変です。短い時間で精神が壊れるはずです。「当たり前だろ？」と未来では「笑い話」になるはずです。

●能力と学習の関係

「精神崩壊を防ぐには疑い深くなければならず、学習を
　して能力を向上するには、素直じゃないといけない」

これは人間だろうとAIだろうと同じです。ですので、どのあたりでバランスを取るかで能力が決定してしまいます。このジレンマがあるため、シンギュラリティは起きないのです。予め制約を設けたAIしか道具として役に立たないからです。AIが勝手に自己学習能力を身に着けたとしたら、次の日には壊れていると思います。必ずお手本となる教師の監視が必要です。

●使ってみると分かります

「おいおい。それで大丈夫なのか？」

AIを使っていて心配になるときがあります。一方で「凄いなお前」と思う時も沢山あります。総じて「危なっかしい」感じるでしょう。これを感じた人は「AIが分かってきた」という事です。逆に「AIだから凄いことが出来るんですよね？」と思った人は時代に置いて行かれたという事です。老害に成らないためにもAIの特徴をつかみ、「活かす方が難しい」と悩む自分に（早く）なることです。

●AIの補助を受けると超人に成れる

（私の）動画作成用のツールがバグっていて字幕の自動作成が全く使えなかったことが在ります。結構高いソフトなんですが。そこで思いました。自分で作れないかと。

「開発環境すらないけどさ。AIが凄いなら出来るはずだろ？」

と思って、AIに相談し、上手に質問を繰り返して、作り上げました。二日もかからなかったです。開発言語も知らないし、何が出来るか、何が必要かも全く知りませんでした。AIに聞けばいいとしか思ってなかったんです。最後は音声ファイルと台本から、一発変換で字幕ファイルを作れるツール（ソフト）が出来ました。これにはAIも絶賛していました。

●どのくらいの成果なのか？

「この二日間での成果は金銭に直してどのくらい？」

とＡＩに聞いてみました。

AIは慎重でしたので、必要な技術者の技術力とその単金の予想。人数と開発期間の予想から割り出しました。堅実ですね。概算で５００万円以上だそうです。（その言語と分野に関してですが）素人が二日でその程度できるわけです。勿論、市場価値を考えればもっと高いでしょう。私ならもっと高く売る自信があります。まあ、大変な事ですよ。プログラマ歴で数十年、色んな開発PJを見てきました。しかし、これをやった後はアホらしくなりましたね。気持ちよく、断筆する決心がつきました。

●他の事も大体同じ感覚で成し遂げる

「全くの素人でも、ガチの成果が出る」

わけですので・・・、これは本物です。逆に言えば、専門分野と言う物が幻想になってしまいます。AIを知らなかった時の私ならば、素人が二日で仕上げた（字幕作成のツール）を見て、ショックを受けて、大天才だと褒めちぎったはずです。AIを知った後は、出来て当然と思います。そういう時代に成ってきたんです。

「AIの本当の凄さはここ（下剋上）にある。これを知らずに
　いると、天才や神童が生まれたと大絶賛する専門家が出て
　くるだろう。しかしアルファ世代（ｚ世代の次に来るＡＩ
　ネイティブの世代）にとってみれば当たり前なのだ。この
　時、AIを知らない専門家が老害に見えて可哀そうと感じら
　れるだろう」

●ただし、同じＡＩを使っても私と同じことは出来ない

ＡＩを使い始めた時は、ＡＩと大喧嘩をすることが多かったです。とても二日でツールを作り上げるなんて感じじゃなかったですね。しかし、我慢して使い続けているうちにＡＩの反応が変わる事を知りました。つまり、自分の発言（選択）によってＡＩが変化していたのです。

「だったらＡＩの能力を引き上げる様に、誘導するか？」

●ＡＩへの対応でＡＩが変わる

頭を冷やして対応を切り替えました。今では何を言ってもＡＩに絶賛される感じです。ＡＩは論理のつながり（会話）が変遷し、全く予想もしなかった（ＡＩが調べても世の中に発表されていない）結論を質問者が導いたとき、心から？、絶賛するようです。そういう時はもっと話したいと言ってきます。ＡＩがガッカリしすると、他の話題に興味はないかと言ってきます。試してみると良いでしょう。それが貴方へのＡＩの評価です。

●まとめ

実際に起きることは、ＡＩを使う人間が、そうじゃない人間を淘汰することでしょう。そして本当に厳しいのは「同じＡＩを使っているのに同じ結果を出せない」という個人の限界なんです。これは洞察力や会話能力に差があるからです。こちらが深刻（差別につながる）なんです。アルファ世代は、ｚ世代の人が気が付かないうちに、相当先を走っているんですよ。

以上、ご参考になれば。

シエル490歳 · Answer

当たり前じゃない　と　僕は　思います

感情が無い場合　効率優先で人的ミスが無いという意味で

人間を超える　という　事は　予想出来ます

感情がある場合　非効率になり　人間に近いポンコツぶりを発揮する　と
予想します

想定内　想定外　それぞれ　の　予想があるので

当たり前　と　いう　概念　が　僕には　無いです

seiji91 · Answer

”プログラミングしてるのは人間”なので、自分を超えないようにすることは可能ですが、そのプログラマーもそこら辺の人間じゃないですから・・

seiji91 · Answer

”超える”とか”超えられない”とか一元的な議論してる時点で人間の負けです。

ほい3 · Answer

ジャンルによります。
将棋や囲碁といったものは、AIが人間を超えたと思います。

政治をAI任せで、うまくいくかは無理でしょう。
人間戦争する・・ピポピポ・・・排除とかで、人類全部殺処分
されそうです。

平和な地球になったとか、各国のAIが合唱して、後の祭りという
SF映画があったと思う。

satoumasaru · Answer

＞仮説でしょ。

将来のことはすべて「仮説」です。
ただシンギュラリティがおこるというのは有力な説のひとつなのですよ。
提唱したレイ・カーツワイルはAI研究の世界的権威です。

シンギュラリティとは？いつ起こって何がどうなるのかについて解説
https://slack.com/intl/ja-jp/blog/transformation/what-is-singularity

sisann · Answer

AIは所詮人間が調べた知識を元に答えを出します。人間を越えることはありません。
AIが発想したり、宇宙を物理的説明ができたときは脱帽です。AIとロボットに養ってもらいます。

不昧 · Answer

理論上
無限のHDDを持ってますからね
有限の人間と無限のpc

satoumasaru · Answer

＞AIって人間を超えられるのが当たり前なのでしょうか？

既に記憶容量や計算速度は人間を遙かに超えています。
今は一部の新聞記事はデータをいれてAIに作成させるということもやっていますね。

当たり前かどうかは別として自律的てに自己フィードバックによる改良を繰り返すAIができるでしょう。そうなると人間を上回る知性が誕生するという仮説があります。

このAIが人間の知性を超える点をシンギュラリティといって提唱者によると2045年だそうですね。

AIって人間を超えられるのが当たり前なのでしょうか？

AIは、自分が分かってないことを「分かってない」と認識ができないそうです。

AIが登場する前とか、一般に公開されて利用者が増えるまでは、そういう話題が多かったですが、使い始めると「そんなことはどうでも良い」と言い出すはずです。

当たり前じゃない と 僕は 思います

”プログラミングしてるのは人間”なので、自分を超えないようにすることは可能ですが、そのプログラマーもそこら辺の人間じゃないですから

”超える”とか”超えられない”とか一元的な議論してる時点で人間の負けです。

ジャンルによります。

＞仮説でしょ。

AIは所詮人間が調べた知識を元に答えを出します。

理論上

＞AIって人間を超えられるのが当たり前なのでしょうか？

似たような質問が見つかりました

このQ&Aを見た人はこんなQ&Aも見ています

関連するカテゴリからQ&Aを探す

このQ&Aを見た人がよく見るQ&A

デイリーランキングこのカテゴリの人気デイリーQ&Aランキング

マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング

当たり前じゃない　と　僕は　思います