人間が人間を超えるものをつくること

Question

たとえば、情報工学の先端でAIの研究に携わっているとしましょう。
すべてにおいて人間を超える可能性を秘めているものを対象として目の前におくとき、主観は常に対象を客観視できるでしょうか。
人間が人間を超えるものをつくる、ということは、あえて極論を言いますと、人間が人間を滅ぼすというポテンシャルを含み持つことです。
IT化による効率性、利便性は今や否定できません。
ITシステムが修正を繰り返し生き延びる様は人間のようであり、自ら学習を重ねて賢くなる人工知能AIはいつか人間を超える存在になると言われます。
そのようになると想定される場合に、果たして人間は冷静に客観である対象に向き合えるものでしょうか。それとも、専門家のあいだでは人間を超えることはないという根拠があるから、冷静に研究開発を続けられるのでしょうか。
もしそうならば、それを開示して世の中の不安も同時に払拭していく責任も同時にあると思うのですが、皆様はどのように思われますか？

ほい3 · Answer

＞AIはいつか人間を超える存在になる、
人間は誤りを犯すので、各国がＡＩに政治も軍事も任せた結果、
不完全な人間抹殺が決定、無差別核攻撃で絶滅方向が初期設定の
映画が有りました。同種のものは、たくさんあるでしょう。
機械は、放射能が怖く無いですし・・・。

将棋のプログラム組む人は、５級以上の実力が有りますが、
ある程度のプログラム作者は、自分が対戦して全く勝てないと
言います。
人間は、疲れるし、間違えるし、忘れる、基本、ＡＩには
これらが無いのです。

とりあえず、３０年もすればＡＩが事務作業の90％をこなして
大量失業時代です。ベーシックインカム、早い話、生活保護だらけ。
この問題は、そんな時代に暇を持て余した人々が考えるべき事です。

toto.tototo.moi · Answer

追いかけっこのつもりが。っていうのが永遠のテーマですね。
私は人工知能がどう反映するか、どう影響し続けるか考えると怖いです。

中学生のころ、まったく理解できずにプレイだけ楽しんでいた「メタルギアソリッド」というゲームがあるんですが。
これのスタッフは本当に秀才揃いかというほど作りこんでくるし、何より歴史背景、人工知能などすべての基盤が理論と事実に基づいている。そのうえ、ゲーム性も高い。
世界中のファンスレッド見にいったんですが、内容を理解できている上で楽しんでいるのはごくわずか。殆ど私のようにゲーム性だけ好んでいる人が多い。
歴史や相手の動きの単位、敵の人工知能などの作用が交差して起きるアクションも、理解が追い付かないと、なんで今爆撃受けたんだ？となる。

ＡＩに対して、雷電というキャラが立ち向かう会話があるんですが。
これが答えに近いかなと思います。
ようつべ「MGS2　大佐の説教2」で、４２秒あたりから。
人間ＶＳ人工知能の会話です

好きなカテゴリーを行き来する人間を管理する。という言葉は怖いけれど。
私はなぜか人工知能の方が正しいと思って怖かった。怖いってことは、客観的に動けない人間であるということなので、私はできません。

GOMΛFU · Answer

ネアンデルタール人はホモ・サピエンスに滅ぼされました。
それが進化というものです。

bagus3 · Answer

人類は太古の昔から、人間を超えるものを作っています
神であり仏です
宗教という名のもとに、多くの殺戮と略奪が繰り返されていて
やむことがありません

今さらＡＩが発達したことろで、事態がこれ以上悪くなるとは思えません。
高度化するＡＩを怖れる前に、人はおのれの中の悪魔を恐れるべきです

phj · Answer

すでに機械は人間を超えている、のです。それを踏まえないと正しい理解ができません

すでに機械文明にずっぽりと嵌っている私たちは案外気が付かないのですが、機械はすでに人間を超越しています。そのターニングポイントは今まで2回ありました。

最初は産業革命です。蒸気機関は人間の能力、特に肉体的な労力を超えました。人間が筋肉を使わなくても、鉄道や自動車で移動できるようになり、人間にはできない空を飛ぶこともできるようになったのです。
しかし、これらの機械を動かすのは人間の「意思」であり、現在では「これは人間の能力を超えたのではなく、人間の能力を拡張させた」と解釈されています。

次はチューリングがチューリング・マシン、つまり「コンピューター」が作られた時です。すでに人間は「肉体的な力」を機械に超越されているので、今度は「考えること」を超越されることになります。

映画「イミテーション・ゲーム/エニグマと天才数学者の秘密」では、ドイツのエニグマ暗号を「人間の頭脳で解読しよう」とする他の研究者と「機械を使わないと人間の頭脳ではスピードが間に合わない」と考えるチューリングの対立がありました。
この時点の人類は「考えること」を機械に超越されていなかったのです。

この後、コンピューターが開発され、人間の「考える能力」を機械が超越するのですが、しかし未だに「考える内容は人間が与える（プログラムや条件は人間が与える）ので、コンピューターは「人間の頭脳のうち単純作業（計算やデータまとめなど）を代替えしている」だけとされています。

＞専門家のあいだでは人間を超えることはないという根拠があるから、冷静に研究開発を続けられるのでしょうか。
上記のように、すでに機械は人間を超えているので、専門家は「機械はすでに人間を超えている。だから人間に危害を加えないように安全策を織り込む」ことで安全に研究開発ができる、と考えられているのです。

さて、これを踏まえてＡＩを見るとＡＩが人間を超えるとされているのは「人間が持っている判断力」であることが分かります。人間はすでに肉体労働力も計算力も機械に超越されているので、人間にのこっているは「それでも機械は人間が判断して動かしている」という部分だけだからです。これを超えようとしているのがＡＩなのです。

＞果たして人間は冷静に客観である対象に向き合えるものでしょうか。
ここが問題の本質だと思いますが、実はこれにも経験があるのです。

産業革命の時もコンピューターの発展の時も次のように人間は反応しました。
第一世代　まだ「人間を超越するものがない時代に生まれ、そのものの誕生と普及を見てきた世代」
非常に主観的に判断します。特にこの世代は直接的に「自分たちの仕事が機械によって変わられる」事を経験するので、敵対的に対応し、憎むこと多々あり、客観的に反応することはほとんどありません。

第二世代　「そのものと同時期に誕生し、共に影響を受け合いながら成長した世代」
彼らにとっては、第一世代のような反発はありません。しかし、そのものの利便性の影響を受けながら成長しますので、それを使うのが当たり前であって、客観的な疑問を持つことはあまりありません。

第三世代　「そのものの後に誕生し、すでに世の中に当たり前にある世代」
彼らにとってはそれは生まれた時から普及していて当たり前なので、主観的に客観的にもなにかを思うことがほとんど無い、といえます。
　今現在でいえば、30代なら携帯は当たり前、20代ならスマホも当たり前、10代前半だと、全部当たり前で「それについて疑問を持ち、主観的にまたは客観的に何かを思う」ということはほとんどない、といえます。

ですので、一般庶民、ということを考えるなら、私たちは「日々の生活で精いっぱい」でそんなことを考えることはない、と言っていいのです。

問題は専門家です。かれらはいろいろな考え方をします。ある人は哲学的に「人間と人間でないモノの差」という観点から客観的に考えるでしょうし、機械工学の専門家は「機械を動かすのに人間の意思が必要かどうか」で考えるでしょう。

今、コンピューター工学（つまりＡＩの専門家）と脳科学者の間で議論されているのは「ＡＩは確実に十数年で人間の判断力を超えるだろう」ということと「その場合ＡＩがもつ判断力は人間と同じものなのか？」ということです。

人間と言うのは「自分の肉体を保持することを最大限に優先する」もので、それが判断基準の基本になっています。ようするに「死なないようにすること」が判断の基本になるわけです。しかし、ＡＩは「死ぬ」と言うことが理解できないわけで、となると「死ぬことがないＡＩが機械を操作し、人間がコントロールしなくなったらどうなるのか？」という問題がでてくるわけです。

これがもし「人類を滅ぼすほうがよい」という判断につながるなら、その判断と行動は「人間が人間を滅ぼす」のではなく「人間が作った道具が勝手に判断して、人間が滅ぼされる」ということになるわけです。

この問題については、実はすでに1960年代にはＳＦ小説のテーマになり、ロボット工学の専門家や脳科学者などは警鐘をならしていたのです。この問題にもっともはやく気が付いたのは、医学者でありＳＦ小説家のアイザック・アシモフであると言われていて、彼は1950年には「ロボット三原則」を作っています。

この三原則は今でも有効で
第一法則：ロボットは人間に危害を加えてはならない．またその危険を看過することによって，人間に危害を及ぼしてはならない．
第二法則：ロボットは人間に与えられた命令に服従しなくてはならない．ただし，与えられた命令が第一法則に反する場合はこの限りではない．
第三法則：ロボットは前掲の第一法則，第二法則に反するおそれのない限り，自己を守らなければならない．
を守ればＡＩでも人間に対して安全なのではないか、とされています。

しかしＡＩは「人間が関与せずに自分で判断し実行していく機械」ですから、暴走するかどうかは「ＡＩの判断」になるわけです。ここに人間の判断や行動が関与できるのかどうか、または関与できる保障をどうやって担保するか、が専門家が頭を悩ましている部分であり、まだ答えはでていません。

そのためＡＩ研究については「危険が大きいのでやめるべきだ」と考える研究者も存在します。

merciusako · Answer

「想像で描かれたものは実現する」と言われていますから、今現在のＳＦの世界は実現するのでしょう。
何千年後、何万年後かは分かりませんが。

人間の本質は太古から変わっていませんから、人間が完璧になることはありません。
矛盾を抱えた存在です。

「絶対的な理性（神）」にはなれないわけですから、人間を超えるものに人間が駆逐される可能性は否定できません。

まあ、理論的には太陽も滅びに向かってどんどん巨大化して地球を飲み込むわけですから、それが人間の滅亡だとすれば、それまでの間に起こるかどうかでしょう。

地球を脱出して別の母なる星に移住するとなれば話は変わってきますが、地球上に限定すれば科学の進歩による滅亡も太陽に飲み込まれるのも、まあ時間の問題ということになりますね。

ニャンポコリン2 · Answer

30年後のコンピュータは、IQに換算すると、10,000になると言われているようです。

現在でも、かなりの知能の高さを持っていると思います。
例えば、「コンビニ店のある場所に、あるものを置けば、売り上げが上がる」とか、すで
に様々な判断をしているようです。
尤も、情報化社会ではあっという間にその情報は拡散し、均質化してしまうわけですが。

コンピュータの内部では、プログラミングに従って超高速で計算し、推論し、判断を下す
わけです。そして、その判断はコンピュータ内部では、客観化された「正しい」判断です。
その判断を、自動的に社会に反映させるというシステムを採用するリーダーはいないでし
ょう。

それは、大変な危険性を伴うし、リーダーの存在意義がなくなるからです。

ですから、社会のリーダーたちは、コンピュータが判断したものを、本当に客観性のある
正しいものであるかを判断し、行動するわけです。

コンピュータの暴走ということについては、私は専門的知識がないので分かりませんが、
結局は、リーダーの判断次第と言うことになると思います。

問題は、AIの神格化であると思います。AIが神になってしまった場合、AIの判断は「真実」
になります。そうなれば、人間は神であるAIの「しもべ」になってしまいます。これこそが
実質的なコンピュータの「暴走」になると思います。

我々は、プログラミングの底に存在する、科学の哲学性を吟味すべきだと考えます。

d_y_n · Answer

人間の作ったものが人間を超えてるかどうか判断するのは第三者です。

グリーンロード · Answer

猿の惑星や機械が人間を支配する世界の話ですか。便利になるのはいいが、最後に滅びが来るのは怖いですね。核戦争の恐怖。ゴジラも反戦映画と聞く。

r_umaniamnvi_the_5th · Answer

鈴木健『なめらかな社会とその敵』(勁草書房)

人間が人間を超えるものをつくること

＞AIはいつか人間を超える存在になる、

追いかけっこのつもりが。

ネアンデルタール人はホモ・サピエンスに滅ぼされました。

人類は太古の昔から、人間を超えるものを作っています

すでに機械は人間を超えている、のです。

「想像で描かれたものは実現する」と言われていますから、今現在のＳＦの世界は実現するのでしょう。

30年後のコンピュータは、IQに換算すると、10,000になると言われているようです。

人間の作ったものが人間を超えてるかどうか判断するのは第三者です。

猿の惑星や機械が人間を支配する世界の話ですか。

鈴木健『なめらかな社会とその敵』(勁草書房)

似たような質問が見つかりました

関連するカテゴリからQ&Aを探す

デイリーランキングこのカテゴリの人気デイリーQ&Aランキング

マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング