人間が人間を超えるものをつくること

Question

たとえば、情報工学の先端でAIの研究に携わっているとしましょう。
すべてにおいて人間を超える可能性を秘めているものを対象として目の前におくとき、主観は常に対象を客観視できるでしょうか。
人間が人間を超えるものをつくる、ということは、あえて極論を言いますと、人間が人間を滅ぼすというポテンシャルを含み持つことです。
IT化による効率性、利便性は今や否定できません。
ITシステムが修正を繰り返し生き延びる様は人間のようであり、自ら学習を重ねて賢くなる人工知能AIはいつか人間を超える存在になると言われます。
そのようになると想定される場合に、果たして人間は冷静に客観である対象に向き合えるものでしょうか。それとも、専門家のあいだでは人間を超えることはないという根拠があるから、冷静に研究開発を続けられるのでしょうか。
もしそうならば、それを開示して世の中の不安も同時に払拭していく責任も同時にあると思うのですが、皆様はどのように思われますか？

phj · Accepted Answer

＃１４です。お礼ありがとうございます。

＞ああ、私たちはいつになったら悟るのだろう
人間を失ったことを

頭のいい人たちはすでに19世紀初頭に警鐘を鳴らしていますよ。
たとえばＪ・Ｊ・トールキンは「人間らしさ」を「自然（精霊や斎もの）との交流と恐れが人間の本質である」としてそれが失われる前に指輪物語を書きました。指輪物語で人間以外が西の国に行ってしまうのは、まさに19世紀が「機械に人間が乗っ取られ、人間性を失う時期」だったからです。

同様にラフカディオ・ハーンは日本に来て「まだ人間性が残っている今のうちに記録を残そう」と小泉八雲として様々な小説を著作しました。

「メトロポリス」なんていうデストピアを描いた映画もありましたね。

どれも19世紀末から20世紀初頭の作品で、この辺りが機械を発明した第一世代から、機械と共存する第二世代に変わった時期なのでしょう。それから先はコンピューターでもＡＩでも機械化の延長にすぎないわけです。

人間のほとんどは「科学文明と共に生きること」を選んだのです。そのほうが「犠牲はあるかもしれないが、少なくとも自然の中で恐れて生きているよりは幸せである」と考えたからです。

実際、20世紀の科学進歩はすさまじく、それ以前の不治の病とされた天然痘は撲滅、ペストなどは激減、結核は治るようになり、飛行機を使えば1日で世界一周できるようになりました。機械を使うことによる犠牲者はあるものの、全体で見れば「機械のおかげで人は死ななくなった」のです。

ですから、今後もＡＩ化などは「ほとんどの人が疑問を持たずに」進んでいくのだと思います。でも結局人間はそれで幸せなんだと思いますよ。

私には子供が居ますが、20世紀初頭の乳幼児の死亡率は50％以上だったわけです。つまり10人産んでも5人しか残らない社会で、ほとんどの人が「長生きできなかった兄弟」を背負って生きていたわけです。父母の、特に母親が自分でお腹を痛めた子を失う辛さと残酷さは悲劇以上のものだったでしょうが、たった100年前はそれが普通だったわけです。

今は乳幼児の死亡率は先進国なら数パーセントしかありません。

私は「人類が科学技術を捨てて『人間性を取り戻す』ことを望むのか？」と聞かれればＮＯだと思います。その代り人間は「機械とうまく付き合っていく」しか道はないのだと思います。

＞人間はAIの奴隷。モルモット。

人間は自分で機械・技術の檻の中を選んだのです。アマゾンや砂漠地帯など一部の人間たちは拒否しています。ああ、インドに「文明を受け付けない島」があるようですが、そういう人たちはまだ「人間」なのでしょう。

でもほとんどの人間は自分たちで望んで、機械・技術に守られることを選んだのです。

d_y_n · Answer

no8のお礼に関して

＞ところでどうしたら語彙は増えますか？

質問本題から逸れますのであまり掛けませんが、
語彙を増やすためにキャラさんがやっていることを列挙してくれれば、これにコメントを述べることは出来ると思います。
別カテで新規質問して下されば。

音像、字面、意味像
sonic image, composition of strokes, what it tells
これは一見英語に見える何かです（笑）

naokita · Answer

今の人間だって、頭の良い人間に支配されていますので、AIが支配しようが構いません。
逆に、無能な人間が支配していると、数々の失敗があり、その犠牲を負うのがやはり人間です。

そうすると、頭の良いAIが政治経済や社会のルールを計算して作りだした方が、失敗率が減ります。

食料をも計算して作り出すと、もう現代社会の「お金や労働」の世界が変わり、
全てAIにお任せ、上手く事が運ぶようにAIが計算通りにやってくれる世の中になります。
食の心配も老後の心配も無くなる、お金も労働も不要になる、損得もなくなる。そう、争いがなくなります。
そこまでは人間がやらなければいけません。その後はAIがAIを作り出します。
そうすると、前回答者さんのベーシックインカムじゃないですが、平等で平和な世の中にもなるのです。

例えるなら、今のペット（猫ちゃん）のように、人間も自由な生活が出来るのです。

ただし、
その前の段階で、全てを独り占めしようとする人間が居たなら（きっと出てくるでしょう）、人間が淘汰されてしまうでしょう・・・

ニャンポコリン2 · Answer

30年後のコンピュータが、IQ10,000なら、60年後は100,000かも知れない。
どっちにしろ、どういう知力かは私には分かりません。

AIが何を思いつくかわからないと思う。一方、宇宙には人類がまだ知らない、
どんな法則があるかわからないと思います。

ある一つの目的についてのAIの判断が、その知られざる法則に触れないとも限
らない。それは、人間の想像力が生んだSFを超えているかも知れません。

また、孫正義氏は、「この流れは止められない」とし、ベーシックインカムに
ついて言及しています。
現実的な判断と言うことはできましょう。

この流れを止めることを考えるためには、まず、人間は何故ここまで進歩をし
ようとするのか？あるいは、そうしようとする人間の本質というものを演繹的に
知ろうとする流れを強めること、と言えると思います。それは、哲学というジャ
ンルにこだわることもないと考えています。

phj · Answer

＃１３です。お礼ありがとうございます。

＞ちょっとサイエンスフィクションみたいになってきましたね。

実は今までもサイエンスフィクションから生まれた科学技術の利用方法や、科学技術に対する哲学と言うのは案外多くて、アシモフの例もそうですが、通信衛星の概念を考えたのもＳＦ作家です。この辺りは有名な例でしょう。

ＳＦ作家は科学知識が豊富な人が多く、自由な発想で考えられるからこそ、未来の問題点を見つけるわけです。

（ちなみにAIが人類を殺すか否か、というテーマそのもののSF小説もあって「未来の二つの顔」1979年などは有名です）

＞亡国のAIはともかく、そんなに危険性があるのなら、AIをネットに接続しなければよいのではありませんか？
嫌すでにAIはネットに接続されています。いわゆるホームスピーカーにつながっている「アレクサ」などの人工知能です。他にもＡＩとは銘打っていませんが、ＡＩを活用したネットのシステムはすでにかなりあるのです。

ですから私たちはＡＩ導入の第一世代ではなく、すでに第二世代なのです。
でもほとんどの人がＡＩがすでにかなり導入されていて、活用されているのを知らないでしょ。もちろん今のＡＩは人間の制御ができるレベルではありますが、これを「ＡＩが危険な判断をするようになったからネットから切り離す」なんてことはすでにできなくなりつつあるのです。

そこが問題の一番の本質なのです。

＞AIに殺されるのだけはやめてもらいたいです。専門家の判断にゆだねる以外にありませんが、世論も高めていくなど、伏線的にできることはないのでしょうか。

先ほど紹介した「未来の二つの顔」の最初のシーンはＡＩの暴走から始まります。しかもそれは「悪意」ではなく「最適化」の結果なのです。

その中出てくるシーンとしては「月基地での鉱物採掘と輸送をＡＩに任せた結果、様々な情報を総合した結果、採掘器のアームを振って月基地まで飛ばすのがコストが安く時間も費用もかからない方法だと結論付けた」というものがあります。

その結果、人間がいる月基地に鉱物資源が大砲のように降ってくることになり、ＡＩ危険論が一気に巻き起こる、というのが話の発端なのです。

ＡＩの話をすると、みんなターミネーターのように「人間を殺す結論で滅ぼされる」と考えてしまいがちですが、実際にはそのような可能性はかなり低いです。なぜならロボット三原則を守ればそれは防げるからです。

しかし、ＡＩが最初のプログラムで「作業を効率化せよ」と指示され、自己学習の結果「自分が使える手段を可能な限り使った結果、人間に不都合が起こる」可能性がある、というのが1960年代からＳＦ作家が示した問題点であり、現在最新の科学者はそれをどう扱うのか、を研究している最中なのです。

で、残念な話ですが「ＡＩ（というかコンピューター）に殺される」と言う点でいえば、すでに人は死んでいるのです。

つい最近ボーイング787MAXが2機立て続けに墜落しましたが、あれは「自動失速装置が誤作動したこと」と「誤作動した装置の切り方をパイロットが知らなかったこと」で起きました。2機合わせて300人ほどの人々が犠牲になっています。

ここには二つ問題点があります。
・プラグラムは正常でも、それが認識する各種のセンサーやデバイスに不具合があれば人間の命を奪うこと
・人間が関与するとしても「関与の仕方をしっている」状態でないと関与できないこと
です。

飛行機のコックピットを想像してもらうと分かるでしょうが、ものすごい計器類にスイッチがあります。過去には「間違えて隣のスイッチを触ったために墜落した」という事故もあるわけで、これは１００％人間のミスです。

ＡＩなどの人工知能は今のところ「人間のミスをフォローするために導入している」のですが、そのＡＩが誤作動して人を死に至らしめる事例はすでに起きているのです。かといってＡＩを使わなければこれほどの高度な科学文明を維持できないのもまた事実なのです。

残念な話ですが、そして書きたくなかったですが「ＡＩがほんとうに使えるものになるまでには、まだまだ人間は犠牲になる」のです。それは産業革命で機械化した時から宿命つけられた事実なのです。
（初期の機械には緊急停止ボタンは無かったのですが、事故が相次いで付けられるになったのも人間の犠牲があったからなのです）

科学者はもちろんその事実を知っています。だから「なるべくそういうことが起こらないように想定」するのですが、想定外は常に起きるわけで、それをつぶしていくためには人間の犠牲が避けられない、のです。

それが厳然とした現実です。

phj · Answer

＃５です。お礼ありがとうございます。

＞私が興味深く思ったのが、AIは「死ぬ」ことがない。消耗することもないのかということです。
ならば増え続けて、いつかはレミングの行進のように集団で地球外に出ていくのでしょうか。

実をいうと今のところＡＩは「人間を超えるもの」にはなりません。なぜなら判断はＡＩがするにしても、その判断内容とその力が及ぶ領域は人間が管理しているからです。

たとえばＡＩを使った自動運転車ができたとしても、それが「暴走して人を轢く」という問題点はあるにしても、空を飛ぶようにはならないし、人間が「人や車にぶつからずに目的地まで届けること」という条件を逸脱するほどの知識や判断力が与えられるわけでもないからです。

怖いのはＡＩがネットに接続され、あらゆる判断をＡＩが担うようになったとき、またはＡＩで自律的に動く手足をもったロボットが出来た時です。

そうなるとＡＩは人間同様「何か作る」ことができるようになるので、映画ターミネーターのように自分で兵器を量産し（そのために鉱物資源を自分たちロボットが掘り出すことも含む）人間を殺し始めるかもしれないし、自分の頭脳が乗った宇宙船を作って、宇宙に飛び出していくかもしれません。

その点について、専門家たちも「どうすればそうならないようにできるのか？」「いや、その前にそんなことが実際に起こり得るのか？」で議論が分かれているのがいまの現状であるのです。

ほい3 · Answer

＞そんな時代になってからでは手遅れです。
＞この流れをせき止める考え方や思想はほんとうに現れないんでしょうか。
でしたら、状況把握です。
僕は、その前に事故った原発を辞めない日本が心配です。

仕事の誕生はほぼない、ベーシックインカムの時代が来ます。
森永卓郎が予想～「年収300万円時代」を予言して15年、
今後は年収いくらになる？

https://headlines.yahoo.co.jp/hl?a=20181118-00010029-nshaberu-bus_all&p=2

something2013 · Answer

難しい事は解りません。

「将棋ソフト」「囲碁ソフト」と言うのがあるらしく、プロが負けたりしています。
AIの分野では、既に、人間を凌駕しているのかも知れません。

しかし、世の中から、将棋や囲碁が無くなるのか、と言えば、しばらくは大丈夫でしょう。

将棋や囲碁は、人間を相手にするゲームで、「失敗をする。」から面白いのです。
AIは、失敗出来ないので、ただ強いだけで、ゲームそれ自体を崩壊させることは出来ません。
結局、AIは、ゲームに於いては、常に「強くなるための道具」以上の存在には、
なれないのではないか？

人間は失敗する動物です。
一方、AIは、経験に学ぶソフトで、失敗することが「出来ない。」

しかし、失敗する事で、人間は違う次元に飛躍できる能力があります。
そういう意味では、人間にとって、結局は、「道具の域」を出ないだろうと思います。

面倒くさい事は、AIにヤラせておけばいい。

人間は、せっせと、失敗を重ねればいい。

r_umaniamnvi_the_5th · Answer

鈴木健『なめらかな社会とその敵』(勁草書房)

グリーンロード · Answer

猿の惑星や機械が人間を支配する世界の話ですか。便利になるのはいいが、最後に滅びが来るのは怖いですね。核戦争の恐怖。ゴジラも反戦映画と聞く。

人間が人間を超えるものをつくること

＃１４です。

no8のお礼に関して

今の人間だって、頭の良い人間に支配されていますので、AIが支配しようが構いません。

30年後のコンピュータが、IQ10,000なら、60年後は100,000かも知れない。

＃１３です。

＃５です。

＞そんな時代になってからでは手遅れです。

難しい事は解りません。

鈴木健『なめらかな社会とその敵』(勁草書房)

猿の惑星や機械が人間を支配する世界の話ですか。

似たような質問が見つかりました

関連するカテゴリからQ&Aを探す

デイリーランキングこのカテゴリの人気デイリーQ&Aランキング

マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング