人工知能の進化について。 人間がここまで進化してきたのも、おそらく「生きたい」という本能が根底にあり

人工知能の進化について。

人間がここまで進化してきたのも、おそらく「生きたい」という本能が根底にあり続けてきたからだと思ったりするのですが、
もし今後「汎用人工知能(AGI)」と呼ばれるタイプの人工知能が出てきた時、それらを自律的に進化させていくためには、人間やその他動植物と同じなんらかの「生きたい」という感じの根幹プログラムは必要でしょうか？

もしそういう根幹プログラムがないまま自由にさせていても、その知能はいくら高度に作られていたとしても、ただ同じことを繰り返していくだけで、どこかで生存競争に負けてしまうのではと思ったりするのですが、

AGIが独自に進化していくためには、何が必要だと思いますか？

No.3 ベストアンサー 回答者： phj 回答日時： 2023/10/23 13:10

＞AGIが独自に進化していくためには、何が必要だと思いますか？

AGIが独自に進化していくのに必要なのは、自分を自分で修復できる機能、です。これがなければ「生存競争」になりません。

分かりやすく言うなら「ロボット型のAGI」です。ロボットは人間と同じ場所で行動することになりますので、たとえば「横断歩道を渡るとき、自動車に注意しないと壊れる」とか「暗闇を移動するときは赤外線センサーを使わないと穴に落ちたり、障害物にぶつかって壊れる」という生存に必要なことを学習することができ、結果的に生存競争に対応することになります。

実はこの点について、SF世界では1960年代に課題として取り上げられており、アイザック・アジモフは「ロボット3原則」というものを提唱しています。それは
・第一原則「ロボットは人間に危害を加えてはならない」
・第二原則「第一原則に反しない限り、人間の命令に従わなくてはならない」
・第三原則「第一、第二原則に反しない限り、自身を守らなければなら
ない」
です。この第三原則がAGIに組み込む生存本能になります（もちろん横断歩道などは最初からプログラムに組み込んで教えることは可能です）

しかし、据え置き型のコンピューターの中にあるAGIは自分の手足がありませんから、故障したときに対応してくれる人やロボットを呼ぶか、せいぜい内部回路の切り替えなどの処置しかできません。

ただ、広範囲にネットワークでつながったAGIだと、手足を持つことになります。たとえば上記のロボットとAGIが入っている据え置き型コンピューターが接続していて、コンピューターからロボットを自由に動かせるなら、自分を自分で直すことが可能になります。

このようなところまで設備されればＡＧＩの進化がどうなるか、は誰にも予測できません。

とはいえ、これもＳＦのテーマになっていて、ジェームズ・P・ホーガンの「未来の二つの顔」という本に、今でいうAGIのシステム的発展の様子が書かれています。

　映画ターミネーターシリーズも手足（ロボット）をもったAGIが「自分達の生存のためには人類を排除する必要がある」と判断して終末戦争になったわけですが、1980年代にはネットを含めたＡＧＩの進化というテーマは割と議論されています。

No.5 回答者： e12mv2 回答日時： 2023/10/23 19:16

＞おそらく「生きたい」という本能が根底にあり続けてきたからだと思ったりする

論理が飛躍しすぎている。

「生きたいと思うからAIを作った」
１００人が聞けば９５人以上が「なんでAIなの？」と問う。
衣食住と違い、生命活動とダイレクトに結びついていないからである。

というわけで、説明不足で回答不能。
ミッシングリンクを埋めてほしい。

No.4 回答者： angkor_h 回答日時： 2023/10/23 13:24

No.1です。

> 知能を持ったものだけが進化できるということですか？
はい、そうなります。

人間以外の動物にも、食を求める、自身や子を護る、
と言う欲求はありますが、これは本能による欲求です。
過去から蓄積されてそれを学んだきた知識(進化している)とは言えないです。

No.2 回答者： rera1016 回答日時： 2023/10/23 13:09

個人的にはあなたの考えるAIは世に出ないと考えます。

何故ならそういうAIが出たとき、最終的な結論は人間の排除になるからです。

人間という感情と欲望によって正確な知能を発揮できない存在によって、環境の破壊が進んでいることを考えれば、それを根本から解決する方法は、人間の排除とAIによる理論的な制御に至ります。

すでにそういう結論が明確にわかる以上、自律したAIを作ることなどできません。

まぁその結論がわからず、欲望達成のために作る人がいるかも知れません。

No.1 回答者： angkor_h 回答日時： 2023/10/23 12:57

＞ 「生きたい」という本能が根底にあり

これは、すべての生物に共通でしょう。
人間以外の生物は、知能が無いので、
ただ生きるだけで進化がありません。

> 人間がここまで進化してきた
人間だけが持つ知能が文明を求め続けている、と言う結果だと思います。

AIは、人間が考えたプログラムを超えたことはできません。
ただ、思考時間が短時間である、思考量も膨大である、
という事だけが特徴でしょう。
欲望はないので、進化は無理です。
「心」に戸惑うロボットのCM、
果たして「心」を理解できるようになるのでしょうか。

この回答へのお礼

ありがとうございます。

知能を持ったものだけが進化できるということですか？それとも欲望を持ったものだけが進化できるということですか？

お礼日時：2023/10/23 13:05