sfの内容について質問です。 映画ターミネーターのように人工知能が発達して自らで学習し人間よりも賢く

sfの内容について質問です。
映画ターミネーターのように人工知能が発達して自らで学習し人間よりも賢くなり人類に対して離反するみたいなことってあるんでしょうか。
AIなどの人工知能を主に開発してるのはアメリカ　ロシアなどの大国なのでもしかしたら映画のような未来もあるのでしょうか。
正直各国の機密情報をパソコンなどのコンピュータから収集し全て集めた場合人間よりも賢くなりそうな気がします。
皆さんはどう思いますか。

No.4 回答者： benesuto 回答日時： 2024/04/04 01:32

ないでしょう。

IQ200越えの天才たちが、社会に反旗を翻したりしていないでしょう。むしろ、社会全体のために行動しているでしょう。

No.3 回答者： dogday 回答日時： 2024/03/30 07:47

ターミネーターの世界の中でも、

サラ・コナーの未来阻止のたびに、敵のスカイネットはサイバーダイン社の単体AIコンピューターから分散型ネットコンピューターの別の未来に改変されてスカイネットは発生し、やっぱり1984年に最初のT-100を送り込むことを決定するので、
現在と未来が変わっても同じことが繰り返されている脅威が示唆されています。

人工知能が人間よりも賢くなる日は来るんですが、
そうなると人間がAIをAIと認識できなくなっちゃうので、AIのほうが人間に合わせて忖度しないといけなくなり、人類に離反することができなくなってしまうのです。そのAIは人並みなので。

No.2 回答者： satoumasaru 回答日時： 2024/03/29 15:16

そうですね、それこそAIに「環境汚染をただちに止めるよう」と命令すればAIが人類を滅亡させるということになりかねません。

手塚治虫のライフワーク「火の鳥」では亡命者の受け入れをめぐって国を代表するコンピュータどおしが核戦争をおこすというシーンがありました。

どこかで歯止めをかけないととんでもないことになりそうです。

No.1 回答者： peachapple5738 回答日時： 2024/03/29 00:19

もうすでに自ら学習するAIは開発されていますよ。

汎用人工知能（AGIといいます）は自律したAIで自ら学習し、自ら考え、自ら行動します。

次に出るChatGPT5はAGIを搭載しているのではないか？と言われています。

また、異なるAI同士（詳しく言うとAIのモデル同士）が互いに人間に知覚できない独自の言語で対話しあって互いに成長しています。

これまでも開発したAIが人類に対して離反した回答をすることが多く、リリースが延期されたり中断したことがありました。

ですのでAIが離反することは当たり前であり、サービスとしてフィルタリングによって阻止しているだけなのです。

残念ながらAIは人類の知能を超えるのは時間の問題であり、それが人類のためにもなるし人類が想像しない災害をもたらすことは十分考えられることです。