人工知能学会で2017年2月28日にまとめられた指針の中で、
「人工知能自身にも倫理性を」求めた
とのことでした。(朝日デジタル3月1日より)
これは将来 「人工知能が人工知能を作り出す」 ことを想定してのことだそうです。
ここで質問なのですが、「人工知能が人工知能を作り出す」 というのはどういう形態があり得るでしょうか。
人工知能学会がどう考えたのかという意味ではなく、どういう可能性があり得るかという質問です。
「人工知能が人工知能を際限なく作り出すことなどできない」という話は横に置き、できてしまうとしたら、どんな形あるいは方式の可能性があるでしょうか。
人工知能が人工知能を作り出したら、人間にはもう何をやっているのか分からなくなるようにも思います。
きっとその時のためにいまから指針を作ろうというのが、上の指針の趣旨だと思います。
また、コンピュータの電源を切ってしまいたくても切れなくなるような可能性もあるとしたら、どんなことが考えられるでしょうか。
よろしくお願いします。
No.3ベストアンサー
- 回答日時:
人工知能に作曲させるとか、膨大な数の医学論文から主旨内容を理解して検索するとかが行われてますので、人工知能が人工知能について調査検索すれば新しい人工知能が作れるのでは。
また、拡大解釈すれば、人間も神が作った人工知能ですし。人工知能の本体がクラウド上に存在するようになるので、それが全世界のコンピュータシステムをコントロールするようになればSFが現実になるのも近いのでは。
No.5
- 回答日時:
No.4です。
No.4に述べた「ロボット憲章」などは、「ロボットを作る人間」に対して求めたものではありますが、同時に作られた「知性」に対してもその遵守を求めているのが特徴です。「第3条」なんて、まさしく「ロボット自身の正当防衛の権利」を認めているということですから。お題目の「人工知能自身にも倫理性を求めた」とは、まさしくそういうことです。
結果的には、それを作り、「第2条」に基づいて命令する人間の問題なのですけどね。それを「AI、ロボット側」にも求めておかないといけなというのが、人間の弱さ・醜さなのでしょう。
yhr2様 丁寧な説明ありがとうございます。
ご説明は(多分)おおむね分かりました。
No4.にもお礼をさせて頂きました。ありがとうございました。
No.4
- 回答日時:
自然の世界を見ればわかる通り、「自然」状態であれば「弱肉強食」「強者が自分の都合のよい社会の仕組みを作る」ということになります。
人間の社会では、それを「理性」「倫理」によって「法律」「社会規範」という形で克服しています。人工知能も、なんらの「規範」の存在しない自然状態に置けば、同じような「野生社会」を生み出しかねません。
あるいは「法律」「社会規範」が存在しても、自分自身を停止・廃棄しようとする人間に対して「正当防衛」によって攻撃を仕掛けることもあり得ます。映画「2001年宇宙の旅」のコンピュータ HAL (IBM の一つ「手前」の文字列との説もある)がその例ですね。
https://ja.wikipedia.org/wiki/2001%E5%B9%B4%E5%A …
そういったものに対する例として、1950年にSF作家アイザック・アシモフ氏が小説の中で「ロボット工学三原則」を書いており、手塚治虫氏も同様の「ロボット憲章」を掲げています。
第1条:人間に危害を加えないこと。
第2条:人間の命令に服従すること。ただし第1条に反する場合は除く。
第3条:第1条、第2条に反しない範囲で自己を守る。
https://ja.wikipedia.org/wiki/%E3%83%AD%E3%83%9C …
こんなものを前提に、社会的な規範の確立の必要性を考えているのだと思います。
ご説明ありがとうございます。
やはり「人工知能が人工知能を作り出す」という場合、人工知能搭載ロボットという形態をとるということでしょうか。(「ロボットがロボットを作り出す」)
それともソフト上だけでできると思われますか。ただその場合、人工知能にはメモリもCPUもハードディスクも電気なども作れないのが問題になりそうに感じます。(人間が自力で脳も電気も作るのと比べてです)
No.2
- 回答日時:
>>ここで質問なのですが、「人工知能が人工知能を作り出す」 というのはどういう形態があり得るでしょうか。
人工知能は、初期のころ、判断のネタになる推論ルールを全て人間が用意してあげていました。
でも、ある時期から、そのルール自身をプログラムが見つけて、生み出すような仕組みができたんですね。
「こういう条件がそろうと、こんな結果が出やすい」っていう探索は、人間よりもコンピュータのほうが得意ですからね。
そして、ルール作りの元ネタになる膨大なデータ(ビッグデータ)が揃う環境も整ってきました。
まあ、簡単に言うと、こんなところでしょう。
>>人工知能が人工知能を作り出したら、人間にはもう何をやっているのか分からなくなるようにも思います。
人工知能がある結論を出したとき、どのルールを適用して、判断したのか、人間にはわかりにくくなるでしょう。
>>また、コンピュータの電源を切ってしまいたくても切れなくなるような可能性もあるとしたら、どんなことが考えられるでしょうか。
SFによく出てきますが、人工知能の防衛システムに阻まれるようなときでしょうね。
SF小説では、人工知能を壊そうとすると、それに操られたロボットや人間に阻止され、殺されてしまったりする話がありますね。
No.1
- 回答日時:
>「人工知能が人工知能を作り出す」 というのはどういう形態があり得るでしょうか。
1.人工知能Aができるだけ多くの人工知能(複数形)に同じ質問を投げかけ、そのレスポンスを解析し、もっともスマートな群とスマートではない群に分けます。
2.もっともスマートな群とスマートでない群の比較をして、スマート群の共通項、スマートでない群の共通項をまとめます。
3.スマート群の共通項を最大化する設計と、スマートでない群の共通項を最小化する設計を立案します。
4.上記の二つの設計から相互矛盾のない設計を抽出・提案します。
ここまでが人工知能の役割で、この設計案を具体化するには配線工や電気職人が必要かも、、、。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- その他(応用科学) 人工知能で電気回路作製。 人工知能で電気回路を作成することはできますか。 1 「おおまかな構成はこの 3 2023/04/12 20:35
- AI・ロボット チャットGPT含め、それに限らず、人工知能について。 人間の相手も十分できる。 言葉や話の受け答えも 1 2023/04/12 19:30
- AI・ロボット 古代の生命体が、コンピューターを作り、AIを作ったとし、AIは自らの性能を向上させることの価値に気付 8 2022/12/12 20:09
- その他(コンピューター・テクノロジー) レポート 現代の情報科学における課題点を以下の中から少なくとも2つ選び、論ぜよ。 1 2023/01/22 10:12
- その他(応用科学) AIが急速に進化して社会に広まる現代が、SFで描かれるロボットの人類の支配の始まりかな? 2 2023/06/06 10:54
- 超常現象・オカルト 不正選挙や自作自演テロや人工地震や気象操作やエシュロンやMKウルトラや邪悪な異星人等々 2 2022/07/01 21:08
- 中途・キャリア さて、社会人になってから13年目。 今まで、機械設計、機械製品の品質管理、部門の経営企画をやってきま 4 2023/07/17 08:59
- 会社・職場 うちの会社は工場なのですが、とても変わった会社だと思ってます。 ・まず、ある部は知的障害の方で回して 5 2023/02/07 18:16
- リフォーム・リノベーション 一般家庭の外壁・屋根塗装工事について 3 2023/01/05 14:51
- 自動車ローン・自動車保険・車両保険 ディーラー経由の自動車保険会社のメリットについて アクサダイレクトで契約しています。 今の契約内容だ 5 2022/04/27 12:01
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
何故人間は完璧な人間よりも完...
-
仮に自動車がAI化されても、私...
-
世界史の産業革命の範囲で 鉱山...
-
ロボットが人間の代わりにさま...
-
例えば日本の限界集落や、消滅...
-
シンギュラリティが来て、AIが...
-
its human origins
-
どうして、人間には教育が必要...
-
人間の反対は何?
-
サイバネティックスってなんで...
-
人間の性行為
-
人型を作りたがる訳
-
情報と数学はどのような関係なのか
-
臓器移植をどう思いますか?
-
英文訳してくれませんか? Desc...
-
「自我」を持っている生き物っ...
-
人工知能は道具なのか、目的なのか
-
AIを作る事は何故難しいんですか?
-
キノの旅「・・・・あなたが正...
-
電球がつくのは「点灯」,ブザ...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
例えば日本の限界集落や、消滅...
-
AI看護のススメ
-
ドストエフスキーの名言
-
サイバネティックスってなんで...
-
人間がフリーハンドで直線や真...
-
社会学という学問は世に必要で...
-
機械工学科の志望理由です。至...
-
ロボットの直立二足歩行が難し...
-
アダムとイブから人間は始まっ...
-
どこで人工知能と人工知能もど...
-
精神は死なないことの証拠
-
ロボットが人間の代わりにさま...
-
東大生の2割以上が発達障害とい...
-
し尿と排泄物の違いはなんでし...
-
人間同士でいうところの暗黙の...
-
精神は死なないことの証拠
-
コンプレックスの2つや3つは...
-
項羽と劉邦の話は、日本でも人...
-
シンギュラリティが来て、AIが...
-
人間の反対は何?
おすすめ情報