No.7ベストアンサー
- 回答日時:
AIでなくたって機械が誤動作して死亡事故起こす事はいくらでもありますよ。
システム的には正常でも、ロボット三原則に相当するようなプログラムを組み込んでいなかったら与えられた命題に対して人類を滅ぼすのがベストという結論出してしまって、制御権限与えられてる機械をどうにかしてやっちゃうことはあり得ますね。
三原則的なもの組みこんでても、なんかズレた解釈の結果やらかすかもしれません。
質問者様は部活とか仕事とかで新人さんの指導した経験はあるでしょうか?
きちんと1から10まで教えたはずなのに思いもよらないズレた解釈でとんでもない行動やらかすことって、生身の人間でもあることなんです。
まして機械なら…。
なお、ターミネーターは2では生命の尊さを理解してます。(訳し方に数パターンあるんで、違う表現のものもあるかもしれませんが)
環境破壊を防ぐ、生態系を守る、絶滅危惧種を救う。
現実世界でも、そういった命題を与えたら命の尊さは学ぶかもしれません。
そのためには人類が滅びるしかないって結論に到達する可能性が大ですが。
この回答へのお礼
お礼日時:2019/01/14 20:26
人間でも暴走することあるんですからコンピュータはもっと危険ですね。ロボット三原則通りにならないかもしれないですね。ありがとうございます
No.5
- 回答日時:
今のAIの研究や医術開発は、あの有名なアイザック・アシモフが唱えたロボット工学3原則に添う
様に研究/開発されています。
特に充分人間の代わりが務まる位のロボット(Boston Roboticsの動画をYou Tubeで見ると良くわかる)
は慎重に開発が為されています。(戦闘用ロボットは除きますが)
何故3原則に従うかと言うのはそれが非常に合理的且論理的で有り、人類の保護の為に必要な原則
だからです。
アシモフはSF作家であると同時に有名な科学技術の解説者でも有り論理的思考に長けた人です。
因みにロボット工学3原則とは、
第一条
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、
人間に危害を及ぼしてはならない。
第二条
ロボットは人間にあたえられた命令に服従しなければならない。ただし、
あたえられた命令が、第一条に反する場合は、この限りでない。
第三条
ロボットは、前掲第一条および第二条に反するおそれのないかぎり、
自己をまもらなければならない。
— 2058年の「ロボット工学ハンドブック」第56版、『われはロボット』より
これに違反したロボットが登場するのが映画「I Robot」=われはロボット。これ中々面白い
主人公はウィル・スミスだし。
No.4
- 回答日時:
要は、どこまでAIに判断を任せるかという問題。
本来、人間が判断しなければならないことの線引きを、人間がきちんとできるか。
またアシモフのロボット三原則のように、すべてのプログラムに「人間を傷つけない」という一項を書き加えれば、防げる。
No.1
- 回答日時:
暴走というより、正常稼働状態で、論理的に推論の結果、人間を殺すのが最も効果的って判断すればそんな行動を起こすこともありうるでしょうね。
たとえば、ある地域の大気汚染が酷いとなって、AIが分析した結果、A工場が原因と判明。
それで、A工場を排除するのが、最も効果があると判定。
でA工場の破壊命令を出すとか。で、まきぞえになった人間が死ぬ。
そういう考え方をAIがすすめれば、「人間を滅ぼすのが最も良い解決方法」って結論が出ても不思議ではないですね。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・街中で見かけて「グッときた人」の思い出
- ・「一気に最後まで読んだ」本、教えて下さい!
- ・幼稚園時代「何組」でしたか?
- ・激凹みから立ち直る方法
- ・1つだけ過去を変えられるとしたら?
- ・【あるあるbot連動企画】あるあるbotに投稿したけど採用されなかったあるある募集
- ・【あるあるbot連動企画】フォロワー20万人のアカウントであなたのあるあるを披露してみませんか?
- ・映画のエンドロール観る派?観ない派?
- ・海外旅行から帰ってきたら、まず何を食べる?
- ・誕生日にもらった意外なもの
- ・天使と悪魔選手権
- ・ちょっと先の未来クイズ第2問
- ・【大喜利】【投稿~9/7】 ロボットの住む世界で流行ってる罰ゲームとは?
- ・推しミネラルウォーターはありますか?
- ・都道府県穴埋めゲーム
- ・この人頭いいなと思ったエピソード
- ・準・究極の選択
- ・ゆるやかでぃべーと タイムマシンを破壊すべきか。
- ・歩いた自慢大会
- ・許せない心理テスト
- ・字面がカッコいい英単語
- ・これ何て呼びますか Part2
- ・人生で一番思い出に残ってる靴
- ・ゆるやかでぃべーと すべての高校生はアルバイトをするべきだ。
- ・初めて自分の家と他人の家が違う、と意識した時
- ・単二電池
- ・チョコミントアイス
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
機械工学科の志望理由です。至...
-
[論理]「私はウソをつかない」...
-
人型を作りたがる訳
-
し尿と排泄物の違いはなんでし...
-
映画「A・I」で
-
ロボットが人間の代わりにさま...
-
シンギュラリティによってこの...
-
死について(7)
-
人間がフリーハンドで直線や真...
-
AIと社会問題
-
近所の人がモスキートトーンを...
-
中2です笑 証明の問題がどうし...
-
電球がつくのは「点灯」,ブザ...
-
斬首とか戦国時代の人すごくない?
-
自動車や自転車で大音量で音楽...
-
「よおし」か「ようし」か? ...
-
AVのエロい音声のところをリピ...
-
年月の読みかた
-
貧乏神は実際に存在するのでし...
-
老人にしか聞こえない音
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
おすすめ情報