人工の意識は可能か？

人工的な意識は可能かというような研究会に参加した経験がございます。
　そこで、コンピュータ的な機構において、意識形成は可能かという問題になりました。各位のご意見いただけましたら幸いです。
　その研究会におきまして、人間の要素である意識の分析がございました。複雑なので割愛いたします、ゴメンなさい。そこで私が質問しましたのが、その中の一つの要素、人間の欲望、求めるという問題でありました。「機械において『求める』というような意識はどのように設定できるのか」という問題です。意識に対しまして神格化される思いの方や、評価基準思想とされていらっしゃる方等いろいろといらっしゃるとは思いますが、重ねてご意見いただけましたら幸いです。

No.11 回答者： suzumenokox 回答日時： 2016/07/18 15:21

こんにちは。

no.3,4,7です。ちょっともつれているようですね。

＞機械が意識を持つことは不可能
　私もそう思います。
　ただし人間の精神活動をスライドさせて
　比ゆ的に機能として付与することは可能だと思います。

　とりあえずno.7では雑談的に自由に発想を転がす程度の発言をしたつもりにすぎないので
　少なくとも‘こうだから信じなさい‘的発言では全くないことはわかっていただきたいと思います。
　もしも人工的な意識を実現するとすればそこまでやらなければならないというような方向へ少し考えてみた後
　でもそれは現状では不可能だし未来において実現できる保証もない
　というスタンスの取り方です。

　欲求ということに関しては
　進化の過程でまずはそもそもの
　コアの欲求という気持ち(‘生理的欲求‘的な)を獲得したうえで
　高次の精神的機能を獲得していく過程で、それらとタイアップしながら
　そもそもの欲求が発展し、その結果として具体的なより複雑な欲求が枝分かれして
　多様に存在しうる状態になっているのが人間にとっての現実なのではないかと思っています。
　感情と絡めた欲求ということに関しては人間共通ということで
　‘生理的欲求‘的という範疇(つまりコアの欲求)に入れていいんだろうと思います。
　つまり、欲求をその他と切り離しているのではなく
　むしろ密接なつながりがあると考えています。

　問題をつかみきれたかどうか定かではないですが
　とりあえずこんな感じでどうでしょうか。

この回答へのお礼

ありがとうございます。
　今までいただきました文章から、価値観を排除された冷静なものであることを理解しております。思いつきは思いつきとして、分析は分析として、知識は知識として扱われていらっしゃることを受け取っております。場合によりましては、ご自覚されていらっしゃる「いい加減な物言い」は、その通りのものとして（ごめんなさい）推測して受け取っております。多くのご意見とても感謝しております。
　明確な答えが簡単に得られるとも思いませんので、皆様からいただいておりますご意見ご回答をヒントにゆっくりと考えていきたいと思っております。
　今回お教えいただいた、高次の精神的機能というご提案ですが、早速ヒントにさせていただきました。「求める」とか「欲」などの言葉で表現されることですが、人間（高等動物）の大きな纏まった動きだと思っていたのですが、もっと原始的で単純な反応行動（生理的な単純活動）からの、学習による機能として出来上がっているものかもしれません。その効果の方へ認識が向いてしまったことによって分かりづらくなっているのかもしれないと考えてみました。それを私たちは「感情」などと呼んだりしているのかもしれません。
　自分とは異なる知識、視点、発想の重要さを、あらためて感じております。質問してよかったと思いました。

お礼日時：2016/07/18 16:45

No.10 回答者： Grass_Roots 回答日時： 2016/07/18 13:12

こんにちは。

この質問に興味を以て、自分で新たに質問を立てました。
そこにも書きましたが、わたしには、sizukanikanngaeteさんと、suzumenokoxさんのやりとりはまったく理解できません。いえ、そうは思わないということではなく、単純に理解不能の領域であるという意味です。

同様の質問を姉妹サイトでも問うてみましたが、10件寄せられた回答すべてが、「未来のことはともかく、現時点で「機械」が「意識」を持つことは不可能であろう」との回答でした。

その中のひとつにはこう書かれていました

＞質問車様の問題視している部分は、コンピュータが欲求を持つことは可能かではなく、自発的な欲求はあり得るかってことではないでしょうか。先にも書いたように、欲求を人が与えれば持つことは可能です。それを人が意図して与えなくても持ちうるかって話を考えると、人工知能の設計時に何を目的としたコードを書くかって話になっちゃうと思います。人は欲求を与えないが、今度は自発的に何かしらの欲求を持つようなコードを書くことになると思います。でもそれってさっきまでと同じ理屈ですよね。人が意図的に欲求を持つようにした訳ですよね。結局は人工物である以上、人の意図する動作をするしかないものだと思います。それを心と呼ぶか否かは各人の判断じゃないでしょうか。

しかし、わたしの理解では、この質問では、またsizukanikanngaeteさんとsuzumenokoxさんのやりとりは、そういう次元の話ではないような気がしています。

つまりコンピューターがどこまで自律的たりえるか？どこまで人の手から遠ざかり得るか？という質問のように見えたのですが、とんでもない見当違いかもしれませんね。科学音痴の痴れ事と笑ってください。

この回答へのお礼

ご疑問、ありがとうございます。
　おっしゃる通り、現在の科学技術では到底無理なことだと思います。
　私の疑問は、まさにSF映画が始まりでした。そんなものです。機械が意識を持ってくるという映画がたくさんあり、中にはタンパク質でできた人型までありました。生き物の細胞もタンパク質（その基の核酸）からの機械的な動きのようでもあります。そこで技術で可能かではなく、どのような可能性があるのかを考えてしまいました。
　そうして考えていきますと、それは機械の問題ではなくて、「自分自身」とは何か、「意識」とはどういうことなのかを考えることになりました。
　私は電子工学や心理学の専門家ではございません。ここではそんな私の質問に対してもご意見をいただけるのではと質問させていただきました。どちらかと言いますと批判的に分析します哲学を研究しております。
　いただきましたご回答に対するお礼の返事、理解しづらいところ多く、誠に申し訳ございません。
　ご回答の一つ一つが私にとりまして、考えておりますいろいろな問題への貴重な学びとなっていることを、感謝を持って申し上げます。

お礼日時：2016/07/18 14:35

No.9 回答者： Grass_Roots 回答日時： 2016/07/17 13:06

ふたつほど無知な質問をさせてください。

①以前「たまごっち」というゲームが流行りましたが、

https://ja.wikipedia.org/wiki/%E3%81%9F%E3%81%BE …

あれの大規模版のようなものでしょうか？

②　コンピューターが、チェスや囲碁をしますが、あれは対戦相手に「勝ちたい」「勝ってやる」という「情動」がモチベーションになっているのでしょうか？

この回答へのお礼

疑問をお持ちいただき、ありがとうございます。
「たまごっち？」とのご質問、残念ながら、たまごっちは、あくまで表示変化していく表示形状に、遊んでいる者が感情移入させているだけなのだと思います。スイッチや経過時間などの演算条件は設定されているようですが、あくまで決められた画面表示の形状までなのだと思います。
　チェスや囲碁にプロから勝ったコンピュータは、勝ちの意味設定をして、相手の駒や布石に対して演算処理して、勝ちの状態を作っていく処理のみが行われているのではないかと思います。
　どちらも「意識」なるものとは違う処理活動のようです。私は専門家ではないので確かなことは言えませんが、推測を単純にではございますが表現させていただきました。
　そんなプログラムの中にも「フィードバック」というものがございます。演算過程におきまして、その演算結果や演算状態に対して条件を付加して演算をし直させるようなものだと思います。ただ回答への計算ではなく、この「フィードバック」のようなことで、ある意味「反省」「演算自体である自己を対象にした演算」というようなことに発展させることができ、「自己認識」のような単位性は成り立たせることができるのではないかと考えます。「意識」なる単位性の可能性ということです。この研究はいろいろな所で行われているようです。
　それでも「求める」という設定は難しくて、ご意見やヒントをいただけましたらと質問させていただきました。

お礼日時：2016/07/18 12:53

No.8 回答者： ニャンポコリン 回答日時： 2016/07/17 12:31

雑談をさせてください。

>機械において「求める」というような意識は、どのように設定できるのか？

という質問文からかなり根源的なところまで迫っているのではないかと想像します。
私は、人間の思考というものは、「生命力」ともいうべき「能動性」がもととなり
無意識、意識のフィルターを通して、成されていくものだと言えると思います。
ですから、仰るように意外と単純なものかもしれません。その「フィルター」に設定
されたものの順位，組み合わせによって「個性」というものが表現できそうですね。

問題はやはり、仰るところの「求める」という点ですね。
物質的なものに敷衍して考えれば、この「求める」とは永久機関を成り立たせる力
となりませんでしょうか？
とすると、機械において設定することは不可能と言えるのか？あるいはプログラム
言語によって(全く素人です)可能になってくるのか？

また、一人一人が持っている「意識」そのものの発現を目的とされているのか？

興味は尽きないですね。

この回答へのお礼

関心をお持ちいただき、ありがとうございます。
　私たちは「自分(意識）がいる」と認識するとき、その身体的活動自体へは向かってはいないようです。そして「思う」とか「思考する」というような心的作業自体へも向いてもいないことがほとんどのようです。私たちが「自分（意識）」を認識するとき、それら活動や行われた作業がどんな「効果」があったのかの方に注目し、「効果」の方に向いて「自分（意識）を認識している」としているのではないかと考えております。
　このため「心は物質には還元できない」とか「心は神秘的で神がかっているものなのだ」などというような考え方も始まるのかもしれません。「意識」なる取り扱いが曖昧になり、話の基準も飛躍したり複雑に迷走する一要因となっているのかもしれません。

お礼日時：2016/07/18 13:26

No.7 回答者： suzumenokox 回答日時： 2016/07/17 11:44

no.3,4です。

好きな分野なのでもう一言。

人間の精神活動には
閾値以下の偶然性を左右する要素が
どこから顔を出して偶然として作用するかわからない、
そういう不確定性があります。

コンピューターにある主体とみなせるものは
人間において閾値以下でうごめいている偶然性を左右する要素がない状態の
仮想主体ということになります。
ビッグデータで取り囲まれた内部は空の状態。
情報の分布として正規分布の真ん中近傍を取り出して
両端をスパッと切り捨てた近似の情報処理の結果としての存在です。
その切り捨てた部分。
そこに偶然性を左右する要素が閾値以下の領域の存在として
充満しているのが人間だと考えていいと思います。
その部分は進化の過程を経ることで
生存に有利なものとしてひずみなく獲得されてきているのでしょう。

その結果としての現状まで踏まえて
まったく生命体と同じ精神活動を再現するには
偶然性を左右する閾値以下の部分までのプログラムが必要になります。
そこにはミクロの空間で発現すると考えられる
高次元の因果律も含まれることになる可能性もあります。

そうした内側からの偶然性の要素と普通に外側からの偶然性の要素に包括的かつ柔軟に対応できる
フィードバック機能を備えた可塑的プログラムも必要になるでしょう。

そこまでやった後のすそ野の閾値以下の部分は
完全に誤差として黙殺できるものになるのかもしれません。
その地点において初めて仮想主体における誤差の部分は
生命体の精神活動においても誤差としてしか存在しえない、
そういう要素と同等のものにようやくなり得るのかもしれません。

今のところこんな感じで考えています。

この回答へのお礼

新たなご提案ありがとうございます。
　偶然性という要素、考えてみたいと思いました。
　スーパーコンピュータでも答えを出すのに何年もかかってしまうような計算を、直ぐに答えを導き出す量子コンピュータなるものが開発されてきている？というようで、なんでも曖昧なところの確からしさで計算をはしょる？？とか。いただきましたお話と関連しているようでもあり、もしかしたら、「求める」という問題と関わるかもしれません。

お礼日時：2016/07/18 13:43

No.6 回答者： ニャンポコリン 回答日時： 2016/07/16 00:49

以前に、人間の思考とコンピュータ的思考の本質的違いの質問をしよう

としたことがありましたが、回答をもらっても理解できそうもないと思
いやめたことがありました。

しかしこれは考えるほどに興味深い問題ですね。
心理学的な部分はもう押さえておられると思います。
仏教哲学の中に。「九識論」というものがあります。
人間の意識、無意識を九つの階層に分析した考え方です。
五感と意識、深い思考を行う意識、深い精神の働きの層、さらに全ての働きを
生ぜしめる本源的層の九つです。

参考になるかどうか分かりませんが。

しかし、こういうことをコンピュータに設定しようなんて、すごいことを考える
人がいるんですね。

この回答へのお礼

ご回答ありがとうございます。
　いただきました「九識論」というご提案、検討させていただきたいと思います。
「思考」に関しましては、整理作業に当たる活動や検索照合作業に当たる活動、判断作業に当たる活動、それらについてを一まとめにして、私たちは「考えている」などとしているのではないか。分析してゆくと、深い思考も割と単純な活動の組み合わせなのではないだろうかと考えております。
　人工意識とはまったく逆の方向からは、ライフゲームに始まる人工生命シミュレーションの研究もあるようです。以前、単純なプログラム活動から動きや単位が進化していき、画面上ではありますが、立体的に魚のようなものが動くまでになっているのを見て、びっくりした経験がございます。稼動させ続けているパソコン上でのことではありますが「電源を切ると生命を殺したことになるのでは」との発表もございました。

お礼日時：2016/07/16 08:53

No.5 回答者： Grass_Roots 回答日時： 2016/07/15 16:05

こんばんは。

「人工知能」が「欲求しうるか」という問いですが、先ず「人間」の「欲求」について考えてみると、それはひとつには自己保存の欲求であり、それが食べ物を求めたり、安全な住居を求めたり、愛情を求めたりという、様々な「欲求」につながっている。

そこで第一の疑問は「機械」や「人工知能」が「何故・何を」欲するか？という疑問です。
言い換えれば、「求める」の背景には「理由」があるのですが、Artificial (人工）のものが、何を何のために欲するのか？

人間の自己保存の欲求には、その裏側に、餓えであるとか、危険、恐怖、孤立、孤独という感情が表裏一体に存在しています。そこから逃れるために生存本能が働き、食を求め、安全を求め、愛情を求めます。

つまり機会に、AIになんらかの「恐怖」や「危機感」というものは前提され得るか？ということです。

第二の疑問として、人間には、「自己破壊の欲求」も存在します、自己を抹消するという「欲求」を機械が持ちえるか？

いづれにしても、「求める」という人間の情動が、「欠如」の感覚に基づくものであるならば、機械の認識し得る「己の欠如」とはなにか？敷衍すれば機械の「自我」ということですが、では「嫉妬し」「羨み」「他と比較」して「落ち込んだり優越感を感じたり」「向上心」を持ったり、「喜び」「悲しみ」「怠けたり」という情動＝自我を持ちえたもの＝機械を、その時点で、いかにして「もはやこれは機械ではない」と判断し得るのか？
「人間」とほぼ同様の「自我」を持った「機械」を、尚これは「人間」ではない、とする基準は？

などというようなことを考えました。

話が膨らみすぎましたでしょうか？けれども、「欲する」ということを他の様々な感情・情動と切り離してそれのみを考えるということができるのか？という疑問です。

この回答へのお礼

ご回答ありがとうございます。
「人間の自己保存」という意味から、人間の自己保存の習性は、原因よりもどのように根源的に発動しているのかを考えてみたいと思いました。
「自己破壊」からは、生物学的な細胞のアポトーシスを考えてしまいました。
いろいろな単語のご提案をヒントにさせていただき、考えていきたいと思います。

お礼日時：2016/07/15 18:34

No.4 回答者： suzumenokox 回答日時： 2016/07/15 07:32

no.3です。

ちょっと補足します。

進化の過程で思考がまず生まれ
その上でその先に意識の上での主体めいたものが生じた。
というのも一つの可能性を持つ考え方で
そうならばそれはビッグデータの仮想主体と同じ構造ということになります。

しかしそこでリベットの実験を考えると
意識と行動の二つの情報処理経路に
共通のコアの部分を持つという解釈はできないだろうか、ということになります。
意識と行動は情報処理的に共通のコアからの二つの枝分かれの発現、みたいな。

そうであればその事実こそが
精神構造の階層において、進化のより初期の時期において、情報処理回路に獲得された
コアの部分としての意識を生み出す主体の存在を示しており
それは、精神構造の階層のより上層の部分からの仮想主体的な存在とは一線を画す
と考えることはできないだろうか、ということになると思います。

ということを考えるにあたって、「求める」ということについて考察するのは非常に的を突いていると思います。

「求める」というのは進化の過程で
自律神経系に生理的欲求という方向性を持たせることで生じた
‘淘汰のふるいを潜り抜けることに関する優位性‘とタイアップして獲得強化されてきた気持ちで
そうした基本的な欲求がより高次の精神活動のコアの部分を形成していると
考えるのが自然なような気がします。
そして、そのコアとして精神活動の構造における階層構造の土台の部分に存在するものを
‘主体‘と定義していいのではないか、というように考えています。
その存在がリベットの実験で示されたと言えるのではないでしょうか。

※ビッグデータにおける仮想主体も
　人間の精神活動全体をスライドさせて対応させる
　と考えるとシフトさせた精神活動においては十分に成立しますが
　イコール人間の主体と考えることはできないんだろうと思います。

　進化の過程を経た人間の精神活動における情報処理と
　コンピューター上での情報処理は対比することができ、
　それぞれひとくくりの情報処理ユニットとして対等とみなすことはできますが
　進化の過程を経たかどうかということで厳密な区別が生じるのだろうと考えています。

この回答へのお礼

重ねてのご回答ありがとうございます。
　リベットの実験はいろいろなところで部分的に話題に取り上げられていたのを思い出しました。自由意思にまで発展させてしまうようで、勉強になりました。
「欲とは、有機体でないとありえないのではないか」というご意見をいただいたことがございます。おっしゃるところの「優位性」の根源、「自己を存続させようとする。種を存続させようとする」それらは進化の過程で作られてきたというお話、勉強になりました。心理学に関しまして不勉強な私に合わせていただいたご回答でもあり、感謝しております。ゆっくり考えてまいりたいと思います。
　更なるご指導を、よろしくお願いします。

お礼日時：2016/07/15 16:25

No.3 回答者： suzumenokox 回答日時： 2016/07/13 21:52

人間の意識の根底には進化の過程を経てきたという経緯があります。

例えば現状のコンピューターからの可能性として
ビッグデータから生じる仮想主体めいたものと比較した場合
そこに整合性を持ちうるかという問題が残るんだろう、
くらいに考えています。

この回答へのお礼

ありがとうございます。
　おっしゃる通り、機械の電気的な演算処理と人間の意識という対比の考え方での整合性って、なかなか考えにくいですね。
　私たちは「私が考えた。とか、私が思った」というように主体を先ずの存在とし、その私が何かしていると考えています。言語もそのような手法になっています。
　でも、それは逆なのではないかと考えております。主体が考えたり思ったりしているのではなく、考えたり思ったりしているのを取り纏めて単位に扱って「私」などと私たちは認知し、取り扱っているのではないかということです。このように「私（主体）」なるものは前提ではなく、取り扱われる手法であって、もとは活動によって成り立ち、活動に対して使われている手法なのではないかということです。かなり端折っております。理解しづらく、ごめんなさい。
　それでは意識の活動とは、どんな活動なのかという問題がおきます。それを分析していきますと、「考える」「思う」なる行動は結構単純な活動の組み合わせのようであり、自分の意識を自覚するという自己認知もまた、結構単純な手法によって行なわれているのではないかという分析ができるようです。
「機械の意識」と言いますよりも、「人間の意識とはどのようなことなのか」というような問題と言えるのかもしれません。ここでコンピュータの演算活動、機械的な活動でそれが可能なのか。その活動があるとき、それは意識存在とせざるおえないのか。SF映画みたいですね。
　それを可能にしても「求める」という設定は、どのように設定できるのかという問題が起きました。指針そのものが不明なのです。機械には「求める」という必要性が考え難かったからです。
　長くなってすいません。重ねてのご意見いただけましたら幸いです。

お礼日時：2016/07/14 17:21

No.2 回答者： tanzou2 回答日時： 2016/07/13 09:14

現代の脳科学では、意識は、脳細胞が

織りなすネットワークの産物だろう、と
言われています。

つまり、意思も、結局は物質に行き着く。

この説が正しければ、人工的な意思は
可能だということになるでしょう。

もっとも、人間の頭脳がそれを理解する
ほど高度なモノとしてつくられているのか、
という、人間の限界の問題は残ります。

この回答へのお礼

ご回答、ありがとうございます。
　おっしゃる通り、コンピュータの高性能化、プログラムの進歩、量子コンピュータの開発などによりまして、人工的な意思の可能性は大きくなってまいりました。
　そこで、高度な生き物には「何かに向かいそれを求める」という情動がございます。この「求める」ということを、どのようにしたら設定できるのかという問題を抱えております。
　tanzou2さんのおっしゃる通り、私の頭脳も下等で、未だ理解不能にあります。明確なお答えでなくて構いません。思いつきだけでも構いません。可能性のヒントとして考えさせていただけましたらと思っております。よろしくお願いします。

お礼日時：2016/07/13 15:50