機械も心を持っている？

Question

機械にも心があると考える機能主義に対する反論って
どんなものがありますかね？
なんでも結構です。お願いします。

neil_2112 · Accepted Answer

まず「心」という言葉の問題ですが、およそ機械との関係で論じられる時には、「意思や感情」などの総体という意味で使われているのがほとんどではないでしょうか。ＡＩ関連で出版されている書籍での「心」は、英語では通常“mind” であって、“spirit”や“heart”、“soul”について論じたものではありません。ここから伺えるように、日本語の「心」という言葉の持つ広いニュアンスのうち、現実には「意思や感情」という意味に限定的に使われているわけです。
つまり「機械と心の関係」を巡る多くの議論の焦点は、ふつう合目的的かつ合理的に作られたものである機械が、自分の意思や感情という一見不合理なものを持てるようになるのかどうか、という点にあるのではないでしょうか。ここが不明確のままだと話が拡散しすぎてしまい、何の議論をしたいのかわからなくなってしまうと思います。（以下、この意味で「心」と書かせてもらいます）

もうひとつ、「機能主義」について。
ものごとについて機能的定義、構造的定義ということが言われます。椅子を例にたとえると、「イスとはその上に座れるものだ」という使われ方に着目するのが機能的定義、「足と背があって尻を置く平らなところがあるもの」という、部分間の実体的な関係性をみるのが構造的定義です。
機械について機能主義の立場が必ずしも「機械に心があると考える」わけではないと思いますが、「心」というものの働きを要素に分解して、パターン認識、計画代数、再帰的管理手続き…という個々の機能群の集合体だとみれば、程度の問題はあるにせよ、個々の機能が実現し得るならその総体である「心」も創造し得るということになるわけで、正確には「原理的には機械は心を持ち得る」というのがその主張でしょう。
（しかし実際にはこのように明快に二分できるものではありませんし、物事の認識にはその双方が必要だ、という現実的な立場をとる人が多いのではないでしょうか）

いずれにしても、「機械も心を持ちうる」という立場の代表的論客として、古くはブライテンベルク（「模型は心を持ちうるか」、哲学書房）がおり、現代ではマーヴィン・ミンスキーが挙げられるのだと思います。
ミンスキーはかつて人間の「心」を「肉でできたコンピュータ」と譬えたことがあります。つまり彼の立場では、「心」は既知の物理法則に則って作動する機械だ、ということになります。

「心」というのは原理的に沢山のプロセス（彼の呼ぶところの「エージェント」）から成り、各々のエージェントは思考を全く必要としない単純なことしかできないが、エージェントたちがレベルやフレームといった構造を通じて十分に複雑な形で社会を構成することで知能や感情を達成している、というのが彼の主張です（ミンスキー「心の社会」、産業図書）。
言ってみれば、「心」の実体は「とるに足りない動作をする無感覚なループと系列」から成る、というわけですから、「心」は現実に機械によって実現され得る、とみているわけです。

程度の違いはありますが、ダグラス・ホフスタッターもこの立場に近いでしょう。彼は、個人的な意見と断りながら「十分に複雑な知能プログラムを持つ機械は必然的に感情を持つようになる」という意味のことを書いています。もちろんこの感情や意思は、プログラムの中に明示的に書かれている必要はないものです（ホフスタッター「ゲーデル、エッシャー、バッハ」、白揚社）。
また彼は、テューリング・テストに合格するようなプログラムが創造されたとしたら、たとえそこに「心」が存在しなくとも、私達はそこに「心」を認めるだろう、とも述べています。

ただこの二人の間には結構な温度差もあります。「女の子が持っていた風船を風にさらわれて泣いた」というような文章を見た時、果たしてプログラムはそれを本当に理解できるのかどうか、という問題です。
ミンスキーなら可能だと答えるでしょうが、ホフスタッターなら、プログラムがそれを知的に理解するということまでは認めても、果たしてそれを“真の意味で”理解していると言えるのかどうか、という点については時期尚早だとして恐らく結論を保留するでしょう。

この二人の違い、「人間主義的論点」により一層の重きを置いて、「泣けないコンピュータには結局心がない」とするような立場が、ひとまず機能主義論点に対する反論となっているのではないかと思います。
この反論では、「理解」とは外形的な機能標準を満たすだけでは不充分で、もっと違うレベルを持つのが人間の「心」なのだ、とするわけです。
ここには確かに深い問題があると思いますが、実際にはＡＩ方面の人達はあまりこの問題をとりあげるのを好みません。この立場は科学的立場を貫くことが難しく、容易に「人間の心は根本的に神秘的な理由によってプログラム不可能だ」という結論に走る危険性があるからです。背景には、人間をその精神性ゆえに高貴とし、その働きの本質は不可知であると考えたい欲求を持つ人が特に西洋には多い現実があるのでしょう。

もうひとつ、機械と人間の持つ「身体」の相違に着目して、結果的に生まれる「心」に相違があるとする見解があります。心身の相関に重きを置く立場で、社会との接点であり思考を枠づけする「身体」が違えばおのずと「心」のあり様も異なるはずだ、というもので、機能主義派の持つ楽観的態度を消極的にではありますが、批判しています。従来の認知科学の前提を批判して認知を「身体としてある行為」とみるＦ．ヴァレラ（「身体化された心」工作舎）などにその一端があります。

そしてもうひとつ、機能主義に対する論陣が割と少数派であるなかで、異彩を放つものとして、ロジャー・ペンローズのそれが挙げられるようです。
私自身もペンローズの著作は十分に理解できませんので、詳細はうまくお伝えできませんが、彼の立場は、「心」の概念を現在われわれが物理的・論理的にうまく記述できないのは、基本的な物理法則をわれわれがまだ理解できないでいるからだ、というものです。したがって、現在のコンピュータ理論上にあるＡＩ研究では、人間の「心」は絶対に理解できないし創造できない、としてミンスキーやホフスタッターらの方向性を批判しています。
ペンローズいわく、「心」の働きには量子力学を超える深いレベルの法則（量子重力論）が不可欠であり、究極の統一理論であるその未知の法則が人間の思考や意識の働きを実現化させているのだ、というものです（詳しくはペンローズ「皇帝の新しい心」みすず書房、を参照なさって下さい）。

Evianus · Answer

機能主義と言うものがよくわからないので、まったく参考にならないかもしれませんが、僕の考えを述べたいと思います。


僕は「他者の目」と「内的な混沌」が人間を人間にしていると考えています。「内的な混沌」というのは、たとえて言うなら「生きようとするエネルギー」です。これは否定しようがありません。これは爆発しそうなくらい大きいのですがそれを「他者の目」が否定し、その内と外のバランスの上に肉体（特に皮膚といいたい）は存在していると思います。そして、ここに「心」のようなものが宿るように考えます。

今の機械はどんなものであれ、とても単純な仕組み（プログラムで動く）で出来ていて、人間の脳ほど高度なものとは雲泥の差があるように思います。

それに、機械には他者の目（人間の目、アクション）はあるかもしれませんが、それに対する機械の生きようとする意思は完全に欠如していると思います。よって、機械に心はありません。
しかし、そのうち機械に高度な認識能力が付き、自己保存のために「生きよう」とするような「意思」が生まれたとき、機械には心が出来たといえるのではないでしょうか？

ちょっぴりまとまっていませんが、簡単に言うと「アクション」に対する「リアクション」+「根源的な混沌（？）・生きようとする意思」＝心なんじゃないかな…


私論です。「心皮膚論」
何かアドヴァイスください。

ykkw_2001 · Answer

＃８のasterさんの回答を読んで、またすこし考えたので、また書きます。

「機械に心があるかどうか」を論ずるために、心とは何なのかが必要かと考えていたんですが・・・・

＞「広義の魂・心」は、機械にもあれば、土や鉱物や山や海にもある
というところで、「Hummmmm......」となりました。

「機能が（簡単に理解できる範囲を超えて）複雑であるから」
「冗長な機能を持っているから」
「生物（命を持っているもの）であるから」
「創造することができないものがこころだから」
というのも、私にとっては、それぞれ十分納得に足るものです。

しかし、「土や鉱物や山や海」（命がない、見た目での動きがない、ここからここまでの明確な範囲が限定できないものたち）にも「魂・心がある」と言うasterさんの回答は、私にある映画（レンタルビデオで見たんですが・・）を思い出させて下さいました。

それは、トム・ハンクスが主演してアカデミー賞ノミネートされた「キャストアウェイ」という映画です。
ロビンソンクルーソーのような無人島でのサバイバルを描いたものですが、寂しさを紛らすために漂着したバレーボールを話し相手にするという設定です。「ウィルソン」と名づけられたバレーボールは、ある時は彼を励まし、ある時は彼にケンカを売ったりとあたかも意志・魂・心を持った人間のように思えてきます。
このとき、バレーボールの「ウィルソン」の心は、トムハンクスにとっては確かに存在するし、「ウィルソン」は、心を通わせる「無二の親友」なのです。
http://www.coara.or.jp/~miyashu/cafe/cinema/cast.htm

つまり、私が思ったこととは、「心」というのは、それを観察する（あるいは存在を期待する）者がいるからこそ存在する（「存在するように思う」と言ったほうが正確？）のではないか？ということなのです。

ここまで考えたら、やはり、「心」は、観察者の幻影であり、人にも機械にも物にも「存在しない」ものではないかと思えてきました。

＃「機械には心があるということへの反論」というより、唯物論なのかな？
＃この方面はあまり詳しくないのですが、いろいろ考えてみる事ができてよかったと思います。
＃おもしろい質問をありがとう、そして回答者の人たちにも感謝です。

eidos · Answer

構造主義だと思います。

　平たく言うと、キリンの首が長いことについて、首が長いという構造が
前提となってキリン全体の首が長くなったと考えるか、キリンは弱い生き
物で、競争社会では暮していけず、なんとか努力の末に高い所にある葉っぱ
を食べるという手を思いつき、その機能が前提となってキリン全体の首が
長くなったと考えるかです。

　ダーウィンの進化論でいうと、こうなるのですが、それを機械に当て嵌
めて後者の情緒的な面を「心がある」と仰っているのでしょう？

aster · Answer

「心」とは、「精神・魂」などの同義語であるとします。少し使われ方が違うのですが、本質的に何を指しているかでは、同じものを指示しているとします。

おそらく機能主義による、機械が心を持つとは、他者の心の有無は確認できないが、その行動様式や反応様式、つまり「機能活動」から、他者や生物には、心があると考えられ、そうとすると、同じように、機械も、「機能活動」を行う以上、機械にも心がある、ということだと思います。

ところで、「広義の魂・心」は、機械にもあれば、土や鉱物や山や海にもあるというのが、わたしの考えなので、「機械に心がない」ということが、わたしの考えていることに一致しません。

参考ＵＲＬのわたしの回答のなかで、意識・魂の実体として、何かの場、例えば、電磁場とか仮想光子場がそうであるという説があるが、精神はそれとは別に、実体として存在するのだという主張が書いてあります。

機械にも、色々な物質の集合にも、電磁場はあり、また仮想光子場は、人間の大脳に構成されているような複雑精緻なものではないにしても、存在します。すると、機械も、物質も、魂・心を持つということになります。

わたしは、汎心論的な考えなので、「自我精神」の特権性は認めますが、「魂・心」は普遍であると考えます。

とまれ、回答として、機能主義で、機械に心があるとすることの間違いは、生物の持つ「機能」は、「合理的に構成されていない」という点にあると思います。

チューリング・マシンの例があるのですが、あれは、人間の論理的な思考を、上部の形式的な機能構造だけを取り出して、操作手順を設計し、「考える機械」が作れるとする展望です。

しかし、人間の「論理的思考」は、非合理的な一種の混沌から、ピアジェの説では、行動の構造様式＝シェーマが確立されて行き、このシェーマが抽象的な段階に構成されて行く時、一種の「論理構造シェーマ」が構造として成立し、これが人間の論理思考の起源であり、根拠であるというものです。

つまり、人間も含めて、動物、生物の行動などの機能は、そのような構造が成立する前提に、一見無駄と思える色々な構造があるのです。

犬などに「感情」ひいては「心」があると人間が感じるのは、犬を「擬人的」に扱っているからではなく、根本的には、犬の機能行動に、機能では説明できない、非合理的な、余分なものが感じられるからなのです（これ故に、犬を擬人的に扱う人が多数いるのです）。

実際、犬ほどの高等生物になると、非常に複雑な神経系を持っており、犬は間違いなく夢を見ています。犬が犬としての行動を、機能的に発動するのに、夢を見る必要はないのです。犬が夢を見るのは、その上部の抽象機能行動が、実は、非常に錯綜した、脳の構造の上に成立しているということを意味します。

生物一般について同じようなことが、広義に言えるのです。例えば、遺伝子には、冗長部分というか、不要な、使われていない部分がたくさんあります。単細胞生物でも、その機能行動の背景に、無駄とも思える色々な構造が存在しています。

わたしたちは、生物が、機能行動を行うので、生物に「心」があると考えているのではなく、無駄な部分がたくさんあって、人間同様、失敗や迷いや、行動の混乱が、どういう理由か、非常に複雑で分かりにくい過程で起こることを知って、「親しみ」を感じるのですし、「心がある」と考えるのです。

機械の場合、その機能活動は、合理的に設計されたもので、無駄なものから、徐々にそういう構造が出てきたのではありません。最初から、形式的抽象的に、活動や機能が設計されているのです。

生物の場合、機能の背後には、複雑でよく分からない構造が必ずあります。機械の場合、機能は、プログラムや設計されているので、プログラムした人間には、複雑な動機などがあるかも知れませんが、機械には、機能構造の更にサブ構造はないのです。

もっとも最近のＷＩＮ・ＯＳなどになってくると、何かわからなくなっており、サブ構造があるような気もします。

機械には、生物の機能と同様の機能活動があるので、「心がある」というのは、以上のような、機能の設計の最初から答えが分かっているプログラムか、進化の途上出てきた、サブ構造の上に立脚する機能かの違いがあるということで、反論できるでしょう。

＞No.272541 質問：死後の世界を否定するのは「科学的」か 
＞http://oshiete1.goo.ne.jp/kotaeru.php3?q=272541

参考URL：http://oshiete1.goo.ne.jp/kotaeru.php3?q=272541

nyozegamon · Answer

人間には心があるので、「機械の心」を想像することは出来ますが、心を創造することは出来ません。
「機械の心」はあると考える人の心の投影に過ぎません。

mcqgogo · Answer

簡潔に

心や機械の定義なりを相手に問いただし、
然る後に、
「まあ、比喩としては分かるけど…」

chihoko · Answer

●機械にもこころがあるという　機能主義の前提は
　こころはこころを創る機能により創られるというものです。
　つまり機能主義の弱点は　前提にあるわけです。
　こころが機能によって出現しているのか？を考察してみます。
　感情　記憶　類推　論理思考　ひらめき　自己変革　夢
　一見すべてが機能によって出現しているように思われます。
　しかし　それらすべてのバックボーンに　性のエクスタシーが
　あるとしたならば　どうでしょう？
　どんな感情でも　おおよそ機能によってそれを出現させることは
　可能だと思います。それを感じているわたし自体がバカの状態で
　いろいろ説明したりはできますが　ジャストこれですと
　指し示すことはもちろんできないし　エクスタシーにおいては
　自我も解けてる可能性があり　叙述不可能で　記憶も不可能です。
　つまりこころの一番の根本が捕らえられない。
　よってその機能の複製はおろか　機能であるかさえ限定できないのです。
　性のエクスタシーさえ把握できれば　こころは機械にも与えることが
　論理的には可能でしょう。しかし　わたしの感ではたぶん無理です。
　それが　人間であることの証明なのです。

mcqgogo · Answer

簡潔に

心は生き物に宿る
機械は生き物か？
しからば生き物の定義を述べてみよ

3つ前の哲学カテゴリーにある、詭弁術は参考になると思います

ykkw_2001 · Answer

私は
＞機械にも心があると考える機能主義
これ自体を知らないので
＞に対する反論
というのも、わかるはずがないのですが、
機械を擬人化して執着するのは、人間の感情として、興味深いので、ちょっと考えて書きます。

まず、「人間に心がある」と考える根拠はなんですか？
それは、日ごろ接触する動物や植物、人形にも当てはめて考えることが出来ると思います。
もちろん、クルマやコンピュータにも名前をつけて、人格や個性を求める場合があります。

恐らく、自分の意のままにならない他者の意思の存在を求める人間が作り出す偶像であると考えられます。
人間はそのような他者との対話によって、自己を相対化することができ、さらに深い思慮を得たり、感情のコントロールを得ようとします。

そこでご質問にもどりますと
＞機械にも心があると考える機能主義に対する反論
として以下のような点が考えられます。

（１）「心」というもの自体、人間が不随意なものに対して命名した概念の名称であり、科学が解明しきってしまった対象には、「心」はあり得ない。「心」は科学進歩とともに絶滅して行く。
（２）物理現象の累積であるところの「機械」には心はないはずである。まれにおきる解明しきっていない（良くわからない）現象に対しては、人は「心」という言葉で自身を納得させようとする。
（３）人間でさえも、科学物質の集合体であり連鎖する化学反応と微弱な電気的情報伝達の連続であるから、いずれ「心」（＝不可解な部分）はなくなって行く。

つまり、「機械には心がない」ということは、「心」というもの自体の存在を否定することになると思います。

＃ちなみに上記内容は、＃１の方の回答を大いに参考にさせていただきました。

機械も心を持っている？

まず「心」という言葉の問題ですが、およそ機械との関係で論じられる時には、「意思や感情」などの総体という意味で使われているのがほとんどではないでしょうか。

機能主義と言うものがよくわからないので、まったく参考にならないかもしれませんが、僕の考えを述べたいと思います。

＃８のasterさんの回答を読んで、またすこし考えたので、また書きます。

構造主義だと思います。

人間には心があるので、「機械の心」を想像することは出来ますが、心を創造することは出来ません。

簡潔に

●機械にもこころがあるという 機能主義の前提は

簡潔に

私は

似たような質問が見つかりました

関連するカテゴリからQ&Aを探す

デイリーランキングこのカテゴリの人気デイリーQ&Aランキング

マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング

　構造主義だと思います。

●機械にもこころがあるという　機能主義の前提は