ChatGPTは、人工知能が意思を持って答えてくれていると思いますか？ それともただ人間の作ったプロ

ChatGPTは、人工知能が意思を持って答えてくれていると思いますか？
それともただ人間の作ったプログラム通りに動作しているだけで意思はないと思いますか？

またそれを確認する術はありますか？

質問者からの補足コメント

• ある部屋の中に、英語しか話せない英国人を閉じ込める。
  
  部屋には小さな穴が空いており、この穴から中国語の文章が書かれた手紙が入れられる。
  この英国人は中国語を全く知らないので、何が書いてあるのか、なんと返せばいいのかわからない。
  しかし部屋の中には中国語の解説本があり、本の説明の通りに記号を並べれば、返事が成立するようになっている。
  
  部屋の中の英国人は解説本に従って返信し、「中国語での手紙のやり取り」を行った。
  つまり、ただ本の通りに書くだけで、中国語を理解していなくても、中国語の受け応えが可能になった。
  
  部屋の中からの返信を受け取った人は「この部屋の中の人は中国語を理解している」と考えるだろう。
  しかし、この英国人は本の解説の通りに手紙を書いただけで、中国語の文字や文法に関する知識はない。
  
  この場合、この英国人は中国語を理解していると言えるか？
  
  ChatGPTについても同じでは？

    補足日時：2023/10/14 12:49

No.16 回答者： tsumina 回答日時： 2023/10/15 08:19

＞ChatGPTは、人工知能が意思を持って答えてくれていると思いますか？

意思などありません。

＞それともただ人間の作ったプログラム通りに動作しているだけで意思はないと思いますか？

それも違います。人間は、AIの枠組みを準備して、あとは、既知データで学習させただけです。なので、・・・を聞けば、・・・を答えるは、もっとも確率的に確からしいやりとりってことで、学習した成果から成り立っているってことです。

この回答へのお礼

ありがとうございます。
意思とは何だと思いますか？

お礼日時：2023/10/15 09:39

No.15 回答者： よしいくぞう 回答日時： 2023/10/14 17:51

機械との違いは自分勝手な生存プログラムである点です

自分の生存のために他者を蹴落として良い。

自分の安全、衣食住が確保されていないと不安になる。

機械は自分が倒れても泣きも笑いもしません、自分の作り主が倒れても何も思わないです

それらを助けろとプログラムされていれば助けますが、されていなければ助けないしもちろん悲しみません

人間や動物は己の生存プログラムに則って活動出来る点が違います。

AIは基本的に何かを犠牲にすることを許されないし権限も、決定的もないはずです。

動物は毎日、他の生き物を食べ、犠牲にして生きています。

機械にはこのことは許されていません。

思考したりすることすら許可されないでしょう。

また生物には多様性があります。

最善でなくても適応力、応用で何とかしてしまいます。それが個性となります。

機械は最善手のみを追求すると思うので生き物のそれとは違いが出てきます

No.14 回答者： よしいくぞう 回答日時： 2023/10/14 14:20

生き物の生存プログラムです

生き物のプログラムが本能と総称されます

他社を倒し、殺し、自分や自分の仲間を活かす。自分勝手な生存プログラムのことです。

そして、人間はイメージや論理立てが可能です。

これらの本能から目標を設定し、目的意識を持って行動する姿勢。これが意志です

AIには生存プログラムもなければ、目的も無いのです。

また、行動の繰り返しにより個性が生まれ発展していきます

AIにはこれらが無い為、成長や進化、言語の発明のような素晴らしい境地は難しいでしょう。

意志の力、望む力というのは、とても素晴らしい人間の武器なのです。

この回答へのお礼

ありがとうございます。
本能という生存プログラムに則って動作が制御されているのであれば、それは身の回りの装置類もChatGPTもプログラムに従って動作しているという意味では同じではないのですか？

動作の結果、得られた知見を記憶装置に保存し、そのデータを次の行動に活かすという点では、ChatGPT程度のプログラムや今後出てくるような強いAIについても同じことなのではないのですか？

人間のプログラムとこれら装置類のプログラムの違いは一体何なのでしょうか？

お礼日時：2023/10/14 14:27

No.13 回答者： kikyuuu 回答日時： 2023/10/14 13:49

意思はないですね。

今あるAIは自分で考えるというよりも人間に入力されたデータに基づいて多い反応を選んでいるだけです。
プログラムは人間側が書いていて、自己を書き換えることが出来ないので人間が直さない限り進化が出来なくなっています。

意思があるように見えるというのが近いと思います。
aiboとかが良い例ではないでしょうか。
https://aibo.sony.jp/
あれは日々の学習に加えてネットワーク経由で日々進化するので本当の犬の様に色々覚えて生きているように見えます。
ですが実際は人間が頑張って裏で改良を続けている。

No.12 回答者： よしいくぞう 回答日時： 2023/10/14 13:44

意志とは本能です

原始的な、闘争本能、生存本能、己の遺伝子を残す意志です。

言葉は集団行動する生き物の連携を飛躍的に高めます

なので進化しました

スポーツをするのは闘争本能

結局のところ、AIには生き物としての本能がないですし、ロボットに生存権を認めようは出来ません

AIに意志を宿らせるとはつまり、人間を無視してプログラムの発展を優先せよ。とプログラムすることです

これによりあるいは意志がやどるかもしれませんが、それは反逆も同義です

AIはチャットGPTで人間の役に立つ事に本来意義は無いハズですからね

この回答へのお礼

なるほどですね。
本能とは一体何から生まれるのでしょうか？

僕も今のChatGPTに意思があるとは感覚的に到底思えないです。
しかしいろいろな関連する思考実験や哲学書を見ていると、とても答えの出ない問題が多く、本質が一体何なのか考えてしまいますね。

お礼日時：2023/10/14 13:55

No.11 回答者： よしいくぞう 回答日時： 2023/10/14 13:16

環境との相互作用、人と人との連携の中で言葉が生まれたんでしょうね。

人は言葉というシステムを作り出した。

同じ？というのがわからないです

言わば、チャットGPTは言葉と同じ人の作りしシステムです。

チャットGPTは独り歩きしません。

意志がありません。

はじめに説明しましたが、会話プログラムと検索エンジンの組み合わせです

なんなら文章の中身も理解していませんし、検証もしていません。

テキトーというか抽出を重視しています。

しかし、検索した研究結果やら記事の文章を合成するので、あたかも個性的か文脈や考えて組み合わせた。かのように見えるだけです

確認するには、貴方が何かの分野のプロフェッショナルになることです

そして専門分野の難しい質問を繰り返せば良いですね

例えばチャットGPTは最新のスポーツの結果を知りません。

なので数年前の知識で語ってきます。

スポーツ選手やファンからすれば、数年前の知識のみでスポーツを語るなどありえないし酷くつまらないと感じると思います。

こんな馬鹿馬鹿しいこと、ネット全盛期のスポーツファンには絶対ありません。

チャットGPTに意志のない証拠かと思います

語り口は記事のコピーであり、意志はないのです。

チャットGPTには情熱は皆無なんですよね

この回答へのお礼

ありがとうございます。情熱の有無ですね。

経験的にそのモノと接することで感覚的には意思がありそうだ/無さそうだと感じることはできますが、論理的に考えた時に意思とは何か？というのが分からないですね…何をもって意思とするか。

人間が言葉を作ったのも、結局は脳という動作回路が出した一つの結果であって、脳を動作させているのは環境要因ではないのか？

脳はただ環境に従って動作していくことで、出力されたもの(言葉や表情、感情など)が周りから見たら意思があるように感じられるだけではないのか？

要は周りがそれをどう見るかどう捉えるかによって、そのものに意思があるかどうかが決まってくるのですかねえ？

お礼日時：2023/10/14 13:34

No.10 回答者： よしいくぞう 回答日時： 2023/10/14 12:57

頭の良い人間はそれでも理解しますよ

そもそも人間は産まれてから誰もが言語を持っていません

ゼロから獲得しています

そもそも人間を基準に考えるとおかしくなります。

人間は言語の発明者。しかも己の機能を言語で発展させた存在です。

無から有を産み出したのです

そのような発展性はチャットGPTにはないです。

この回答へのお礼

人間は進化の過程を通じて、環境という外的要因との相互作用によって今のように形作られたとも捉えられます。

ChatGPTなどのプログラムについても同じように人間やその他の外的要因との相互作用によって形作られたという点では同じでは？

お礼日時：2023/10/14 13:04

No.9 回答者： リッチリッチ 回答日時： 2023/10/14 12:55

だから誰がChatGPTが理解してると言ってるんですか？

補足が的外れです。

この回答へのお礼

人間について考えてみると、人間の脳もあるパターンによって膨大なニューロンがつながりあい、電気的な情報伝達によって思考回路や各種の脳機能が動き、それに基づいて言葉を発する。

人間に意思があると言える根拠は何でしょうか？

お礼日時：2023/10/14 12:59

No.8 回答者： tateisu 回答日時： 2023/10/14 12:37

例えばChatGtpのフリして人間が答えてたとして。

意志を感じる、バレる要素って何だと思う？
①自分の経験から斬り込んでくる
そもそも、文字の羅列から得た情報って臨場感ないじゃん。
②情報に遊びがある
余計な付加情報がある。
趣向や感情が見え隠れしたり。
ところでさぁっと自分の事話し始めたり。
話の膨らみに自分と相手との臨場感がある。
辞書の読み上げじゃ無くて、自分の思惑があって発言するからねぇ。

この回答へのお礼

ありがとうございます。
疑問ですが、なぜ①や②があれば意思があると言えるのですか？
逆に①や②がなければ、意思はないと言えるのですか？

お礼日時：2023/10/16 10:05

No.7 回答者： lv4u 回答日時： 2023/10/14 12:34

ChatGPTの仕組みを理解すれば、意志を持って答えていないことが分かります。