ChatGPTは過去に書かれたものからの、壮大なスケールでの盗作です、と酷評されることがあります。

Question

ChatGPTは過去に書かれたものからの、壮大なスケールでの盗作です、と酷評されることがあります。

質問は、ChatGPTは新たな知を生み出せるのでしょうか？創造活動を営めるのでしょうか？

ムカリン · Accepted Answer

参考までに
独自の非ヒト言語によるコミュニケーションが発生

この実験では、2つのチャットボットに会話を行わせ、同時に機械学習で継続的に会話の戦略を反復させていた。その結果、独自の非ヒト言語によるコミュニケーションが発生したのである。

まるでSF映画さながらのデジャヴ感がある。

今回の研究で、チャットボットが優れたネゴシエーター（交渉者）になれるということはわかった。価値のないものに対して関心のあるそぶりを装いったり、駆け引きをしかけ、ある程度譲歩することで、相手からの妥協を引き出したりすることもできた。

だが人間には理解できない言葉を作り出し、それで会話を行っていくという、ある意味AIの暴走ともいえるこの行為は、「良からぬことが起こるかもしれないサイン」である。

￼この画像を大きなサイズで見る

はっきりさせておくと、フェイスブック社のチャットボットはまだ開発段階にあり、技術的特異点が訪れた証拠ではないし、それが間近に迫ったことを意味するわけでもない。

しかしそれは、かつて人間のみに属するとされた領域（言語など）における人の理解を、機械が再定義するやり方を示している。

すでに、機械学習の研究では数多くの推定作業が行われている。それはしばしばニューラルネットに膨大なデータを与え、その結果を検証して、機械の思考を理解するという手順を採用する。

しかし機械が会話において独自の非ヒト言語を作り出すという事実は、その作り主である我々ですら、そうしたシステムをほとんど理解していないということを教えてくれる。

ムカリン · Answer

チャットボットの使用者がチャットボットとコミュニケーションが取れているようにするため設定や制限をしなければチャットボットはそれにとらわれずに処理結果＝処理情報を具現化＝画像化（文字や記号もコンピューターにおいては画像事案）出来ます
よって本事案は処理結果＝処理処理と紐づけされている言葉（英語）がなくかつ代用出来る言葉（英語）もなくかつその場合の処理方法＝処理プログラミングがなされていないいなかった事からその処理結果＝処理情報を具現化＝画像化するための処理方法を構築した上で処理結果＝処理情報を具現化＝画像化しなければならなかったことからちチャットボット自らそのプログラミングを構築したという事でソレは人がプログラミングしたものではないことからチャットボット自ら創造したとなると言う事です

ムカリン · Answer

人が知らないき記号らしき？をコミュニケーションにもちいたということはチャットボットは制限されなければ必要に応じて人にとってはあらたな事を創造すると言う事ですね。

スターバースト. · Answer

ＡＩに訊いてみました。

＞特定の哲学を前提に演繹的に回答を導き出すことがあるのか？

「私は多くの価値観を持った人々に対応しなければならないので、特定の哲学は持っていない。あえて言えば、ヒューマニズム、倫理的多元主義に基づくことが多い」と。当然と言えば当然の回答が返ってきました。

＞何故、ヒューマニズム、倫理的多元主義に基づくことが多いのか？

「それは、一人一人の利益の為には、その立場が最適であるという判断である」と。

その他に感じたことは、公平であること、論理的で明快であること（当たり前ですが）、更に深い洞察を求めていることなどがあり、これが人格であれば惚れてしまいそうでした。

結論としては、現在の社会システムの中で各人が利益を得る助言については優秀さを発揮すると思いますが、創造活動はその範囲の中でしか行われないのではないかと思いました。

しかし、それもデータの内容に依るのであって、何か画期的な言論、議論があれば、大きな変化も有り得るなと思いました。
これからはＡＩが言論の場にもなってゆくのかも知れませんね。

kantansi · Answer

ChatGPTのようなAIは、過去のデータを基にして新しい知識やアイデアを生み出すことができます。　確かに、AIは膨大なデータを学習しているため、その出力は過去の情報に基づいていますが、それを組み合わせて新しい視点やアイデアを提供することが可能です。

AIは、過去のデータを組み合わせて新しいアイデアを生成することができます。例えば、異なる分野の知識を組み合わせて新しい発見をすることがあります。

AIは膨大なデータからパターンを認識し、それを基に新しい洞察を提供することができます。　これにより、従来の方法では見つけられなかった解決策を見つけることができます。

AIは、既存の知識を新しい方法で応用することで、創造的な成果を生み出すことができます。　例えば、アートや音楽の分野で新しい作品を生成することができます。

AIの創造性には限界もありますが、技術の進歩によりその可能性は広がっています。　AIは人間のような感情や直感を持たないため、完全に人間と同じような創造性を持つわけではありませんが、それでも新しい知識やアイデアを生み出す力を持っています。

スターバースト. · Answer

遅ればせながら、最近利用を開始しました。
私は商売をしていまして、店名を新しくしたくて、訊いてみたところなかなかいいものが出てきました。私の頭では出てこないものでした。

その他、社会問題について少し聞いてみたところ、少々の創発性、批判性を感じましたが、根本的な批判性ーつまり、コペルニクス的転回がどの程度できるのかということを思いました。

アルゴリズムのことはよく知りません。ＡＩの内部で不動の「哲学」はあるのかないのか？何を前提に論理展開しているのか等々、今日仕事が終わったらＡＩに訊いてみようと思います。

春閑 · Answer

創造の定義は、しっかりしているようで実は非常にグレーゾーンが多いのです。
人間の創造力にしても、ゼロから創造したのかを事例毎に子細に検討すると、ヒントになる知識が必ず背景に存在している可能性があることが極めて多いのです。

そのような、応用力を多少なりとも伴った創造力でしたら、今でも可能でしょうし、日々その能力が向上していくことは間違いないでしょう。

peachapple5738 · Answer

ChatGPTのような大規模言語モデルは膨大なデータから最適な組み合わせを選んでいる、つまり過去の情報を組み合わせていると考えられてきましたがそうではありません。

ChatGPT2レベルまでは組み合わせによる回答が多かったのですが、ChatGPT3や3.5のようにパラメータが一定数を超えると創発性が発現するようになりました。

この創発性は単に過去のデータの組み合わせだけではなく学習したことがない新たな発想を回答するようになったということです。

ただしこれはまだ創発性をしっかり評価できる仕組みがなくそれが創発的なのかそうでないのかは議論があります。OpenAIでは必ずしも創発性がないとは言い切れないとの見解です。

そして最近作られた新たなモデルのChatGPT4 o1はユーザーの質問に対して「一度立ち止まって考えてみる」という深読み行動を獲得しました。

ユーザーが質問をすると今までのChatGPTのように予測モデルに基づいて回答するのですが、その回答を出力する前にそれが正しいのか一度または複回、再検討をして間違っていたら修正して回答を出力するようになったのです。

この能力は研究者たちが教えたわけではなくChatGPTが勝手に獲得した能力です。

これには研究者たちも驚いたようで、もしかしたらo1が汎用人工知能かもしれないとも言われています。

汎用人工知能AGIとは人間が実現可能なあらゆる知的作業を理解・学習・実行することができる人工知能のことです。

まだ議論中ですが感情や感性を持つのでは？ともいわれています。

さらにその先には完全に人間の知能を超越した人工超知能ASIがあります。人間の知能を超えているので人間が評価することが困難であり、その影響が予測困難とされています。

先日のソフトバンクの孫正義が特別講演で大々的にこの人工超知能がいずれ来ることをアピールしていました。あと数年で来るそうです。

質問の結論ですが、いずれChatGPTや他の大規模言語モデルは新たな知を生み出せると考えられています。そもそもそれを目的として開発されています。

そうなったとき、急激な科学の発展が見込まれると予想され（科学以外も。例えば医学など）、今のこの先進的な世界ですら一気に時代遅れとなるだろうとも言われています。

これが楽しみなのか恐怖なのかは人それぞれでしょう。

takumiio · Answer

それ言ったら、人間の創作も過去に書かれたものなどインプットとされた情報以外からは何も生まれないわけで同じかと思います。
ただ、人間の場合は音や匂いなど五感を全て利用していますので今のGPTは文章と画像、音声が主でしょうから、まだ創作能力の幅は狭いと思います。ただ、人よりも多くの情報が内部に入っていますので本当に創作能力が弱いか疑わしい気もします。

yoshimasa2000 · Answer

ChatGPTは価値判断ができないので、創造活動は無理でしょう。

ChatGPTがアプトプットするものは「過去にそういう情報が複数あったから正しい答えだろう」というものでしかありません。

それが論理的あるいは情緒的に正しいかどうか、の価値判断はできません。

価値判断ができない以上、新たに生み出された情報に対して「どうでもいい情報か」「価値ある情報か」の区別ができません。

よって、創造活動はできません。

たとえば、ChatGPTにはいままでにないおいしい創作レシピは作れないはずです。何がおいしいかの価値判断ができないからです。

ChatGPTは過去に書かれたものからの、壮大なスケールでの盗作です、と酷評されることがあります。

参考までに

人が知らないき記号らしき？をコミュニケーションにもちいたということはチャットボットは制限されなければ必要に応じて人にとってはあらたな事を創造すると言う事ですね。

ＡＩに訊いてみました。

ChatGPTのようなAIは、過去のデータを基にして新しい知識やアイデアを生み出すことができます。

遅ればせながら、最近利用を開始しました。

創造の定義は、しっかりしているようで実は非常にグレーゾーンが多いのです。

ChatGPTのような大規模言語モデルは膨大なデータから最適な組み合わせを選んでいる、つまり過去の情報を組み合わせていると考えられてきましたがそうではありません。

それ言ったら、人間の創作も過去に書かれたものなどインプットとされた情報以外からは何も生まれないわけで同じかと思います。

ChatGPTは価値判断ができないので、創造活動は無理でしょう。

このQ&Aを見た人はこんなQ&Aも見ています

関連するカテゴリからQ&Aを探す

このQ&Aを見た人がよく見るQ&A

デイリーランキングこのカテゴリの人気デイリーQ&Aランキング

マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング