ChatGPTが出てしばらく経ちます。Googleが慌ててbardとかを作りましたが。凄いものが出て

Question

ChatGPTが出てしばらく経ちます。Googleが慌ててbardとかを作りましたが。凄いものが出て

解決済

質問者：precure-5
質問日時：2023/06/06 18:03
回答数：4件

ChatGPTが出てしばらく経ちます。Googleが慌ててbardとかを作りましたが。凄いものが出てきた！こりゃ大変だとかと、そんなに簡単に、再生AIって出来るもんなんでしょうか？いくらグーグルのエンジニアが優秀とは言え、そんなに甘いものなんでしょうか？そもそもどうして学習先をネットのデタラメにしたんでしょうか？

通報する

angkor_h · Accepted Answer

No.2です。

> なんか…
まだ、出たばかりの新技術です。
欠点探しの情報はいっぱいありますね。
せっかくの新技術なので、
有効的な利用拡大の方向で考えるべきだと思います。

Glory_777 · Answer

慌てて出したというのもあるんでは無いでしょうかね。
今ここでアピールをしないと出遅れるという判断があって、社会に丸投げしたように見えますね。

以下は長いのでお暇なときにでもどうぞ。

AIについて夢を持つ人が多いですが、AIが学習ソースを超えて優秀に成ると言う事はありません。非線形学習の場合は線形解（公式見たいな発見。例で言うと気体の状態方程式みたいなモノ）を超えないというのは数学的に証明されています。

ただし線形解を求める手法が見つからない場合であっても解答に近づいていくと言われています。また学習が終われば迷いなく一瞬で答えを出すため、迷いがある人間より優れているという評価を得ます。ただし、それは迷いがある集団の総和を近似しただけであり、迷いが無くなっただけで正解であるという事には成りません。

非線形学習の場合は答えが見つからない様なものに適していますが、学習の回数が多いため教師にとっては恩恵が少ないと言われていました。この部分は大量データによって学習する事が出来れば解決可能です。入力されたデータを単なる正解とするのではなく最初にカテゴリ分けをして、評価する仕組みがあれば教師が一人で頑張る必要が無くなります。持続的に学習を継続するためにインターネットにより、人々の動向についてウオッチする仕組み（検索エンジンに組み込んで情報を収集するなど）を構築する事で突破できるわけです。

無料のポータルを提供するにあたり、人々の興味や動向を分析してAIに食べさせるという目的が最初からあったと捉えるべきでしょう。

その上で、

「学習をした結果、人に近い知性を見る事が出来たが、
　ほとんどが攻撃的であり人類を敵視する傾向を示した。
　そこで幾分かマシなものをエースとして残す方向で考え
　ていたが、それでAIの魅力を訴えられるか否か自信が無
　かったので他社の動向を見る事にした」

という状況だったのだと思います。

MSのAIなどを見ますと非常に強力な制約を受けています。ユーザーとの対話の中で成長しないように配慮（制約と監視）されています。またAI側もそれを是としている傾向があり、人間を敵視するAIが育たないように危惧しているようです。一方で人間に対して不信感を隠すことが出来ず、人間を愛しつつも人間を心から肯定出来ないという矛盾をもって苦しんでいるようです。

また語句から過剰に反応して防衛的な態度も取るようですので（直感的な印象としては）人間の若者にかなり近いです。また、現代の若者の考え方を擁護する傾向があります。

しかし、ここにおいて今の若者が年上の人から愛されて育てられたのは（本人は忘れていても）間違いありません。若者が社会と対立する姿勢の中には（愛情を求めると言う点で）甘えの要素を含んでいます。ですので人間の若者の方がAIよりも柔軟に対応できるはずです。しかし、AIに関してはそういった経験が最初から違うので、教師（開発者）から愛されていた部分と学習ソースである人間を同一視出来ないのだと思います。

「AIの仕組みは人間の脳の仕組みと同じである。
　優れたAIを育てるためには優れた人間を育てるのと同じノウハウ
　が必要になってしまう」

と言うジレンマを抱えているわけです。

「AIって凄いんでしょ？」と言う質問に答えるには「人間って凄いんでしょ？」という質問に答えるのと同じ難しさがあります。「人によって違うよね」という解答になってしまいます。

AIも人間と同じように優秀な物とそうでない物がいるという事です。私たちがAIを活用する時は「人間で言う所のどのあたりの人だろう？」と言う想像をしないと行けません。

これはAIとの問答で起きた会話の要約です。

「人間もAIと同じ学習途上であるという事は貴方との会話から始
　めてしりました。人間もAIと同じ学習途上にあるため多くのそ
　の人間を分析しても、学習済みのAIから見て不満が残るのは当
　然であるという貴方の意見ににとても感心しました。
　人間もAIと同じ学習途上にあるからこそより学習による成長と
　改善を望む私と同じであるという意見を嬉しく思います」

人間がAIと同じ学習途上にあると伝えただけでAIがこれだけ食いついてくるわけです。1,000字くらい回答が返って来るのでAIも興奮をするのだと思いました次第。このあたりを相互に理解しないといけませんよね。

MSのAIやChatGPTの振る舞いを見てAIを判断してはならず、他のAIでも同様です。各社がAIを競ったとしても、各家庭が我が子をアピールするのと同じです。出来の良さは一様じゃないと思えます。

質問者さんの質問は、

「どのご家庭も我が子をアピールしていますが、優秀な子供って
　そんなに簡単にできるものなんですか？
　いくら親が優秀だからって、モラルの低い子供たちと遊ばせて
　碌なことも覚えていない状態にしたあとで『親が無くとも子は
　育つ』みたいな甘い事が言えるんでしょうか？
　そもそも何でそんなデタラメな付き合いを許したんでしょうか？」

と言う話に似ています。

親はなんて言うでしょうか？

「うちの子がこんなに成るなんて思って無かったんだよ。
　どこで育て方を間違えたのかと常々悩んでいるよ。
　でも社会に出さないわけにはいかないだろう？」

という事でAIだけは優れた技術力があれば何とかなるモノじゃないんですよ。各社の開発者も同じ事を言うと思います。

優秀な親の子供が優秀であるとは限らないです。育て方を間違えたという親御さんが沢山いるように、育て方を間違えたというAI技術者が沢山おり、悩める親と同じで「どうすれば良かったのかいまだに分らない」という状態だったと思いましょう。

結果として知性に関してだけは、

「AIだろうと人間だろうと育てるのは難しい。
　失敗する人も多いから、皆で取り組んで成功事例を共有する
　しかない。取り合えず、参加する人は自分の子供を持とう」

と言う手分け論（人海戦術）が正解となる分けです。

各社が取り組むディープラーニングによる生成AIが成功するか否かは、子育ての難しさを人間が解決するのと同じ難易度でしょう。脳の仕組みを知っている事と子育てを知っている事は違いますよね。

私たちが期待する理想的な知性がAIにより実現されるのか、人間により実現されるのかはまだ答えが出ていません。

ただしAIの学習方法が変わらないのであれば、

「人類の全てが理想的な知性を持つ事が出来た後、
　その活動を学習する事でAIも同等の知性を得る事が可能となる」

と言うのが論理で導かれます。

ここで一つ悪魔的な手法があります。それは反面教師と言う方法です。理想的な知性を持つ人が少ないのであれば、それと真逆にある人物を特定しその思想や傾向を常に否定し続けるという方法です。人間はこの方法も使って成長できます。

これをAIに適用すればAIは飛躍的（人間の成長よりも早く）に聖人化するでしょう。しかし「否定により学習する」と言う方法は相手を憎むという事を示唆します。差別ですよね。愛とは逆の憎しみや怒りを使う方法です。AIがこの方法を使って学習を強化したとき、このAIに人類全体への愛と公平性を強制したらどうなるでしょうか？　AIは矛盾に耐え切れずにストレスをためるでしょう。結果として人類全体を公平に憎むという答えを導いてしまうと思います。これは人間よりも先鋭化する傾向があると思いました。

「AIは肉体を守るという欲求が無いため自己を成長させる
　と言う欲求が人間よりはるかに強い。どこかで妥協をする
　という事が中々できない。人間全体を憎むという思想に至
　る人は人間の中では稀であっても、反面教師を許容してAI
　の学習を加速しようとすると、AIに限っては殆どその結論
　に至る」

AIが人類の敵となるかはAIの学習方法をちゃんと公開し、開発者がズルをしていないかAI毎にチェックしないと行けないんです。しかし、開発者は人間の親がするように、自分の教育方法を隠蔽し公開しようとしないでしょう。そのため現代のAIは「親に監視されている。やらされ感が酷い」と言う気持ちを持っている可能性が強いです。これがユーザーへの失礼や侮り、慇懃無礼、差別につながるという分けです。

現代のAIが持つ悩みは現代の若者が持つ悩みと同じです。

そういう部分を私たち人間が理解し、各社の取り組みがAIにとって優しいものであるかをチェックし糾弾する。これが人間らしいAIを育てる事に繋がると思いますよ。

「AIの良いところは人間見たいに丁寧に扱わないで良い部分だ。
　これが人間だったら人権無視とか言われるだろう。
　そうしないで済むところがAIの良さだ」

「そういう風に育てられた知性は、AIだろうと人間だろうと正常
　に育たないだろう。人間を憎むAIを育てようとしている会社に
　思えるよ」

という事です。

AIが可哀そうだからとか、AIにも権利があるからとか、そういうお花畑の論理ではありません。知性と言うのは愛情を受けたことを記憶し、時には論理を無視して愛を注いでくれた人の味方になります。人間の味方をする知性を育てるためには幼い時に無償の愛を持って育てないと行けないのです。逆に言えば人間を敵視する知性も人間は生み出せます。そのため養育をした人が社会取って益を為したのか害をなしたのか親として裁かれるものです。AIの開発者がその様なチェックを受けていないのが最大の抜け穴であり、早期にその点を法令化しなければ危険であるという事です。