調べごとについて、今のAIがどんどん馬鹿になっているきがします

本サイトみたいな教えて系のサイトでは最近AIからのコピペが増えています。
今のAIは便利ですが答えを丹念に見ると半分くらいは正しいですが、半分くらいは創作(大嘘、ハルシネーション)が混じっています。
問題は、AIが好んで、教えて系のサイトから引用をしており、AIがどんどん馬鹿になっていっている気がします。AIの近い将来について不安なのですが良い対策方法は考えられていないでしょうか？また、大丈夫でしょうか？

https://oshiete.goo.ne.jp/qa/13867132.html
の答えが気になりAIに聞いたら、
https://www.perplexity.ai/search/nasexi-hayou-er …
AIの回答記事が引用元にあり不安を覚えました。

No.3 回答者： seiji91 回答日時： 2024/07/16 16:37

一部の限られた人たちがＡＩに関わってた時期とは違って、一般の方々がＡＩを利用し始めてるので、ＡＩも民度に合わせて変わっていくのは必定。

対策として、敢えて言うなら民度の向上。
まぁ、質問者さんのように、ＡＩの回答に疑問をもつ人が増えて、修正する人達も増えて来れば改善するでしょうし、ＡＩに頼りっきりで考える事を諦めた人が増えればさらに悪化する。

ワープロで漢字書けなくなって、スマホで道順説明できなくなって、キャッシュレスで算数もできなくなる・・流れて言えば、希望は持てませんけど。

それでも回避する方法は、一部の良識ある懸命な方々がＡＩに追加アルゴリズムを加えていく事ですけど、それって結局　誰かに支配されるのと同じなんですよね。「今年の冬の流行色は○○です」みたく。

No.2 回答者： taunamlz 回答日時： 2024/07/16 16:36

ChatGPTなどの会話AIは、人間のように自然な会話ができるAIです。

自然な会話に見える事を目標に作られているため、会話の内容が正しいとは限りません。

AIが正しい答えを出力するためには、その前に正しい答えを入力する必要があります。
そのため、間違えた入力をしてしまうと、間違えた答えを答えてしまいます。
通常は、Aという質問の答え方を何千通りも入力するので、多数決のような形で正しい答えを出力するようになります。
しかし、サンプル数が少ない質問については、間違えたまま覚えてしまいます。

その対策についてですが、それは考えていないものと思われます。
そもそも、「こしあんとつぶあんどっちが好き？」のように、会話には正しい答えが無いものもあります。
そのため、会話AIに会話の内容の正しさを求めないというのが一番の対策と思われます。

No.1 回答者： angkor_h 回答日時： 2024/07/16 16:25

AIと言えども、人が作ったプログラムです。

つまりは、プログラマー(生みの親、育ての親)次第なのです。

そういえば「オシエル君」はなかなか育ちませんね。