Bing チャット(ChatGPT-4)は、ときにデタラメな嘘をつくことがありますがなぜですか？

Bing チャット(ChatGPT-4)は、ときにデタラメな嘘をつくことがありますがなぜですか？ これは人間の脅威の一端になり得ると思いますがいかがですか？

No.3 回答者： PCゆうた 回答日時： 2023/09/11 16:25

AIは間違った回答をするって、最初に宣言しています。

この回答へのお礼

回答ありがとうございます。
> 宣言
どこで？

お礼日時：2023/09/11 16:40

No.2 回答者： elee_f 回答日時： 2023/09/11 12:36

ハルシネーションで調べると詳細がわかります。

https://bocek.co.jp/media/exercise/prompt-engine …

学習データがそもそも正しくない場合もあります。
ただ、仮に全て正しい学習データだとしても、AIはその意味を理解して文章を組み立てているわけではなく、統計的な並びを重視して文字を並べているだけですので、たまたま文章を作る時に適した単語がそこにあればそのまま出力します。統計でしか文章を作成できませんので原理上ハルシネーションはなくならないと思います。人間で例えれば音楽などでちょっと暗い意味が違っていても響きが良ければそのまま文章として採用するようなイメージでしょうか。

ただ、人間でも実際には多くの人が小学生や中学生のテストでも満点をとることはできませんのである意味今更という気もします。むしろ、脅威としてはこういう人たちでも投票権を持っていますし脅威という気がします。

BINGの使い方についてはどうですかね・・・ググったものを真実だと思う人が少し前には多かったですがそれが間違いでトラブった経験のある人が増えています。私も電話番号を調べたら大嘘の場所に電話をしてちょっと困りました。最近は嘘も多いと周知されてきていますしこれが当たり前になれば参考程度にしか使わない人が増えますし脅威にはならない気がします。

個人的にはトップページのニュースを見る度にその人が好みそうなニュースばかりを流しますのでちょっとした洗脳みたいになっていますしそちらが怖いです。あと、BINGとディベートするとあちらが勝つことが多く、そうなってくるとロジックでは勝てない。どうすべきか？とは思います。

No.1 回答者： レヴストラウス 回答日時： 2023/09/11 12:08

ネットにはでたらめな情報が蔓延しているからです。

結局、生成AIの限界ともいえます。

世の中に出回るネット上の文字情報の正確性を判断することなく、自動化で集めに集めた情報をもとに、作文されているからです。
いわば「大声出したもん勝ち」ということ。

これは情報汚染をしようと考えれば、マシンを多数用意し偽情報を拡散することで、いくらでも情報汚染ができるということつながります。

この回答へのお礼

回答ありがとうございます。
どちらにせよ、危ういですね。

お礼日時：2023/09/11 12:17