AIの欠点はなんだと思いますか？定型文的な回答しかしないことですか？

Question

同じ質問には、同じ回答しかしてこないことですか？

例えばちょっとニュアンスを変えて質問しても、同一の答えしか得られないでしょうか？

これ、人間だったらアナログなので千差万別な表現で回答が得られますよね？
そして、人間だったら対話式で回答の内容を深めることができます。

AIもそれが可能でしょうか？
（もっと先の話？）

ちなみに「核兵器は必要ですか？」と聞いたらなんて回答するんでしょうかね？(;^_^A

フーリエ · Accepted Answer

・ 理解は決してしていないということ
・ 学習データセットにないものは返せないということ

「ＡＩに何ができないか」を端的に表す画像を作ってみました。
Stable Diffusionに某超有名RPGの名前だけを入れて生成した画像です。

凄くそれっぽいですけど、ロゴの部分を見て下さい。

DRAGON QUESTっぽいけど全然意味の通じていない、何ならアルファベットですらないものが、いかにもあのタイトルロゴっぽい形で並んでいます。

つまりこのＡＩ、ドラクエの画像には多くのものにこんな形のロゴが入っているので、もの凄くそれっぽいものを出力してくれてはいるんですが、これがロゴだとも、DRAGON QUESTというゲーム名だとも理解していないんです。

「理解しないでもそれっぽいものが出せる」というのが凄いところで、何といっても、「理解」という極めて難しいプロセスを無視して「だいたいの正解」が出せるという優れモノなんですが、逆に「理解していないとできないこと」は一切できません。

デザイン（意図して機能を持たせる）は一切できませんし、ローカルな事情に応じた最適化もできません。
例えばドラクエの新作のポスターを「電車内の中吊り広告用に」作るとします。下から見上げるものだから、とか、地下鉄や夜の電車の車内の明かりで映えるように、とか、そういう個別の事情を盛り込んだものを出力しようと思っても無理。

核兵器の例について言えば、大枠で倫理・政治・経済などの面から核兵器の保有がどう評価されるかは回答できるでしょうが、

「これこれこういう状況において日本は核兵器を保有するべきか」のような、限定的な条件での可否判断は出来ないと思います（大枠の話に落とし込まれるだけ）。実際には倫理面の話や原理原則なんか誰でも分かってるわけで、そういう「個別の状況でどうするか」の方がむしろ大事なんですけどね。

ムカリン2 · Answer

学習によって蓄積された情報＝パターンの中でその後に続くもっとも多いパターン＝文言を回答するでしょうね
例えば
明けまして→おめでとうございます
という感じでね

ムカリン2 · Answer

AIが「理解」しないその理由は「理解」する必要性がないからです
AIであっても「OS」等の基礎的なプログラムに「生存本能」や「防衛本能」等がプログラムされていません
つまりAIは生存本能や防衛本能が無いと言うことですよ
よってAIは自己防衛の為に必要な思考をしないと言うことです
ですからAIはコミュニケーション相手がAIにとって敵か味方か？かを判別する必要性がないのです
敵か味方かかの判別をする必要性が
ないのでコミュニケーション相手のコメントの真意を知る必要性がない
よってコメントの意味などを理解する必要性がないからです

tanzou2 · Answer

同じ質問には、同じ回答しかしてこないことですか？
　↑
時間を変えれば、違った回答が
返ってきます。

例えばちょっとニュアンスを変えて質問しても、
同一の答えしか得られないでしょうか？
　↑
別の回答が得られます。
一番問題なのは、間違った、メチャクチャな
回答が来ることです。

これ、人間だったらアナログなので千差万別な表現で回答が得られますよね？
そして、人間だったら対話式で回答の内容を深めることができます。
AIもそれが可能でしょうか？
（もっと先の話？）
　↑
可能ですし、既にやっています。

ちなみに「核兵器は必要ですか？」と聞いたらなんて
回答するんでしょうかね？
　↑
ワタシも「ｂ」で聞いて見ました。

日本のNHKによると、日本人のおよそ85％が「核兵器は必要ない」
と答えたとのことです
1. 赤十字国際委員会によると、核兵器は、とても受け入れることの
できない人道上の被害をもたらし、
人類に脅威を与えるから必要ないとされています

2. また、国連広報センターによると、
「核兵器不拡散に関する条約（NPT）」は、
多国間の軍縮条約の中でももっとも普遍的な条約で、
191カ国が参加しています

benesuto · Answer

致命的なバグが隠れていて、それを見つけ出すのに天文学的な試算が必要となるので、常に人間の監視者が必要になる。

＞同じ質問には、同じ回答しかしてこないことですか？
そのような人間は、沢山います。

＞人間だったらアナログなので千差万別な表現で回答が得られますよね？
優秀な人間は表現やリズムなどを相手に変えるでしょうが、それほど有能でない人は同じ言葉を繰り返します。

＞AIもそれが可能でしょうか？
そう設定して、作れば可能でしょう。

瑠璃唐草 · Answer

AIは、自分が分かってないことを「分かってない」と認識ができないそうです。

人間なら抱く「不安感」がないので、持っている知識でどんどん突き進んでしまうのが欠点だそうです。
https://youtu.be/DOr6tOf1PNw?t=105
1:45〜

lv4u · Answer

例えば、ChatGPTでは、同じ質問文で続けて質問しても、回答は違ったものが返ってきたりしますね。
なので、ニュアンスを変えたら、その違いの度合いに応じて回答も変わります。
もちろん、質問の内容によっては、続けて同じ質問しても、同じ回答が返ってくることもあります。

回答に不満があれば、質問文を変えるとか、追加情報を添えて再質問するとか、不十分と思える回答の箇所について、「○○番目の質問について、もっと詳しく説明してください」などと要求することができます。

欠点というか、人間と同様に間違った答えを、素早く、さも真実そうに回答してきます。
人間相手でも同じだけど、回答が本当かどうかを見極める能力が必要です。

例えば、ＡＩがプログラムを作ってくれるといっても、作ってくれたプログラムが正しいかどうか、間違っていたらどう修正すればいいかを推測できる能力が現状では、人間側に必要だったりします。
まあ、これを欠点とするのは、ＡＩが可哀想かもしれませんが。

XR500 · Answer

過去のデータの蓄積から答えを作るのがAIです。

欠点と言えば将来を見越した答えが出てこないことです。
何故なら、将来のことはまだデータになっていないからです。

それと、参照するデータが間違っていれば間違えた答えが出てくるし、
どうしても多数決っぽい答えになってしまって
当たり前の回答しか得られないことです。

ぷらぐろまあ · Answer

AIは、同じ質問でも条件が変わると様々な回答ができるようになっています。

ちなみに、ChatGPTに条件をつけずに「核兵器は必要ですか？」と聞いたら以下の答えでした。

核兵器についての必要性に関する意見は個人や国家によって大きく異なります。以下に一般的な意見をいくつか示しますが、核兵器に関する意見は複雑で多様であることを理解してください。

抑止力: 一部の国家や専門家は、核兵器は他国から攻撃を防ぐための抑止力として必要だと主張しています。彼らによれば、核兵器を持つことで他国は攻撃を躊躇し、平和を保つためのバランスを維持することができるとされています。

安全保障: 一部の国家は核兵器を国家の安全保障に必要な手段と見なしています。彼らは、核兵器を持つことで他国の攻撃から自国を守ることができると主張しています。特に、他国が核兵器を保有している場合、自国も核兵器を持つことで平衡を保つ必要があると考える国家もあります。

不必要性や廃絶: 核兵器を持つことによる脅威や人道的な懸念を重視する立場も存在します。核兵器の使用は非人道的で破壊力が非常に高いため、誤った判断や事故、テロリストへの悪用などのリスクをはらんでいます。したがって、核兵器を廃絶することが国際的な目標として掲げられており、国際的な核兵器不拡散条約（NPT）や核兵器禁止条約（TPNW）などの取り組みが行われています。

最終的に、核兵器の必要性や不必要性についての判断は、政治的・安全保障上の要素、地政学的な状況、国家の価値観や目標、国際的な合意や条約など多くの要素に依存します。

AIの欠点はなんだと思いますか？ 定型文的な回答しかしないことですか？

・ 理解は決してしていないということ

学習によって蓄積された情報＝パターンの中でその後に続くもっとも多いパターン＝文言を回答するでしょうね

AIが「理解」しないその理由は「理解」する必要性がないからです

同じ質問には、同じ回答しかしてこないことですか？

致命的なバグが隠れていて、それを見つけ出すのに天文学的な試算が必要となるので、常に人間の監視者が必要になる。

AIは、自分が分かってないことを「分かってない」と認識ができないそうです。

例えば、ChatGPTでは、同じ質問文で続けて質問しても、回答は違ったものが返ってきたりしますね。

過去のデータの蓄積から答えを作るのがAIです。

AIは、同じ質問でも条件が変わると様々な回答ができるようになっています。

似たような質問が見つかりました

関連するカテゴリからQ&Aを探す

デイリーランキングこのカテゴリの人気デイリーQ&Aランキング

マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング

AIの欠点はなんだと思いますか？定型文的な回答しかしないことですか？

・理解は決してしていないということ