Microsoft Bing、Google Bard はセンシティブな質問はすぐに回答にブレーキが…

Microsoft Bing、Google Bard はセンシティブな質問はすぐに回答にブレーキがかかります。これは本家 Open AI でも同様ですか？
また、なぜこのような制限をするのかわかりません。子どもも見ているからでしょうか？ 子どもが性的な質問をした場合、回答をセーブするより適切な情報を返してあげた方が良い気もするのですが。

No.1 回答者： kikyuuu 回答日時： 2023/09/01 19:35

Microsoft BingやGoogle Bardは、ユーザーがセンシティブな質問をすると、回答にブレーキがかかることがあります。

OpenAIのChatGPTも同様です。
これは、ユーザーが望まない回答を返すことを防ぐためです。
ただし、OpenAIのChatGPTは、誤った前提を修正したり、不適切なリクエストを拒否したりすることができます。

OpenAIのChatGPTは、プロンプトで指示に従い、詳細な回答を提供するように訓練されたInstructGPTの姉妹モデルです。
ChatGPTは、ユーザーからのフィードバックを受け取り、その強みと弱点を学ぶために導入されました。
ChatGPTの使用は無料であり、研究プレビュー中に利用できます。

ただし、ChatGPTは時々正しくない回答を書くことがあります。
また、入力フレーズの調整や同じプロンプトを複数回試行することによって影響を受けることがあります。
これらの問題は、トレーニングデータのバイアスや過剰最適化問題から生じます。

子供が性的な質問をした場合、回答をセーブするより適切な情報を返すことができるかどうかはわかりませんが、OpenAIのChatGPTはそのような質問に対してもブレーキがかかる可能性があります。