チャットgptセキュリティ危険と言われてますかなぜ危険ですか？インターネットの情報でも意識的に載せた

解決済

質問者：クラフトマイン
質問日時：2023/04/10 16:16
回答数：4件

チャットgptセキュリティ危険と言われてますかなぜ危険ですか？インターネットの情報でも意識的に載せたものだしsnsアサイトでもログインしないと行けないから学習しないと思いますか何故危険ですか？

通報する

この質問への回答は締め切られました。

質問の本文を隠す

回答 (4件)

ベストアンサー優先
最新から表示
回答順に表示

No.4ベストアンサー

回答者： Ensenada
回答日時：2023/04/13 17:47

No.3です。

「セキュリティ」危険でしたね。失礼しました。

悪意のある人、またはセキュリティの意識がない人が、ChatGPTに機密情報を含んだ質問をすることが想定されます。
その質問はAIに学習され、今度は別の人の質問にその機密情報を含む回答をしてしまうことも考えられます。

SNSのような拡散ではありませんが、他の人の回答にその機密情報が知られてしまうのです。

- 0
- 件

通報する

この回答へのお礼

お答えありがとうございました

通報する

お礼日時：2023/04/14 09:37

No.3

回答者： Ensenada
回答日時：2023/04/13 16:24

1. 悪意のある(または悪いことをしているという自覚がない)利用者が、何らかの機密情報についてChatGPTに質問として書き込んでしまった場合、ChatGPTはそれを学習してしまいます。

SNSと違って拡散はされませんが、ChatGPTが何かの質問に対する回答の中にその機密情報を含めてしまう可能性があります。

2.「自殺方法」「爆破物の作り方」などの質問にChapGPTが正確に答えると、犯罪や自殺を幇助してしまう可能性も否めません。

3. ChapGPTはまだ発展途上のAIですが、そのことを考えずChatGPTを頼ると、個人や企業が間違えた情報を信じてしまう可能性があります。

4. 小論文のようなことも回答しますので、例えば学校の宿題などに使われ、宿題の本来の目的である学習習慣の定着や人間が自分で考える力・記憶する力の発展を阻害する可能性があります。
(実際に大学1年生程度の経済学の問いを出したら、ほぼ完ぺきな答えが返ってきました。)

以上、思いつくままに挙げましたが、
・AIを制御し学習させているという自覚
・AIが必ずしも正しいわけではないという認識
・AIに頼るシーンを考えるという習慣。
これらのどれか一つだけかけていても、AIは危険なものとなると思います。