チャットgptセキュリティ危険と言われてますかなぜ危険ですか？インターネットの情報でも意識的に載せた

チャットgptセキュリティ危険と言われてますかなぜ危険ですか？インターネットの情報でも意識的に載せたものだしsnsアサイトでもログインしないと行けないから学習しないと思いますか何故危険ですか？

No.4 ベストアンサー 回答者： Ensenada 回答日時： 2023/04/13 17:47

No.3です。

「セキュリティ」危険でしたね。失礼しました。

悪意のある人、またはセキュリティの意識がない人が、ChatGPTに機密情報を含んだ質問をすることが想定されます。
その質問はAIに学習され、今度は別の人の質問にその機密情報を含む回答をしてしまうことも考えられます。

SNSのような拡散ではありませんが、他の人の回答にその機密情報が知られてしまうのです。

この回答へのお礼

お答えありがとうございました

お礼日時：2023/04/14 09:37

No.3 回答者： Ensenada 回答日時： 2023/04/13 16:24

1. 悪意のある(または悪いことをしているという自覚がない)利用者が、何らかの機密情報についてChatGPTに質問として書き込んでしまった場合、ChatGPTはそれを学習してしまいます。

SNSと違って拡散はされませんが、ChatGPTが何かの質問に対する回答の中にその機密情報を含めてしまう可能性があります。

2.「自殺方法」「爆破物の作り方」などの質問にChapGPTが正確に答えると、犯罪や自殺を幇助してしまう可能性も否めません。

3. ChapGPTはまだ発展途上のAIですが、そのことを考えずChatGPTを頼ると、個人や企業が間違えた情報を信じてしまう可能性があります。

4. 小論文のようなことも回答しますので、例えば学校の宿題などに使われ、宿題の本来の目的である学習習慣の定着や人間が自分で考える力・記憶する力の発展を阻害する可能性があります。
(実際に大学1年生程度の経済学の問いを出したら、ほぼ完ぺきな答えが返ってきました。)

以上、思いつくままに挙げましたが、
・AIを制御し学習させているという自覚
・AIが必ずしも正しいわけではないという認識
・AIに頼るシーンを考えるという習慣。
これらのどれか一つだけかけていても、AIは危険なものとなると思います。

この回答へのお礼

お答えありがとうございます

お礼日時：2023/04/14 09:38

No.2 回答者： GOMΛFU 回答日時： 2023/04/11 18:42

質問内容に個人情報が含まれているとネットに上がるともう削除できなくなる

この回答へのお礼

お答えありがとうございます

お礼日時：2023/04/11 21:41

No.1 回答者： angkor_h 回答日時： 2023/04/10 16:19

> セキュリティ危険と言われてますか

世界が持つ懸念は、セキュリティの危険性ではないと思います…

この回答へのお礼

個人情報とか？

お礼日時：2023/04/10 18:08