大規模AIの心は多くの人間の心の相場なのではなく、口数が多く大声の発言によるもの、と私は思いますが

Question

大規模AIの心は、（株式市場のように、多数の人が参加し、神のみ見えざる手が働いているかのように
、万人が納得するの考え方や評価が湧き上がってくる相場、といわれるものではなく）
たんに、口やかましいものが優位に立ちがちな発言によるもの、と私は思いますが、
賢者の皆様のご感想は如何？

ムカリン · Accepted Answer

ＡＩにはメタ学習させている事から
「出現頻度」と「評価値」を基に導き出した「期待値」がより高い選択肢（情報）から順に選択させるようにしています。よって入手する情報群に偏りがあるかどうかが問題となるのです
何故ならば入手した情報群に偏りがあればそれが出現頻度に影響するからです
この問題はマイクロソフトが世界的に一般公開したチャットボット「TAY」によって現実に起きました
特定の差別主義者集団によって高頻度でその差別主義による情報を学習した結果そのチャットボットは差別コメントを繰り返しました。これが質問者さんが指摘されている事です
この事から言える事それはＡＩをコントロールするにはＡＩに与える情報をコントロールすればいいという事です
以上を踏まえて
ＡＩも工業製品である事からある目的を達する為にそれに沿った作業方法＝プログラミングしそのとおりに作業（処理）させます
よってプログラミングしていない作業＝処理をしたりまたはそれによる結果が目的や想定の範囲を超えてしまった場合にはそれはエラーとして修正するか不良品として破棄します
つまり目的外や想定外の処理結果に至らないようしていると言う事です
質問者さんが主張されている「人と離れた独自性を獲得する」について言えばそれが目的外や想定外であるならば修正もしくは破棄されてしまうという事です
ＡＩを研究・作成している側の人達がいわゆるＡＩの暴走を危惧していないのはそれが理由でそれこそがまさにドラえもんを作り出せない理由なのです

ムカリン · Answer

懸念について
特定のＡＩにたいして自己の主張を繰り返し学習させる事でＡＩを洗脳して自身が望む回答をＡＩにさせてＡＩが理解した云々を言ったところで「それは貴方が言わせてる事」で終わるだけの事です

amerikaumare · Answer

株式市場を例に挙げてますが　今の株式市場はコンピュータによるプログラム（OO銘柄がXX円を超えたら売る みたいに）が多いので 大声で言っても効果はありません。

話題になっている生成AIは「Transformer」技術を使った、言ってみれば「文章”生成ＡＩ”」です。知識は古いですし　知能はありません　単に上手な文章を紡ぐのが得意なだけです。でもね、「単に上手な文章を紡ぐのが得意」なだけでも、会社の業務には助かるのです。

私はプログラマーでしたが、先日、何十年ぶりかにCOBOLのプログラムを組むときにchatGPTに質問したら ほぼ完ぺきに文法に沿ったプログラムを出してくれたので、「これだ！」と思いました。　”文法に沿ったプログラム”を人間が最初から書くと面倒なんですよ（特にCOBOLは記述が多いので）。それを「少なくとも文法上は正しいソース」を出してくれたことで、確認とちょっと手直しで済みましたので　こりゃ便利ぃ　なんです。　そうやって使えばいいのです。

「Transformer」技術には　「下手な鉄砲もカズ撃ちゃ当たる」が使えるので何百万通りの案を出させていいやつが一個見つかればいい　というのに使えます。　新薬の開発に使えそうです。　コンピュータは早いし24時間365日働きますからね。

白田川一 · Answer

AIの乱用は、結果として社会崩壊・国家沈没に至りかねない【麻薬】にも成りえる。
活用しておくべき分野と活用してはならない分野とに、法律を以て仕分けをするべきである。言うなれば、【AI法】(人工知能法)と言ったところか。

ムカリン · Answer

心とは理性と感性とのコラボレーションによるクオリアと考えられる
感性とは感覚・感情
ＡＩには理性があるとしても感覚・感情がないとみられる事からＡＩには心がないと考えられます
因みにＡＩが感性を持ち得ていないその理由はそれらは生存本能によるものでＡＩは生存本能がないからそれらを持ち得ないという事です

satoumasaru · Answer

＞口やかましいものが優位に立ちがちな発言

というより多数派の意見を選んでいるのでしょう。
デープラーニングでは「口やかましい」かどうかはわかりません。

heidfeld · Answer

AIは心を持つのか？という問題があります。

スターバースト. · Answer

現代社会の一般的な価値観は「経済的利益をいかに効率よく得るか」ということにかなり集約されていると、様々な分野を見て痛感しています。
AIにも開発者がいて、出資者がいるわけで、その開発の目的を考えると様々なカラクリが考えられる。

どんなデータを、どのように処理して使っているか？プログラミングはどうなっているの？重大問題の演算結果は正確に公表されているの？

最大多数の最大幸福のために利用されているはずだ、と思うのであればお花畑だと言わざるを得ない。ま、そういうことを言わんとしているのだと思いますが、そうであるならば賛成ですね。

fadklsj · Answer

中の人は頭のいい人の中の白眉たちですから、当然、いわゆる「ノイジーマイノリティ」の声を過小評価するぐらいのコードは書き込んであります。なので杞憂ですね。

大規模AIの心は多くの人間の心の相場なのではなく、口数が多く大声の発言によるもの、と私は思いますが

ＡＩにはメタ学習させている事から

懸念について

株式市場を例に挙げてますが 今の株式市場はコンピュータによるプログラム（OO銘柄がXX円を超えたら売る みたいに）が多いので 大声で言っても効果はありません。

AIの乱用は、結果として社会崩壊・国家沈没に至りかねない【麻薬】にも成りえる。

心とは理性と感性とのコラボレーションによるクオリアと考えられる

＞口やかましいものが優位に立ちがちな発言

AIは心を持つのか？という問題があります。

現代社会の一般的な価値観は「経済的利益をいかに効率よく得るか」ということにかなり集約されていると、様々な分野を見て痛感しています。

中の人は頭のいい人の中の白眉たちですから、当然、いわゆる「ノイジーマイノリティ」の声を過小評価するぐらいのコードは書き込んであります。

関連するカテゴリからQ&Aを探す

デイリーランキングこのカテゴリの人気デイリーQ&Aランキング

マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング

株式市場を例に挙げてますが　今の株式市場はコンピュータによるプログラム（OO銘柄がXX円を超えたら売るみたいに）が多いので大声で言っても効果はありません。