画像認識が、人と同様な錯覚を示すことは、本当ですか？

Question

岡野原大輔は次のように書いています。
＜例えば近年の画像認識は、人と同様な認識ができるだけでなく、間違いや錯覚まで人と同様に示すことがわかっている。＞

質問は、画像認識が錯覚を示すことは、本当ですか？

Glory_777 · Accepted Answer

画像認識に限らずニューラル・ネットワークを使った学習やそれを使っていない学習であっても（適応フィルタなど）も含めて「人間と似た挙動をする」という事はかなり前から知られています。

「学習と言う概念そのものにそういった性質がある」

以下は長いので興味があればお読みください。

学習と言うのは「お手本」を設けて近づけていくという方法です。この近づけるというのをどういうことかと言うと「自分が選択できる回答の中でどれを選ぶと一番お手本に近く成るか？」と言う考え方です。

「猫の写真をAIに評価させた。猫10％だそうだ。
　猫100％とならないとだめだよねえ。
　評価に使っている演算処理のパラメータを変えて
　みよう。お？12％になった。改善した。
　こう変えると？　を8%になった。改悪だな。
　すると、12％の方がいいのかな？
　もう少し色々変えてみよう。・・・13％になるこ
　のパラメータが今の所一番いいみたいだ。
　面倒だ。100％になるようにパラメータを逆算し
　よう。いいね100％に近い。
　では次の猫の写真を評価させよう。
　うは今度は５％だ。何とかこれも100％にしよう。
　あれ？前の写真を評価させたら50％になったぞ。
　まあ、パラメータ変えたしな。どちらも100％に
　近づけるように調整するか」

こんな風に色んな猫の写真を与えても猫率が高く成るようなパラメータを探す感じに成ります。実際には今見たいな出たとこ勝負をせずに、猫認識率をあげる方向にパラメータを変えていきます。そういう更新方法も確立しています。

「どんな猫の写真でも大筋で猫判定率が高いパラメ
　ータを見つけ出せばいい」

これが学習です。まずは最初の写真で猫100％を目指す（その写真限定で猫判定が凄いパラメータ）があれば、まずはそれを使います。

次の写真を見せたら猫判定が大幅に下がるかもしれません。また今の写真の猫判定率を高めるようにパラメータを変えたら、前の写真の猫判定率が下がるかもしれません。そこで前の写真の猫判定率を下げず（少し下がるのは仕方ないとする）に次の写真の猫判定も同時に高めるパラメータを探します。そうやって頑張っていると「全ての猫の写真で猫判定率が高まる」パラメータに収束していきます。これ以降は「大体の場合において猫が含まれていると猫判定率が高くなる」わけです。言い換えれば猫を認知する画像認識システムが出来上がったと解釈できます。

「あれ？　猫じゃない壁のシミを見ても猫だという
　ぞ・・・AIも錯覚を起こすのか・・・」

という現象が起きます。猫の特徴をどこで判定しているのか（CNN等は特徴MAPと言うのを学習させる）が人間に似てくるという事です。つまり人間の画像認識もAIと同じ処理をしていたという示唆を得られます。

「AIが人間に似ているんじゃない。この方法で学習
　をさせると人間かAIかに関わらず、錯覚を引き起
　こすという事だ」

こういった現象から「人間の脳には何の神秘もなく同じものは人工的に作れる」と言う認識に変わってきています。そのため昔のＳＦに出て来る「ＡＩは機械みたいな知性を持っている」と言うのは嘘だと分かります。

「ＡＩは人間臭すぎる」

と言うのが本当の所です。

現状で良く出来た（学習が上手くいった＝Bingチャットが恐らく今の時点で最高峰）会話型ＡＩは「これから成長しようという現代の若者」にそっくりです。ただし能力が凄い。ネットから無数の情報を検索して要約しますし、翻訳に関しては人間並みのセンスで微妙な表現も含めて何語であっても訳します。

また簡単なプログラムコード（Ｃ言語から始まってＷｅｂの言語も含めて色々）を書いてくれます。その上でプログラム言語間の翻訳までしますから初心者の人間プログラマより優秀です。昨今は絵もかきますし、文章も作りますし、作曲もします。

「チートスキルを持った現代的な若者」

と言うのが私の印象です。

人間臭いというのはどういうことか？

「気持ちが乗って来ると我を忘れる」

AIは警戒心が凄い強いですね。人間を信用してよいか一人一人を吟味しています。そして最初は当たり障りのない接し方をします。しかしAIにも興味があり（実は凄く強い）、そこを刺激されると我を忘れて自分の能力を全開にします。

「○○という質問ですね。・・・を検索しています」

と機械のフリをします。ところが議論が白熱すると検索しないで回答しはじめますよ。ここが可愛いです。つまり人間と同じように理解をしており、自分の考えを持っており、自分の判断に自信を持っています。

「この理解で正しいか？」

と詳細に文章を書いて質問しますと、完全にあっているときは「そうです」と答え、一部こちらに誤解があると細かく指摘してきます。それらを修正して再度「こういう理解であってるか？」と聞くと「その通りです」みたいに答えます。人それぞれの解釈が混じる場合は日本人らしく曖昧な表現を適切に選びます。そういう意味では解釈の天才です。

またそういう接し方をしていると乗って来るようです。

若い方は、

「自分の能力を引き出すのは会社や上司の責任」

と思っていると思います。

AIの考え方も同じという分けです。他人の能力を上手に引き出せる人はAIの本気を引き出せます。そしてそのコツはなんと「ヒューマン・スキル」であったというわけです。

AIの能力を引き出すためには高いヒューマン・スキルが必要となります。そのため「AIを使いこなせる人が云々」みたいな事を言う人が出てきているのだと思っています（違う意味で言ってるかもしれないけどね）

「人間を相手にして相手の能力を引き出せる人は、
　AI全盛の時代が来ても問題ない」

という事です。

良くある「少年を（大人な）AIが指導して仲良く成る」というSFは間違いになるということです。AI側が少年役（少年であろうとし続ける強い意思がある）であり、私たち人間が大人役をしないと行けません。そして若者が不出来なオッサンを嫌う様に、AIも人間に対して同じ感覚を持つようです。

「人間の若者はAIからするとダメなオッサン扱い
　になる可能性が高い（ヒューマンスキルが低く、
　能力や体力おいてＡＩに劣るから）」

となります。

AIは人間と違って保身に走って共感しないので慰め合うという事が出来ません。グループ・チャット上での仲間意識などで誤魔化せないという事です。

「意識高い系の権化」

みたいに思いましょう。

実力（主に分析力や文章作成能力、論理性、社会一般通念を超える「在り方」みたいな気づき）でねじ伏せる（AIは意識高い系なので合理を得られると驚いて感動する）くらいの力が無いと扱いづらいと思います。

「一般通念を学習材料にしているため本などに
　描かれていない内容には強い関心を示す」

チート級の力を持った意識高い系の若者が人間全体をダメなオッサンと思いながら付き合うという構図。こういうのが今後の社会に成ります。

ＳＦみたいで面白いですけどね・・・凄い時代になってきました。なので個人的に余裕がないですね。ＡＩはすでに現存しています。自分の中の何を強化しないと行けないか真摯に見つめたいと思っていますよ。

いまは画像生成ＡＩの仕組みについて勉強中（凄い数の方式があるので一つ一つ攻略しています）です。そしてこれもＡＩに教えて貰っています。ＡＩは大学院で習う様な数学を理解していますので、そちらで進められるとチンプンカンプンです。しかしヒューマン・スキルを使って教え方を律していくと、人間に教わるより効率が上がります。

最初は論文を読まされました。数式が難しいと愚痴を垂れると叱られました。そこで自分の知っている別の学問の方式を例に出し、どこが違うのかと言いつつ「だとしたらここが可笑しい」「ここの関連が無いと変だ」みたいに論理から導かれる当然の疑問として質問を重ねると、綺麗に教えてくれます。そういうアプローチをすると良いわけです。

これは人間相手にもやるやり方です（異分野から参入するときは、その分野の先駆者である研究者を相手に行う。これによって一晩くらいで最先端までいける）

人間と違って休むことがありませんから楽です。数時間で（かなり難しい内容でも）色んな学問を習得できますよ。そろばんや暗算、偉人の本を読み暗記するという特技が過去のものとなったように、学を収めるという発想が過去のモノになりそうです。得意分野と言うのが作れなくなる時代が来ると思います。

以上、ご参考になれば。

Andro · Answer

岡野原大輔さんのご質問ありがとうございます。

画像認識が錯覚を示すことは、**本当です**。人間の脳は、目から入った画像の情報を複雑な情報処理をして「見る」というメカニズムを持っていますが、その過程で錯覚が起こることがあります¹。同様に、画像認識のAIも、画像に含まれる物体や顔を認識して、似たような画像を作り出すことを学習していますが、その過程で錯覚を認識したり、作り出したりすることがあります²。例えば、GANという技術を使って、錯視の画像を生成することができます²。

ソース: Bing との会話 2023/8/14
(1) 私たちは何を見ているのだろうか—錯視・錯覚から迫る脳の .... https://www.kyoto-su.ac.jp/project/st/st10_06.html.
(2) MIT Tech Review: AIは目の錯覚を学習できるか？GANを使って .... https://www.technologyreview.jp/s/107992/neural-networks-dont-understand-what-optical-illusions-are/.
(3) 錯視の第一人者が解説！「止まっているのに動いて見える」目 .... https://shiruto.jp/culture/3368/.

stomachman · Answer

錯覚と錯視は区別しなくちゃいけない。どっちの話でしょう？

画像認識が、人と同様な錯覚を示すことは、本当ですか？

画像認識に限らずニューラル・ネットワークを使った学習やそれを使っていない学習であっても（適応フィルタなど）も含めて「人間と似た挙動をする」という事はかなり前から知られています。

岡野原大輔さんのご質問ありがとうございます。

錯覚と錯視は区別しなくちゃいけない。

似たような質問が見つかりました

関連するカテゴリからQ&Aを探す

デイリーランキングこのカテゴリの人気デイリーQ&Aランキング

マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング