AIの長期記憶の実現なるかっていうグーグルの研究チームの論文について( ﾟДﾟ)y─┛~~

AIが長期記憶を持ったら、もう、
人間みたいにちゃんと心をもつような感じになったと
いえますかね？
( ﾟДﾟ)y─┛~~



AIの「長期記憶」実現なるか　Google研究チームが論文
2025/03/18 05:00 日経速報ニュース

人工知能（AI）モデルの「長期記憶」がにわかに注目を集めている。
これまで大規模言語モデル（LLM）が一度に処理できるトークン（テキストの最小単位）量を表す
「コンテキストウインドー」には限界があり、プロンプト（指示文）で入力された情報を
長らくとどめておけなかった。この弱点を克服できればLLMの用途は一気に拡大する。


=================

以下上記、日経記事をそのまま引用するとまずいと思い、Perplexity.aiで要約と補足をした文章


Googleの研究チームが発表した新しいAIモデル
「Titans: Learning to Memorize at Test Time」は、大規模言語モデル（LLM）の
長期記憶の実現を目指し、AI技術における重要な進展として注目されています。
以下に要点をまとめ、補足説明を加えます。

Titansの概要と特徴
長期記憶の実現方法:

従来のTransformerモデルは「コンテキストウインドー」の制限があり、
入力トークン数に上限がありました。

Titansでは、専用の「メモリー」モジュールを追加し、
推論時にも学習を続けることで、情報を保持・更新する仕組みを採用しています。

3種類の記憶モジュール:

Persistent Memory: モデルが事前学習で得た知識を保持。

Core Memory: 短期記憶として入力トークンを処理。

Long-Term Memory: 長期記憶として推論時に情報を蓄積・更新。
これにより、期待される出力と実際の出力の差（驚きスコア）
に基づいて情報を取捨選択します。

設計パターン:

「Memory as a Context (MAC)」、
「Memory as a Gate (MAG)」、
「Memory as a Layer (MAL)」という3つの設計が提案されています。

例としてMACでは、分割された入力トークンを解析後、必要な情報を長期記憶モジュールに追加し、
次回以降の推論で活用します。

技術的利点と課題
利点:

Titansは200万トークン以上のコンテキストウインドーを実現可能であり、
Transformerよりも長い文脈で高精度な回答を提供できます。

計算効率も向上しており、従来のTransformerが持つ
計算量増加（トークン数の二乗に比例）という課題を克服しています。

課題:

新しい単語や抽象的な文章への対応力が不透明で、
人間のような柔軟な理解にはまだ遠いと指摘されています。

実際に「記憶」として機能するかどうかや、新語への適応力などが今後の改善課題です。

専門家の評価と展望
専門家はTitansを「線形再帰モデル」や「永続的メモリー」の進化形と捉えています。
一方で、従来のTransformerからの「世代交代」を迎える可能性があるとの意見もあります。

実用化にはさらなる検証が必要ですが、
この技術はAIによる長期的文脈理解や高度なパーソナライズへの道を
切り開く可能性があります。

TitansはAIモデルにおける長期記憶実現への大きな一歩であり、
その応用範囲は今後さらに広がると期待されています。

No.2 ベストアンサー 回答者： offfy 回答日時： 2025/03/18 19:55

記憶喪失の人って心が無いと思いますか？

記憶と心は別物な気がします。
AIはAIに都合のいい心は持つでしょうが、人間の思う所の心は持てるかは疑問です。
貴方の心の定義と私の思う心の定義が一致してないかもなので、この辺にしておきます。
ただ確実に処理能力は人間の遥か上をいくでしょう。

この回答へのお礼

お礼日時：2025/03/18 21:40

No.1 回答者： offfy 回答日時： 2025/03/18 19:33

人間の記憶は、質問文にある「長期記憶」とは違います。

人間は記憶を思い出すたびに新しく作っています。
それは人間の記憶を司る脳（海馬）も単なるタンパク質に過ぎず、絶えず死滅し新しい細胞に生まれ変わっているからです。
根本的な構造が違う以上、人間と同じ心を持つかは疑問が残ります。

この回答へのお礼

回答ありがとうございます

以前、日経サイエンスの記事で
昆虫の脳についての記事があり、

昆虫の脳は人間の脳がスーパーコンピューターだとすると、
組み込み型の電子機器ぐらいの性能しかないのに

様々なことが出来ると書いてありました。

興味深かったのは、特定の要素をこなすのであれば
大規模なスパーコンピューターにする必要はなく

そのような小規模システムでも十分に対応可能だとも

また、昆虫も感情というか心があるのではないか、
昆虫に備わっている小規模な脳？神経システムでも心を実装出来る？
できているというような事も書いてあり興味深かったです。

このように、システム的に完璧にエミュレートできなくても
それなりの再現性で目的の要素を再現できる可能性を考えれば

こちらの方法でAIの心が実装される可能性もあるのではないですかね？
難しいですかね？

(*´ω｀*)

お礼日時：2025/03/18 19:47