No.2
- 回答日時:
一般的にエントロピーが高いというのは、「乱雑」であるということなので、情報エントロピーについても、
情報の 質・量 が 悪い・少ない → エントロピーが高い
(みんな混乱する)
情報の 質・量 が よい・多い → エントロピーが低い
(みんな安心する)
のような、反比例の関係が成り立つのではないでしょうか。
http://szksrv.isc.chubu.ac.jp/entropy/entropy3.h …
http://www.ne.jp/asahi/qequick/study/Suusiki04.htm
No.3ベストアンサー
- 回答日時:
熱力学ではご存知のことかと思いますが、温度は示強変数で、熱のやり取りのある系における熱力学第0法則の指標になる(つまり熱平衡状態では温度が等しい)ものです。
これをちょっと分解してみると、
「複数の系」があって、「熱のやりとり」があって、「平衡状態」なるものを考えるときに「温度」なる指標が現れるとなるのではないでしょうか?特に「熱のやりとり」を考えるということは、系にエネルギーの概念があって、熱力学第1法則から自由エネルギーのようなものを考えなくてはいけないことを意味していると思います。
これから、情報理論を考えると「複数の系」はいいとしても、「エネルギー」や「熱のやりとり」や「平衡状態」というものを考えることが必然となる領域は限られてくると思います。
いっぽう、統計力学的な構成方法で考えたとき、温度は分配関数(確率論の特性関数)のパラメータになります。
つまり、確率分布を一度に考えるときのパラメータです。
私の思いつく範囲では
(1)符号化・暗号化理論のようなもの(符号化の優劣を測ったり、情報源と符号化された空間の情報量のようなものを考えるから)、
(2)いくつかの統計モデルを考えるもの(情報源と情報モデルがもてる情報量を比較するから)
(3)なにかしらの最適配置を決めるもの
ぐらいでしょうか?(情報理論はよく知らないので自信をもって自信なしです)
これじゃ説明になっていないので(3)になるのでしょうか、1因子情報路モデルというのを紹介します。
http://www.kogures.com/hitoshi/webtext/or-entropy/
1因子情報路による銘柄選択の問題というところを見ると分かると思いますが、
費用最小化の条件(エネルギー期待値のようなもの)
エントロピー最大化の条件
とからなります。このときの未定乗数がちょうど温度のようなものを与えることになります。
(費用期待値Eに対してエントロピーSとしてS/Eを銘柄選択の確率の規格化条件の制約のもとに最大化します。このときのS/Eがちょうど温度の逆数ようになります。たとえば、豊田正著「情報の物理学」(講談社サイエンティフィック)を見てください。)
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 物理学 参考書にエントロピーの式が以下の様に示されていました。 dS=-δQ/T この式の解説は「ある一定の 0 2023/01/28 13:05
- 哲学 等情報エントロピー帯域の特定(形式学) 1 2023/07/05 20:46
- 統計学 等情報エントロピー帯域の特定(形式学) 1 2023/07/05 20:48
- 物理学 理想気体の温度をT1からT2に上げるとき, 圧力一定と体積一定の二つの過程で行うとする. エントロピ 2 2023/03/21 21:32
- 物理学 情報とは何か? 2 2023/05/07 12:42
- 物理学 統計力学と情報理論の、エントロピーの同じことを教えてください 2 2022/09/09 20:29
- 計算機科学 エントロピー関数の導入 例えば、1, 0を0.1, 0.9の確率で発生する無記憶情報源のエントロピー 2 2022/09/09 20:06
- その他(開発・運用・管理) おんどとりWebStorage APIから温度情報を取得し表示したい 2 2023/08/03 09:53
- 化学 (気体の状態方程式)減圧後に残った物質の重量 1 2023/01/13 21:33
- その他(教育・科学・学問) 自分の習ってきた事教わってきた事が絶対正しい等常識・定説・固定概念・固定観念に凝り固まっ 1 2023/05/18 07:35
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
どうすれば4乗根3の2乗(?)がル...
-
dU=TdS-pdVはどうやって出て...
-
「世界には均一になろうとする...
-
断熱流と等エントロピー流の違...
-
エントロピー効果について
-
凝固の際、エントロピーは増加...
-
「師」と「士」の違い
-
断熱圧縮は等エントロピー変化...
-
フェヒナーの法則について簡単...
-
ライマンの法則に興味を持ち、...
-
この世界は回転の連鎖なのでし...
-
「論理」と「理論」の意味を小...
-
悪いことは続くとは、科学的根...
-
エントロピーの公式について
-
エントロピーが増えるとは不安...
-
ギブスの自由エネルギーの問題
-
断熱膨張におけるエントロピー...
-
標準反応エントロピー
-
原理と原則って何が違いますか?
-
エントロピー増大の法則は絶対か?
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
エントロピーの減少
-
標準反応エントロピー
-
混合による、融点の低下のメカ...
-
宇宙は、開放系ですか?それと...
-
どうすれば4乗根3の2乗(?)がル...
-
「平和主義」と「事なかれ主義...
-
徳山と在日朝鮮人
-
フェヒナーの法則について簡単...
-
日本語のアクセントについて教...
-
哲学でいう反エントロピーとは...
-
dU=TdS-pdVはどうやって出て...
-
らんべると・ベール法則が成立...
-
何故光速度一定の法則は成り立...
-
凝固の際、エントロピーは増加...
-
断熱流と等エントロピー流の違...
-
「論理」と「理論」の意味を小...
-
断熱圧縮は等エントロピー変化...
-
「楽しい」とは何ですか?
-
エンタルピーとエントロピーの...
-
標準エントロピー、標準生成エ...
おすすめ情報