「熱力学」「統計力学」と「情報工学」

大学の物理学担当の教授から
「熱力学、統計力学と情報工学」
というテーマのレポートの提出を求められました。

様々な資料を調べたのですが、熱力学や統計力学の考え方、理論が身近なコンピュータにどのように利用されているのかまったく分かりませんでした。

「情報工学」というキーワードも非常に漠然としていますが・・・。

熱力学、統計力学とコンピュータに接点はあるのでしょうか？
教えてください。お願いいたします。

No.2 ベストアンサー 回答者： bibendumbibendum 回答日時： 2009/07/30 09:31

少し旧い本になります。

これらは物理と情報理論の橋渡しにちょうど良いです。

http://www.amazon.co.jp/ファインマン計算機科学-原-康夫/dp/4000059416/

http://www.amazon.co.jp/情報理論-基礎物理学選書-15-佐藤-洋/dp/4785321261/

No.5 回答者： wata717 回答日時： 2009/08/01 09:45

「熱力学、統計力学と情報工学」

の接点でしたら、そのものずばりの、
ブリルアン著佐藤訳科学と情報理論(1969)みすず
を参照してください。アマゾンで発売しています。

No.4 回答者： sinisorsa 回答日時： 2009/07/30 16:04

マックスウェルの悪魔は気体分子の速度情報を使って、エントロピーを減少させる？

一般には、エントロピーは増大する。」ですが、情報は
負のエントロピー(ネゲントロピー)を与えるという考え方が
あります。
Ｎｏ．２の方の情報理論の本の中にも紹介されていると思います。

No.3 回答者： jamf0421 回答日時： 2009/07/30 10:22

情報理論(Information Theory)のことでは？

http://ja.wikipedia.org/wiki/%E6%83%85%E5%A0%B1% …
上記記事の中にもエントロピーについての記述があります。
一つの記号i（たとえば文字とかモールス信号の・と－とブランク）の出現確率をwiとした時、記号当りの平均情報は比例定数をKとして
I/N=-KΣwiln(wi)
となりますが、エントロピーは
I/N=S/N
になり、K=kと対応します。因みにボルツマンのH定理では
H=Σwlnw
でS=-kHなるものを使っています。

初等的な説明しか出来ませんが、簡単な例で言えばサイコロの出る目の数字について、出るのは偶数です、という情報があれば
I_01=Kln(6/3)=Kln2
の情報が伝わったことになります。(1/6から1/3になった。）さらに次の追加情報で出る目は4ではないです、といわれたら
I_12=Kln(3/2)
の情報が伝わったことになります。

No.1 回答者： rnakamra 回答日時： 2009/07/30 06:33

別にコンピュータとか直接に関係しなくてもいいんですよね。

"エントロピー"と言う用語が熱力学・統計力学と情報工学の両方で使われます。ここから掘り下げていくとよいのではないでしょうか。