5.4熵與熱力學幾率

1、*5.4 熵與熱力學幾率Boltzman：最早把熱二律微觀本質(zhì)用數(shù)學形式表示出來。 熱二律是關(guān)于自發(fā)過程的方向性。用熵變判斷孤立系統(tǒng)的可逆或不可逆的。一、從微觀上，解釋過程為什么是單向的。以氣體自由膨脹是不可逆的為例。 講義242頁。 VA=VB，假設只有四個分子，分布在A、B兩個容器內(nèi)。有16種分配法。16種分配法詳細確定了哪一個分子在哪一個容器內(nèi)，每個容器內(nèi)有多少個分子。 1A、B內(nèi)的分子數(shù)分布：五種。對應五種宏觀狀態(tài)。 五 種 宏 觀 狀 態(tài)A分布數(shù)B分布數(shù)微觀狀態(tài)數(shù)幾率4011/163144/162266/161344/160411/162 每一種分子數(shù)分布包含幾種具體的分法。相當于一

2、種宏觀狀態(tài)對應多個微觀狀態(tài)。宏觀狀態(tài)五種。總的微觀狀態(tài)數(shù)：16 氣體分子總數(shù)為N，分子在A的概率1/2，分子在A的概率是1/2，分子這些事件同時發(fā)生，N個分子都集中在A的概率：3 A、B中各有相同分子數(shù)，均勻分布的宏觀狀態(tài)，對應最多的微觀狀態(tài)數(shù)是6，幾率最大是6/16。出現(xiàn)的機會最大。易出現(xiàn)。全部集中在A或在B的宏觀狀態(tài)，對應最小的微觀狀態(tài)數(shù)是1，概率是1/16。二、統(tǒng)計理論的基本假設：對于孤立系統(tǒng)（總能量，總分子數(shù)一定），所有微觀狀態(tài)是等幾率的。但宏觀狀態(tài)不是等幾率的：哪一個宏觀狀態(tài)包含的微觀 狀態(tài)數(shù)目多，這個宏觀狀態(tài) 出現(xiàn)機會就大。4熱力學幾率：與任意給定的宏觀狀態(tài)相對的微觀狀態(tài) 數(shù)，稱為

3、該宏觀狀態(tài)的熱力學幾率。三、熵與系統(tǒng)的微觀狀態(tài)數(shù)目（熱力學幾率）Boltzman 關(guān)系： 1887年偉大發(fā)現(xiàn)：意義：從微觀上，給出了熵是系統(tǒng)混亂度量度。5宏觀熵Boltzman關(guān)系微觀態(tài)熱力學Boltzman關(guān)系統(tǒng)計力學（橋梁）熵：系統(tǒng)能擁有微觀狀態(tài)數(shù)目，或熱力學幾率的度量。常說成無序度。W多，系統(tǒng)內(nèi)運動越富有多樣性，越混亂無序，熵越大；反之，W少，系統(tǒng)內(nèi)部運動變化單一，越有序，熵越小。Boltzman關(guān)系的深遠意義： 將熵進入其它學科領(lǐng)域開辟了道路。6四、熵的可加性： 一個系統(tǒng)內(nèi)兩個子系統(tǒng)組成時， 這系統(tǒng)的熵等于兩個子系統(tǒng)的熵之和。由概率法則：五、 Boltzman關(guān)系對熵增加原理的透視從熱

4、力學幾率觀點分析：理想氣體向真空自由膨脹過程7確定分子力學運動狀態(tài)：位置區(qū)間、速度區(qū)間。因為：溫度不變，所以每一個分子的速度分布幾率不變。 只是每一個分子在空間分布的可能狀態(tài)由于體積增大而增加了，即每一個分子的微觀運動狀態(tài)數(shù)由于這個因素增為原來的V2/V1倍。8若放映1億張照片/秒鐘，（普通電影24張/秒?。敲捶磐?NA張照片需要多長時間。宇宙年齡1018秒（200億年）還要大得多！所以并不是原則上不可能出現(xiàn)那張照片，是實際上“永遠”不會出現(xiàn)。氣體自由膨脹不可逆性統(tǒng)計意義：氣體自由收縮不是不可能，而是實際上永遠不會出現(xiàn)。9再看一看熱傳導不可逆性。10六、解釋熵的微觀意義：常用無序性概念代替

5、熱力 學幾率。1、理想氣體自由膨脹：若它的所有分子都處于同一速度和空間微元區(qū)間內(nèi)，那么氣體各分子運動是很有規(guī)則的，這時宏觀狀態(tài)的熱力學幾率是1，而熵為零。 當理想氣體的各個分子在空間分布的范圍越廣速度分布的范圍越大時，氣體就越加處于無序的狀態(tài)，這時熱力學幾率就大，而熵也越大。112、通過計算表明：在固體物質(zhì)中微觀粒子按一定的秩序有規(guī)則地排列成晶格點陣，而在溶解為液體時這種規(guī)則排列就變得比較不規(guī)則了，在液體中只保留了局部的規(guī)則排列；到了氣體狀態(tài)，分子的分布是雜亂無章的。12例題：水的比熱4.18103J/Kg.K。1Kg，0的水與一個373K的大熱源相接觸，當水到達373K時，水的熵改變多少？

6、從固體到液體，再到氣體的過程中熵增加，反映了微粒這種無序性的增加。熵是微觀粒子熱運動所引起的無序性的定量量度。13七、對熱力學第二定律不可逆性的統(tǒng)計意義進一步討論（1）熵增加原理，孤立系內(nèi)自然發(fā)生的過程總是向熱力學概率更大的宏觀狀態(tài)進行的過程。但在微觀上看，這只是一種可能性。因為每個微觀狀態(tài)出現(xiàn)的概率都相同。所以也可能向那些熱力學概率小的宏觀狀態(tài)進行。 只是由于對應宏觀平衡狀態(tài)的可能微觀狀態(tài)數(shù)（極大值）比其它宏觀狀態(tài)所對應的微觀狀態(tài)數(shù)無可比擬地大得多，非常非常多，所以孤立系處于非平衡態(tài)時，它將以完全壓倒的優(yōu)勢可能性向平衡態(tài)過渡。14反向過程，孤立系熵減小的過程，并不是原則上不可能，而是概率非常

7、非常小。（2）漲落：實際上，在平衡態(tài)時，系統(tǒng)的熱力學概率或熵總是不停地進行著，對于極大值或大或小的偏離，這種偏離叫漲落。對于分子數(shù)比較少的系統(tǒng)，漲落很容易觀察到。Brown運動：粒子無規(guī)則運動位置漲落。少量分子：因為只受到少量的分子無規(guī)則碰撞。大量分子系統(tǒng)：漲落相對很小，觀測不出來。所以平衡態(tài)顯示靜止的模樣，而實際過程也就成為不可逆的。155.5 信息熵、信息量與負熵信息熵四個基本特點：歷史悠久，已經(jīng)歷半個多世紀的深入泛化過程；在深入泛化過程中，它涉及到許多學科領(lǐng)域。其中有“熱力學、統(tǒng)計力學、信息論、控制論、數(shù)理經(jīng)濟學、數(shù)理社會學、哲學等；在所涉及的各個學科理論體系中，熵都是基本量，都有極重要

8、的位置；實際上是個泛函，概念比較抽象，在各個學科中既是重點又是難點。16一、熵概念的發(fā)展簡史熵最初產(chǎn)生于18世紀初，Carnot研究熱機效率發(fā)現(xiàn)可逆循環(huán)過程，隨后Clausius根據(jù)可逆Carnot循環(huán)過程定義了態(tài)函數(shù)熵。 Clausius明確了熵態(tài)函數(shù)，但沒有給出更深刻的物理含義。直到18世紀中期，1887年波爾茲曼著名公式：w是熱力學體系宏觀態(tài)的微觀狀態(tài)數(shù)。當初稱熱力學幾率，其實這個詞并不確切。因為：通常幾率在0，1區(qū)間，而熱力學體系宏觀狀態(tài)的微觀狀態(tài)數(shù)w總是大于1，而且數(shù)量級非常之高。1928年，Hartrey可能受波爾茲曼關(guān)系的啟發(fā)，首次在通信領(lǐng)域里提出信息熵的定義：17 N是等概率消

9、息單元的總數(shù)，信息熵H的意義是輸送一個消息單元的不肯定性程度的量度。等概消息單元總數(shù)N愈多，信息熵H愈大,輸送一個消息單元的不肯定性程度就愈大；反之，N愈少。當消息單元的總數(shù)N=1時，H=0，輸送這個消息的不肯定性程度為零，就是完全肯定輸送這個消息。信息熵意義： 在解決通信領(lǐng)域里的實際問題比較方便，只要知道等概率消息單元總數(shù)N就可以計算信息熵H。不足：對簡單的信息源應用起來方便，對復雜的信息源把握等概率消息單元總數(shù)N卻不是容易做到的；用這個信息熵定義計算得到的實際上是信息源的最大熵。184、1948年，shannon推廣Hartrey信息熵的定義，首先引入各不等概消息單元不肯定性的量度本征信息

10、熵為：信息熵定義：H(X) 各個不等概消息單元的本征信息熵的加權(quán)統(tǒng)計平均值。19Pi是第i個消息單元的概率，n是不等概消息單元的總數(shù)。本征信息熵的意義：第i個消息單元Xi的不肯定性程度的量度?？傂畔㈧氐囊饬x：信息源X的總的不肯定程度的量度。當各個消息單元是等概率時信息源的信息熵為：Hartrey定義的信息熵是shannon定義的信息熵在等概條件下的最大值。205、隨著生物信息論、經(jīng)濟信息論、社會信息論等學科不斷運用信息熵，使之有進一步的泛化的必要。熵的產(chǎn)生于熱力學，擴展于信息論等學科領(lǐng)域。在不同的學科里，對熵的意義提法有所不同。但是從泛熵的概念高度來看。它們在本質(zhì)上是一致的。凡是屬于下列一類的

11、對立統(tǒng)一性質(zhì)的事物，例如：混亂性秩序性， 散漫性組織性。無序性有序性， 不肯定性肯定性。盲目性目的性， 一般性特異性，隨意性計劃性， 隨機性確定性，多樣性單純性， 含糊性透徹性，曖昧性明確性， 未知性已知性噪聲信號，21并且滿足如下概型條件本征狀態(tài)：概率分布：完備性：歸一性：以上的問題，均可用熵作為指標進行分析。22二、信息源的概型結(jié)構(gòu) 本征信息熵現(xiàn)在討論信息熵的基本概念1、信息源：發(fā)送消息的源。Information source 自然界中的一切事物，大至宇宙天體，小至原子，原子核，基本粒子，以及中間的各個層次；生物圈、生態(tài)、群落、種群；個體、系統(tǒng)、器官、組織、細胞、亞細胞、分子、亞分子等，

12、例如一個國家、社會團體。大腦、內(nèi)分泌等等，都有它們自己的情態(tài)，無不隨時發(fā)送它們自己的信息，因而都可作為信息源。例如：自然界中的一切物體，大至宇宙天體，小至原子、原子核、基本粒子、以及中間的各個層次：生物圈，生態(tài)，群落，種群，個體，系統(tǒng)，器官，組織，細胞，亞細胞，分子，亞分子等，例如一個國家、社會團體，大腦，內(nèi)分泌等等，都有它們自己的情態(tài)，無不隨時發(fā)送出它們自己的消息，因而都可作為信息源。23信息源特點：它們都具有一系列可能的基本狀態(tài)，叫本征態(tài)。每一本征態(tài)稱為一個消息單元，記：Xi（i=1,2,3n），這n個消息單元或本征態(tài)序列實際上就是離散的隨機變量，它具有互斥性和完備性?；コ庑裕盒畔⒃纯赡芴?/p>

13、于這個基本狀態(tài)，也可能處于其余的基本狀態(tài)，但不能同時處于同一個本征狀態(tài)，處于這個本征態(tài)，就不處于其它本征態(tài)；完備性：這個n個消息單元是完備無缺的。這個n個互斥的完備的消息單元構(gòu)成一個消息單元的集合，記：XX1， X2 ，Xn每個消息單元Xi都有個確定的概率與之相對應，記：p(Xi)，整個消息單元的集合X有概率： P (X) P(X1)， P(X2 )，P(Xn)分布著，消息單元集合的俄互斥性與完備性反應在概率上是概率的總和具有歸一性。24因此，信息源的基本概型結(jié)構(gòu)：消息單元Xi X1， X2 ， Xn概率分布P(Xi) P(X1)， P(X2 )， P(Xn) 實際例子：設有一在外的工作人員，

14、收到消息得知家中的老母中風住院治療，這時他母親就是個信息源，可能處于的本征態(tài)：可能發(fā)送出的消息單元有(Xi) ：消息單元XiX1死亡X2昏迷X3偏癱X4好轉(zhuǎn)X5康復概率分布P(Xi)1/51/51/51/51/525 當工作人員又接到家信得悉母親經(jīng)搶救后，已恢復意識，正在積極進行治療。這時信息源的本征態(tài)或消息單元的集合概率分布已發(fā)生了變化。消息單元XiX1死亡X2昏迷X3偏癱X4好轉(zhuǎn)X5康復概率分布P(Xi)001/31/31/3如果工作人員又接到消息說：經(jīng)積極治療后已經(jīng)能起床作太極操了，則相應的概率分布變?yōu)椋合卧猉iX1死亡X2昏迷X3偏癱X4好轉(zhuǎn)X5康復概率分布P(Xi)0001/21

15、/226提出一個問題：各個消息單元的不肯定程度多大？ 概論大，可能性就越大，不可定性程度就越小；反之，概率小，可能性就越小。 例如：X5康復的概率最大到1，其它概率降為零，這個消息單元X5就完全肯定了。不確定性為零。因此，本征信息熵定義：消息單元概率的倒數(shù)的對數(shù)為消息單元的不肯定性程度的量度。第一次電話后，五個本征態(tài)或消息單元，各個本征信息熵：消息單元XiX1死亡X2昏迷X3偏癱X4好轉(zhuǎn)X5康復P(Xi)1/51/51/51/51/5H(Xi)bit2.3222.3222.3222.3222.32227第二次電話后，五個本征態(tài)或消息單元，各個本征信息熵：第三次電話后，五個本征態(tài)或消息單元，各個

16、本征信息熵：對于好轉(zhuǎn)這個消息單元的不肯定性程度由2.322bit逐漸減少到1bit，肯定性程度是逐漸增加的。28三、信息源不肯定性的量度信息熵信息源的信息熵：各個消息單元的本征信息熵的統(tǒng)計加權(quán)平均值。為這信息源的不肯定性的程度。第一次電話后，五個本征態(tài)或消息單元，平均一個消息單元的不肯定性程度為：信息源的信息熵。29如果概率分布不是均等的。設：XiX1死亡X2昏迷X3偏癱X4好轉(zhuǎn)X5康復P(Xi)0.10.20.30.30.1H(Xi)bit0.33220.46440.52110.52110.332230信息熵應用目的性盲目性程度的量度設有二名高爾夫球手，由于訓練素養(yǎng)不同，擊球射出的盲目性程度

17、不同，經(jīng)過足夠多次的調(diào)查統(tǒng)計確定，他們的擊球概率分布如下：31方 向P甲P乙4r5r00.023r4r00.042r3r0.020.08r2r0.140.120r0.340.240-r0.340.24-r-2r0.140.12-2r-3r0.020.08-3r-4r00.04-4r-5r00.021.001.00r是坑的半徑。由概率的定性分析可知，射手甲的目的性好，乙比甲的盲目性大些。以熵為定量分析指標，分別計算得：32定量可知，射手乙比甲的盲目性大0.8244bit .33四、信息熵的性質(zhì)分析本征信息熵加權(quán)函數(shù)（1）非負性（2）連續(xù)性34（3）極值性（4）平均性信息熵的性質(zhì)非負性，連續(xù)性，極

18、值性、對稱型、加合性35五、信息量信息量I =熵的減少熵的減少意味著系統(tǒng)有序度的增加。 知識是信息，所以知識是負熵。不管是教師或是學生在這一負熵傳遞過程中，兩者都要消耗有用功，增加人體、環(huán)境的熵。一個子系統(tǒng)負熵、有序的增加，是以全局的熵、混亂的增加為代價的。36薛定諤把負熵的概念帶進生物學。 按照熵的增加原理，演化總是朝著無序、混亂和衰退方向。為什么生物能避免和死亡？靠吃、喝、呼吸，新陳代謝。一個有機體在不斷地增加它的熵在增加正熵并接近最大熵值的危險狀態(tài)，那就是死亡。要擺脫死亡，活著，唯一的辦法是從環(huán)境不斷地吸取負熵，有機體是靠負熵為生的。意思：有機體吸取負熵去抵消它在生活中產(chǎn)生的熵增加，從而

19、自身穩(wěn)定在低熵的水平。 關(guān)于負熵：1987年薛定諤100周年誕辰，圍繞他的負熵又展開了激烈的爭論 熵不僅向著無組織性滑去，在某些條件下熵本身成為有序之源。至少在遠離平衡態(tài)下，熵不會削弱而是會產(chǎn)生有序和組織，進而會產(chǎn)生生命。37 事物的發(fā)展都是在熱力學第二定律得支配下行事的，一切自發(fā)過程都是朝著熵增加的方向，向著混沌的方向滑去，直到所限條件下熵最大（或最大混亂）為止。 然而，在開放的遠離平衡態(tài)的系統(tǒng)中呈現(xiàn)的自組織現(xiàn)象，改變了不可逆過程的消極形象。 在宇宙的一個局部一個開放的遠離平衡系統(tǒng)中，不可逆過程扮演著建設者角色，它能為人們構(gòu)造出奇妙的時間空間的有序結(jié)構(gòu)，使系統(tǒng)中個體表現(xiàn)出驚人的協(xié)同一致，為了

20、與平衡結(jié)構(gòu)（如晶體）相區(qū)別，人們稱這種有序結(jié)構(gòu)為耗散結(jié)構(gòu)或自組織。38六、耗散結(jié)構(gòu)1、 B-Z反應，化學鐘 1958年，貝拉索夫扎波金斯基：在鈰離子催化劑作用下，檸檬酸被溴酸鉀所氧化的化學震蕩。 在一個裝有攪拌器的燒杯中，首先放入150cm3，1MH2SO4溶液，然后，依次溶入CH2(COOH)2(丙二酸)429克，鈰鹽（Ce（NH4)2(NO2)60.1645克，待溶液變清后，再加入KBrO31.5665 克。在室溫下充分攪拌。幾分鐘后能觀察到溶液在黃色（Ce+是黃色）和無色（Ce3+是無色的）之間震蕩，振動周期約50秒，持續(xù)時間可達1小時左右。如果另加入Ferroin指示劑（又稱試亞鐵靈0

21、.01622克）幾cm3，則溶液的顏色就會在紅色（還原）和藍色（氧化）之間震蕩，這是一種時間周期結(jié)構(gòu)，空間上是均勻的，在每一時刻各處的顏色是一樣的，時間上耗散結(jié)構(gòu)。39如果實驗這樣進行，便可觀察到空間周期結(jié)構(gòu)。 按上述用量，把H2SO4、丙二酸、 KBrO3 、Ferroin指示劑在試管攪拌器靜置后，將鈰鹽溶液沿管壁迅速加入，在紅色溶液中就會呈現(xiàn)紅藍相間的條紋，分別對應還原和氧化在空間的分布，這是一種時空耗散結(jié)構(gòu)，一種傳播的化學波，在二維平面上進行的化學反應，能使我們觀察到新奇的螺旋波的形成和傳播。自化學震蕩被觀察到后，人們發(fā)現(xiàn)越來越多的化學震蕩反應。因為它對弄清生物乃至人體的內(nèi)在機制和功能，對自組織理論的發(fā)展都有重大意義。 化學震蕩令人驚奇：試管中那些數(shù)目巨大而混亂的分子，在一瞬間，居然會同步進行氧化反應或同步進行還原反應。一個系統(tǒng)內(nèi)所有個體采取一致行動，沒有