它的变化有什么意义？
首先熵是一种宏观的概念！
提到熵，必然引出信息熵和热力学熵，二者本质一样。
信息熵的定义：S=∑ p(x) lin 1/p(x)，其中 p(x)是系统处于状态x时的概率，1/p(x)衡量状态x的信息量。
热力学熵的定义：S=klinΩ，其中k是玻尔兹曼常数，Ω则为系统宏观状态中所包含的微观状态总数。一般情况下，热力学熵考虑的是微观状态等概率的情形，即处于每个微观状态的概率为1/Ω，若不是等概率的，则形式与信息熵完全一致。
为什么熵要取对数？
凡是变化与自身相关的量通常是自然常数e的指数形式。
例如大家熟知的衰变律：放射性元素的数量随时间以指数规律衰减。对于放射性元素，在dt 时间内衰变的原子数dN与自身元素数量N和时间dt乘积正相关，dN=-λNdt，其中λ为衰变系数。设t=0时刻的放射性元素数量为N0，则衰变律为N=N0e^-λt。
同理，微观状态变化量（或信息变化量）dN与自身微观状态量（或信息量）N和熵变dS乘积正相关，dN=λNdS，故微观状态量（或信息量）N=N0e^λS，故熵是取状态量的对数关系。状态量越多，不确定性越高，熵越大。
宏观不确定性是一种混乱度。例如下面三幅点图，每幅图有1000个随机可重叠的点，哪个更加混乱？
在0-1二维平面内：a只能取x，y坐标被0.05整除的点；b能取x坐标被0.05整除的点；c可以取0-1范围内任意点。
首先，经验主义告诉我们：c最混乱，因为毫无规律可言而成散状。b次之，因为竖向被限制而成线状。a最简洁，因为竖向横向都被限制而成点状。
然后，熵理论分析可得：S=klinΩ，Ω为系统宏观状态中所包含的状态总数。一个随机系统可能取到的状态总数取决于系统的限制条件。a横向竖向的限制，致使1000个点重叠最多，只能取到小于400（1/0.05^2）个的状态数，b竖向限制下可以有大于400小于1000的状态数，c没有限制，状态数可以接近1000个。所以状态数或信息量越多，不确定性越高，熵值S越大。
熵的意义在于熵变。
以信息熵的为例，信息熵衡量平均信息量，熵越大表明平均信息量越大，说明信息的不确定性越大。例如天气预报，如果能100%确定明天一定是晴天,那么信息熵就是S=klin1=0，也就是说不确定性为0。如果说明天有50%概率晴天，50%概率下雨，那么就是S=klin1/50%=klin2，可以说不确定性为klin2。而如果明天有25%概率晴天，25%概率下雨，25%概率阴天，25%概率下雪，那么就是S=klin1/25%=klin4。
熵的意义并非绝对的，而是相对的，其真正意义在于熵变，若熵不发生变化，则熵或大或小对系统都不产生任何影响。
假设可以100%确定明天一定是晴天，直觉告诉我们这是有意义的，这可以帮助规划明天的活动等等。但客观理论分析，可以预测的前提是今天到明天的熵变必然不为0。如果今天是晴天，熵变为0，则明天也是今天，这就形成了悖论，产生悖论的原因是天气预报不可能做到100%预测。这个悖论有力的诠释了熵的意义在于熵变！
只有熵变才能引起系统的变化，熵增原理就诠释着宇宙本身的熵变。
版权说明：Copyright © 广州京杭网络科技有限公司 2005-2025 版权所有 粤ICP备16019765号
广州京杭网络科技有限公司 版权所有
免费热线：400-683-0016
扫二维码关注公众号
当前位置：