第六章,啥也没听懂但还是很有收获 (2 / 3)
息技术成为一个完毕的体系呢?是有的。”
“今天讲课的内容可能稍微有些深,各位坐在后面的同学,希望你们做好笔记……现在听不懂,以后慢慢看笔记,就会理解。”
“在第一次课的时候,我提到了一个名词:信息能。其实,确切的说,那是搭载信息的能量的升降,也就是说,近似于熵的概念。”
“在热力学领域,早已有熵(entropy)的概念,它被用于计算一个系统中的失序现象,也就是计算该系统混乱的程度。熵用增量定义,公式是ds=(dq/t)r,若过程是不可逆的,则ds(dq/t)r。这是个很简单的公式,各位在学校应该学过,我就不重复解释了。”
女生们脸上露出了茫然的表情。
“天啊,唐老师说的是什么?”冯晓婷在肖曼耳边说了句悄悄话。
肖曼则呆呆地望着讲坛几分钟,突然低头,拿笔就开始抄黑板和幕布上的内容。“别管唐老师讲的是什么,先记下来,”肖曼说,“唐老师不是说了吗,现在听不懂,以后慢慢看笔记,就会理解。”
其实,学术厅里坐着的男生,除了学化工和物理的几个学生勉强能跟得上节奏,其他的人,也和这8个女生差不多同样的表情。而且,在迷茫过去之后,男生们也纷纷打开笔记本,开始痛苦地拿笔抄写黑板和幕布上的内容。
倒是第一排的自然科学院的教师、研究员们,兴奋得抓耳挠腮。
“我暂且把接收的每条消息中包含的信息的平均量称为信息熵。这里,“消息”代表来自分布或数据流中的事件、样本或特征。哦,熵最好理解为不确定性的量度而不是确定性的量度,因为越随机的信源的熵越大……”
“依据玻尔兹曼的h定理,我们把随机变量x的熵值Η(希腊字母eta)做一个定义。”
……
“……可知在值域为{x1,...,xn}时,e(x)=e【i(x)】=e【-in(p(x))】。其中,p为x的概率质量函数,probabilitymassfun。e为期望函数,而i(x)是x的信息量,又称为自信息。i(x)本身是个随机变数。当取自有限的样本时,熵的公式可以表示为h(x)=∑ip(xi)(xi)=-∑ip(xi)logbp(xi)”
……
现在,学术厅里坐着的化工/物理的学生也和其他一样了,茫然看着黑板,两行热泪从眼角流下,默默地开始死抄笔记,并把唐华口