九乡新闻网香辣干锅鸡图片大全:信息认识--信息理论基础知识-一起来了解信息论
来源：百度文库 编辑：九乡新闻网 时间：2024/05/01 23:47:27
一起来了解信息论作者：蔡筱英 | 来源：信息方法概论 ]
学习要点：信息论是研究信息的计量、发送、传递、交换、接收和储存的一门新兴学科。信息论有狭义信息论与广义信息论之分。狭义信息论由美国数学家、电机工程师商农在1948年创立的,其出发点是解决信息传递(通信)过程中的一系列理论问题。因此，狭义信息论也叫统计通信理论。广义信息论通常叫做信息科学。
信息论(information theory)是关于信息的本质和传输规律的科学的理论，是研究信息的计量、发送、传递、交换、接收和储存的一门新兴学科。
人类的社会生活是不能离开信息的，人类的社会实践活动不光需要对周围世界的情况有所了解并能做出正确的反应，而且还要与周围的人群沟通关系才能协调地行动。这就是说，人类不仅时刻需要从自然界获得信息，而且人与人之间也需要进行通信，交流信息。人类需要随时获取、传递、加工、利用信息，否则就不能生存。人们获得信息的方式有两种；一种是直接的，即通过自己的感觉器官，耳闻、目睹、鼻嗅、口尝、体触等直接了解外界情况；一种是间接的，即通过语言、文字、信号等传递消息而获得信息。通信是人与人之间交流信息的手段，语言是人类通信的最简单要素的基础。人类早期只是用语言和手势直接进行通信，交流信息。“仓颉造字”则使信息传递摆脱了直接形式，同时扩大了信息的储存形式，可算是一次信息技术的革命。印刷术的发明，扩大了信息的传播范围和容量，也是一次重大的信息技术变革。但真正的信息革命则是电报、电话、电视等现代通信技术的创造与发明，它们大大加快了信息的传播速度，增大了信息传播的容量。正是现代通信技术的发展导致了关于现代通信技术的理论——信息论的诞生。信息论的创始人是美国贝尔电话研究所的数学家仙农(C. E. Shannon，1916——) ，他为解决通信技术中的信息编码问题，把发射信息和接收信息作为一个整体的通信过程来研究，提出了通信系统的一般模型；同时建立了信息量的统计公式，奠定了信息论的理论基础。1948年仙农发表的《通信的数学理论》一文，成为信息论诞生的标志。在信息论的发展中，有许多的科学家对它做出了卓越的贡献，他们从统计学、热力学、生物学、经济学、管理学、社会学以及其它多种不同的角度开展对信息论的研究，使得信息论远远超越了通信的范围。
信息论有狭义信息论与广义信息论之分。狭义信息论是由美国数学家、电机工程师商农在1948年创立的。正像他的奠基性论文标题(A Mathematical Theory of Communication)所表明的那样，商农当时的出发点是解决信息传递(通信)过程中的一系列理论问题。因此，狭义信息论也叫通信理论，或者更确切一些，叫做统计通信理论。这是因为，和传统的通信理论不同，狭义信息论摒弃了拉普拉斯决定论的观点，把自己的立足点彻底地转移到统计数学的基础上来了。
正是从非决定论的科学观点出发，狭义信息论把通信过程看作是在随机干扰的环境中传递信息的过程。在这个通信模型中，信息源(信源)和干扰(噪声)源都被理解为某种随机过程或随机序列。因此，在进行实际的通信之前，收信者(信宿)不可能确切了解信源究竟会发出什么样的具体信息，不可能确切判断信源会处于什么样的状态以及这种状态会以什么样的方式发生改变。这种情形就称为信宿对于信源运动状态和运动方式具有不定性。这种不定性是存在于通信之先的，因而又叫做先验不定性。只有在进行了通信之后，信宿收到了信源发出的信息，这种先验不定性才会被消除或者被减少。如果干扰很小，不会对传递的信息产生任何可察觉的影响，信源发出的信息能够被信宿全部收到，在这种情况下，信宿的先验不定性就会被完全消除，但在一般的情况下，干扰总会对信源发出的信息造成某种破坏，使信宿收到的信息不完全。因此，先验不定性不能全部被消除，只能部分地消除。换句话说，通信结束之后，信宿仍然具有一定程度的不定性。这就是后验不定性。一般来说，后验不定性总要小于先验不定性，不可能大于先验不定性。如果后验不定性的大小正好等于先验不定性的大小，这就表示信宿根本没有收到信息；如果后验不定性的大小等于零，这就表示信宿收到了全部信息。
广义信息论通常叫做信息科学。信息科学中的信息概念理解为“一切事物运动的状态和运动的方式”，这种运动状态与方式的形式方面称为语法信息，其逻辑含义方面称为语义信息，而它的效用方面则称为语用信息。因此，要描述一个事物的广义信息，就不仅仅要写出它的状态集合和概率分布，而且还要给出每个状态的逻辑真实度和效用度。
广义信息论认为，任何事物都有自己特定的内部结构和外部联系，而且正是事物内部结构和外部联系的状态和方式决定了它的运动的状态和方式。因此，作为广义信息的“事物运动的状态和方式”，也就是“事物内部结构的状态和方式以及它的外部联系的状态和方式”。于是要了解一个事物的信息，就要了解这个事物的可能的运动状态的集合，了解它当时所处的运动状态，它的内部结构的状态，它与它的环境之间的(外部)联系的状态，以及这些状态可能的改变方式，这些状态的肯定程度和真实程度，这些状态对于观察者(使用者)的目的而言的效用程度等等。
这样，我们就看到，虽然信息是事物“运动的状态和运动的方式”而不是事物本身，但是人们却完全可以通过一个事物的信息来了解这个事物。例如对于一个经济系统，如果我们通过对于这个系统的内部结构和它的外部联系的状态和方式的分析，掌握了这个系统可能出现的所有状态的集合，知道了这个集合的每个状态的肯定程度、真实程度和效用程度，也知道了这些状态会按照什么方式(或规律)来改变，那么，我们就认识了这个系统，认识了它的现状和趋势，认识了它的含义和价值，从而也就可以确定我们对于这个经济系统的态度和处置办法。例如，假若系统当前处在高效用状态，就应当根据它的内部结构和外部联系的变化趋势(即运动的方式)的信息，引出相应的策略来维持和稳定这种高效用状态；如果系统处于低效用状态，则要从系统自身及其环境的信息中导出适当的策略来改变和调整这种低效用状态，使它转变为高效用状态。应当指出，上面提到的稳定高效用状态的策略和改变低效态的策略，实质上也是一种信息，是人们主观领域的信息。人们对系统所采取的干预措施，就是这种主观信息对于系统的反作用。这种主观信息从系统和环境的信息中加工出来．更反作用于系统与环境，达到改造系统与环境的目的。事实上，人们正是通过收集和分析外部世界的信息来认识外部世界的，在认识世界的过程中不断产生和更新主观信息，然后，通过主观信息对外部世界的反作用来改造外部世界。
参考文献：
1.蔡筱英，金新政，陈氢. 信息方法概论. 北京：科学出版社 2004
学习要点：信息论是研究信息的计量、发送、传递、交换、接收和储存的一门新兴学科。信息论有狭义信息论与广义信息论之分。狭义信息论由美国数学家、电机工程师商农在1948年创立的,其出发点是解决信息传递(通信)过程中的一系列理论问题。因此，狭义信息论也叫统计通信理论。广义信息论通常叫做信息科学。
信息论(information theory)是关于信息的本质和传输规律的科学的理论，是研究信息的计量、发送、传递、交换、接收和储存的一门新兴学科。
人类的社会生活是不能离开信息的，人类的社会实践活动不光需要对周围世界的情况有所了解并能做出正确的反应，而且还要与周围的人群沟通关系才能协调地行动。这就是说，人类不仅时刻需要从自然界获得信息，而且人与人之间也需要进行通信，交流信息。人类需要随时获取、传递、加工、利用信息，否则就不能生存。人们获得信息的方式有两种；一种是直接的，即通过自己的感觉器官，耳闻、目睹、鼻嗅、口尝、体触等直接了解外界情况；一种是间接的，即通过语言、文字、信号等传递消息而获得信息。通信是人与人之间交流信息的手段，语言是人类通信的最简单要素的基础。人类早期只是用语言和手势直接进行通信，交流信息。“仓颉造字”则使信息传递摆脱了直接形式，同时扩大了信息的储存形式，可算是一次信息技术的革命。印刷术的发明，扩大了信息的传播范围和容量，也是一次重大的信息技术变革。但真正的信息革命则是电报、电话、电视等现代通信技术的创造与发明，它们大大加快了信息的传播速度，增大了信息传播的容量。正是现代通信技术的发展导致了关于现代通信技术的理论——信息论的诞生。信息论的创始人是美国贝尔电话研究所的数学家仙农(C. E. Shannon，1916——) ，他为解决通信技术中的信息编码问题，把发射信息和接收信息作为一个整体的通信过程来研究，提出了通信系统的一般模型；同时建立了信息量的统计公式，奠定了信息论的理论基础。1948年仙农发表的《通信的数学理论》一文，成为信息论诞生的标志。在信息论的发展中，有许多的科学家对它做出了卓越的贡献，他们从统计学、热力学、生物学、经济学、管理学、社会学以及其它多种不同的角度开展对信息论的研究，使得信息论远远超越了通信的范围。
信息论有狭义信息论与广义信息论之分。狭义信息论是由美国数学家、电机工程师商农在1948年创立的。正像他的奠基性论文标题(A Mathematical Theory of Communication)所表明的那样，商农当时的出发点是解决信息传递(通信)过程中的一系列理论问题。因此，狭义信息论也叫通信理论，或者更确切一些，叫做统计通信理论。这是因为，和传统的通信理论不同，狭义信息论摒弃了拉普拉斯决定论的观点，把自己的立足点彻底地转移到统计数学的基础上来了。
正是从非决定论的科学观点出发，狭义信息论把通信过程看作是在随机干扰的环境中传递信息的过程。在这个通信模型中，信息源(信源)和干扰(噪声)源都被理解为某种随机过程或随机序列。因此，在进行实际的通信之前，收信者(信宿)不可能确切了解信源究竟会发出什么样的具体信息，不可能确切判断信源会处于什么样的状态以及这种状态会以什么样的方式发生改变。这种情形就称为信宿对于信源运动状态和运动方式具有不定性。这种不定性是存在于通信之先的，因而又叫做先验不定性。只有在进行了通信之后，信宿收到了信源发出的信息，这种先验不定性才会被消除或者被减少。如果干扰很小，不会对传递的信息产生任何可察觉的影响，信源发出的信息能够被信宿全部收到，在这种情况下，信宿的先验不定性就会被完全消除，但在一般的情况下，干扰总会对信源发出的信息造成某种破坏，使信宿收到的信息不完全。因此，先验不定性不能全部被消除，只能部分地消除。换句话说，通信结束之后，信宿仍然具有一定程度的不定性。这就是后验不定性。一般来说，后验不定性总要小于先验不定性，不可能大于先验不定性。如果后验不定性的大小正好等于先验不定性的大小，这就表示信宿根本没有收到信息；如果后验不定性的大小等于零，这就表示信宿收到了全部信息。
广义信息论通常叫做信息科学。信息科学中的信息概念理解为“一切事物运动的状态和运动的方式”，这种运动状态与方式的形式方面称为语法信息，其逻辑含义方面称为语义信息，而它的效用方面则称为语用信息。因此，要描述一个事物的广义信息，就不仅仅要写出它的状态集合和概率分布，而且还要给出每个状态的逻辑真实度和效用度。
广义信息论认为，任何事物都有自己特定的内部结构和外部联系，而且正是事物内部结构和外部联系的状态和方式决定了它的运动的状态和方式。因此，作为广义信息的“事物运动的状态和方式”，也就是“事物内部结构的状态和方式以及它的外部联系的状态和方式”。于是要了解一个事物的信息，就要了解这个事物的可能的运动状态的集合，了解它当时所处的运动状态，它的内部结构的状态，它与它的环境之间的(外部)联系的状态，以及这些状态可能的改变方式，这些状态的肯定程度和真实程度，这些状态对于观察者(使用者)的目的而言的效用程度等等。
这样，我们就看到，虽然信息是事物“运动的状态和运动的方式”而不是事物本身，但是人们却完全可以通过一个事物的信息来了解这个事物。例如对于一个经济系统，如果我们通过对于这个系统的内部结构和它的外部联系的状态和方式的分析，掌握了这个系统可能出现的所有状态的集合，知道了这个集合的每个状态的肯定程度、真实程度和效用程度，也知道了这些状态会按照什么方式(或规律)来改变，那么，我们就认识了这个系统，认识了它的现状和趋势，认识了它的含义和价值，从而也就可以确定我们对于这个经济系统的态度和处置办法。例如，假若系统当前处在高效用状态，就应当根据它的内部结构和外部联系的变化趋势(即运动的方式)的信息，引出相应的策略来维持和稳定这种高效用状态；如果系统处于低效用状态，则要从系统自身及其环境的信息中导出适当的策略来改变和调整这种低效用状态，使它转变为高效用状态。应当指出，上面提到的稳定高效用状态的策略和改变低效态的策略，实质上也是一种信息，是人们主观领域的信息。人们对系统所采取的干预措施，就是这种主观信息对于系统的反作用。这种主观信息从系统和环境的信息中加工出来．更反作用于系统与环境，达到改造系统与环境的目的。事实上，人们正是通过收集和分析外部世界的信息来认识外部世界的，在认识世界的过程中不断产生和更新主观信息，然后，通过主观信息对外部世界的反作用来改造外部世界。
参考文献：
1.蔡筱英，金新政，陈氢. 信息方法概论. 北京：科学出版社 2004
信息认识--信息理论基础知识-一起来了解信息论
信息认识--信息理论基础知识-何为信息？
知识与信息关系
手掌纹信息知识
唯信息论的若干基本概念（2）?——信息创元是什么？
唯信息论的若干基本概念（3）?——信息N阶是什么？
信息、知识与知识工程1
股票财务信息相关知识
高考咨询会应该了解哪些信息?
每日关注财经信息，了解全球行情。
小升初准备最需了解哪些信息
网络色情信息泛滥，如何认识与面对
网络色情信息泛滥?如何认识与面对
了解刺青，认识纹身..知识总汇。。5
了解刺青，认识纹身..知识总汇。。3
魏伟 养生 认识养生怪杰魏伟 一起来了解魏伟的养生之道
在信息碎片化时代“创新知识”
股票书籍：当日信息的常用知识
知识：如何提高信息写作水平
让我们一起来认识周易
信息论
信息论
需要了解和收集的目标学校资料和信息
UN调查员要了解更多本.拉登死亡信息