生理学

就香农对通信的数学理论的论文发表在1940年代,人们开始考虑如何处理消息的问题在人类。毕竟,神经系统高于一切,渠道传输的信息,和大脑,除此之外,一个信息处理和信息中心。因为神经信号通常由脉冲电能、神经系统似乎是离散在噪声信道通信的一个例子。因此,生理学和信息理论都是参与研究神经系统。

许多研究人员(人类)预计,人类的大脑会显示一个巨大的信息处理能力。有趣的是,当研究人员试图测量信息处理能力在“智能”或“意识”的活动,如阅读或弹钢琴,他们想出了一个最大的不到50位/秒的能力。例如,一个典型的每分钟300字的阅读速度每秒大约5单词。假设平均5字符每词,大约2位字符收益率上述50位/秒的速度。显然,确切的数量取决于各种假设和可能取决于个人和正在执行的任务。然而,众所周知,感官收集一些1100万位每秒环境。

表信息传输速率的感官显示多少信息处理每一个五感。这个表立即将注意力转移到决定所有这些数据发生了什么问题。换句话说,人体将1100万位每秒发送给大脑进行处理,然而,意识似乎能够处理只有50位每秒。

看来,大量的压缩发生如果1100万位被减少到小于50。请注意,差异之间的信息传输和处理的信息量太大,任何不准确的测量是无关紧要的。

两个问题表明自己思考这个问题时大量的压缩。首先是确定需要多长时间的问题进行压缩,其次是确定问题的处理能力在哪里发现做这许多压缩。

第一个问题的解决方案是建议的大约秒钟延迟之间的即时感官接受刺激和即时的思维是有意识的感觉。(为了弥补这个延迟,身体有一个反射系统,可以在不到十分之一秒的时间响应,在思想意识的刺激)。这秒钟延迟似乎是处理和压缩感官输入所需的时间。

的解决方案提出的第二个问题是大脑的大约1000亿个细胞,每个连接成千上万的脑细胞。配备了这么多处理器,大脑可能每秒执行多达1000亿的操作,一个真正令人印象深刻的数字。

这往往是假设意识是大脑的主要特点。上述简短的观察表明,而不同的画面。现在看来,绝大多数的外加工完成有意识的注意身体的,而且大多数的活动直接有意识的控制之外。这表明,实践和习惯很重要,因为它们训练电路在大脑中进行一些操作“自动”没有意识的干扰。即使是“简单”的活动如散步是最好的没有意识的干扰,没有足够的信息处理能力跟不上这个任务的要求。

大脑似乎也有单独的短期和长期记忆的机制。根据心理学家乔治·米勒的论文《神奇数字7±2:我们的一些限制能力处理信息”(1956),看来短期记忆只能存储之间的5和9条信息已经暴露只是短暂的。注意,这并不意味着五到九位,而是5到9块的信息。显然,长期记忆有一个更大的能力,但目前尚不清楚如何大脑存储信息或者可能存在的限制。一些科学家希望信息理论可能负担进一步深入了解大脑的功能。

物理

这个词熵最初引入的德国物理学家鲁道夫·克劳修斯在他的工作热力学在19世纪。克劳修斯发明了这个词,这样会尽可能接近这个词能源。在特定的配方统计力学一个公式熵推导出看起来令人困惑的是类似于香农熵的公式推导。

有各种各样的信息理论和热力学之间的十字路口。香农的主要贡献之一是他的分析如何处理噪音通信系统年代。噪音是宇宙的一个不可避免的特性。多发生在通信系统的噪声是一种随机噪声,通常被称为热噪声,产生的热量在电路。虽然可以减少热噪声,但不能完全消除。另一个来源的噪音均匀宇宙背景辐射,被认为是宇宙的创造的遗迹。香农的工作许可证发送最少的能源成本计算位通过这样的信息噪音。

另一个问题解决的信息理论是由苏格兰物理学家詹姆斯·克拉克·麦克斯韦在1871年。麦克斯韦创建了一个“思想实验”,显然违反了热力学第二定律。本法基本上所有孤立系统,在缺乏一个输入的能量,不断腐烂,或倾向于障碍。麦克斯韦首先提出两个充气船在相同温度下,由阀连接。(温度可以被定义为一个气体分子的平均速度,记住,单个分子可以以不同的速度旅行。)麦克斯韦就描述了一个神秘的生物,现在被称为麦克斯韦妖,这是能够快速打开和关闭阀门,只允许快速分子通过向一个方向,只有缓慢的分子通过另一个方向。另外,麦克斯韦设想他的恶魔允许分子通过仅在一个方向。在这两种情况下,一个“热”和“冷”船或者一个“完整”和“空”的船,明显的结果是两艘船,没有从外部源的输入能量,构成更有序的孤立的制度并违反热力学第二定律。

信息理论允许的一个驱魔麦克斯韦妖要执行。特别是,它表明,恶魔需要信息来选择分子作为两种不同的船只,但需要能量的传播信息。一旦能量要求收集信息包含在计算,可以看出,没有违反热力学第二定律。