离散,嘈杂的沟通和问题错误

在上面的讨论中,假定不切实际,所有消息传输没有错误。然而,在现实世界中,传输错误unavoidable-especially被给予任何的存在沟通信道噪声,随机信号干扰的总和的通信信号。为了把不可避免的传输错误的现实考虑,一些调整编码方案是必要的。的图显示了一个简单的模型传播噪声的存在,二进制对称信道。二进制表明该通道传输只有两个截然不同的人物,一般解释为0和1,对称的表明错误也同样可能无论字符传输。的概率没有错误标记字符传输p;因此,错误的概率是1−p。

考虑会发生什么0和1,以下简称位走出通道的接收端。在理想的情况下,会有一个决定哪些位是收到正确的手段。在这种情况下,可以想象两个打印输出:10110101010010011001010011101101000010100101 -信号00000000000100000000100000000010000000011001 -错误信号接收到的消息,而每个1错误在相应的显示一个错误信号一些。(错误本身被认为是无错的。)

香农显示最好的传输误差修正方法需要的平均长度E=p日志₂(1 /p)+ (1−p)日志₂(1 / (1−p))位/纠错的象征。因此,对于每一个位传播至少E位必须留给错误修正。一个合理的措施的有效性二进制对称信道在传递信息可以通过建立其原始比特吞吐量和减去必要的传输的比特数误差修正。上的限制效率二进制对称信道的噪声可以作为百分比由公式100×(1−E)。一些例子。

假设p=¹/₂正确,这意味着每一位收到只有一半的时间。在这种情况下E= 1,所以渠道的有效性为0%。换句话说,没有信息被传播。实际上,出错率如此之高,以至于没有办法告诉任何符号是否正确也抛硬币为每个在接收端。另一方面,如果正确地接收一个字符的概率是0,E大概是.081,所以渠道的有效性是大约92%。即1%的错误率结果净亏损约8%的通道的传输能力。

香农的一个有趣的方面证明最小平均误差修正长度的限制是它非建设性;,香农证明最短修正代码必须始终存在,但他的证明并没有说明如何构造这样一个代码为每个特定情况下。而香农的限制总是可以找到任何想要的程度,这不是微不足道的问题找到有效的规范,也容易和快速解码。

持续的沟通和问题带宽

持续的沟通,与离散交流,处理潜在的一个信号无限许多不同的值。连续通信密切相关离散交流(在某种意义上,任何可以近似连续信号离散信号),尽管有时被更复杂的关系数学参与。

最重要的数学工具分析的连续的信号傅里叶分析,可以用来模拟一个信号作为简单的正弦波之和。的图表明可能出现最初几个阶段。它显示了一个方波,不连续点(“跳跃”),被正弦波之和建模。方波的曲线向右显示所谓的方波的谐波。以上行的谐波曲线得到的每一次谐波;这些曲线可以看到像方波更紧密地与每一个加法。如果整个无限集谐波被加在一起,方波会重建几乎完全。傅里叶分析是有用的,因为大多数通信电路是线性的,这基本上意味着整体等于部分之和。因此,一个信号可以通过分离研究,或分解,它简单的谐波。

据说一个信号带宽有限带宽有限的如果它可以表示为一个有限数量的谐波。工程师限制信号的带宽共享相同的频道启用多个信号以最小的干扰。一个关键的结果,属于是奈奎斯特带宽有限的信号抽样定理,即信号的带宽B可以重建通过2B样品每一秒。在1924年,哈里尼奎斯特得到以下公式的最大数据速率可以实现无噪声信道:最大数据率= 2B日志₂V比特每秒,在哪里B信道的带宽和吗V是离散信号的数量水平通道中使用。例如,只发送0和1需要两个信号的水平。是有可能的设想任意数量的信号水平,但在实践中信号的水平之间的差异要小,固定带宽,随着层数的增加。信号的水平之间的差异减少,噪音的影响渠道变得更加明显。

每个通道都有一些噪音,这可以看作是一个随机信号,认为与消息的信号。如果噪音太大,它可以掩盖了消息。香农的部分开创性的贡献信息理论是显示噪声如何影响一个通道的信息能力。特别是,香农得到以下公式:最大数据率=B日志₂(1 +^年代/_N)比特每秒,在哪里B信道的带宽,数量^年代/_N是信噪比,这通常是在分贝(dB)。注意到,信噪比越大,数据速率越大。另一点值得观察,日志₂函数增长十分缓慢。例如,假设^年代/_N是1000,那么日志₂1001 = 9.97。如果^年代/_N翻了一倍,达到2000,那么日志₂2001 = 10.97。因此,翻倍年代/N只产生10%的涨幅最大数据率。翻倍年代/N又会产生一个更小的百分比升幅。