信息理论数学领域,研究了信号传输的问题,接收、加工。它源于克劳德·e·香农的数学方法测量程度的秩序(nonrandomness)信号,在很大程度上吸引了概率论和随机过程,导致技术生产的决定一个源的信息,一个通道处理信息的能力,和平均数量的信息在一个给定类型的消息。对通信系统的设计至关重要,这些技术有重要的应用语言学,心理学,甚至文学理论。
