神经网络和自动机
McCulloch和Pitts的有限自动机
的一部分自动机理论存在于纯粹的领域之内数学学习往往是基于一个模型的一部分神经系统在一个有生命的生物中以及它的复杂系统神经元，神经末梢突触(神经元之间的分离间隙)可以生成、编码、存储和使用信息。的“全或无”性质阈值在构造纯逻辑图式或构造计算机的实际电子门时，常常提到神经元的结构。任何物理神经元都能被迎面而来的信号充分激发冲动将另一种冲动发射到它构成的网络中，否则由于刺激的缺失或不足，将无法达到阈值。在后一种情况下，神经元没有被激发而保留下来静．当几个神经元连接在一起时，脉冲在网络的特定部分传播可能会产生几种影响。它可以抑制另一个神经元释放冲动的能力;它可以与其他几个传入的脉冲结合在一起，每个脉冲都不能刺激神经元放电，但结合在一起可以提供阈值刺激;或者冲动可能被限制在神经网络并在一个闭环中运动，在所谓的"反馈关于神经网络如何工作的数学推理已经被应用于计算机器中的反馈如何成为计算过程中的一个重要组成部分的问题。
自动机理论在这方面的原始工作是完成通过沃伦·s·麦卡洛克而且沃尔特·皮特电子研究实验室的研究员麻省理工学院从20世纪40年代开始。
这里使用的各种自动机的定义是基于两位数学家的工作，约翰·冯·诺依曼而且斯蒂芬·科尔·克林以及麦卡洛克和皮茨早期的神经生理学研究，这些研究对生物体的一些基本特征进行了数学描述。神经学模型是从研究中提出的感官受体动物的器官、内部神经结构和效应器官。某些反应动物对刺激的反应是通过受控观察来了解的，而且，自从一位西班牙组织学家的开创性工作以来，圣地亚哥Ramón y卡哈尔在19世纪后半叶和20世纪初，许多神经结构已经为人所熟知。为了本文的目的，神经结构的数学描述，在神经生理学描述之后，将被称为“神经网络”。网络本身及其对输入的响应数据都可以用纯数学术语来描述。
一个神经网络可以很方便地用一种几何结构来描述，这表明了大脑的一部分物理结构。神经网络几何形式的组成部分被命名为(根据物理观察到的结构)神经元。从图表上看，它们可以用一个圆和行(一起代表身体，或躯体，生理神经元)导致一个箭头或实心点(暗示一个神经元的末端鳞茎)。可以假定一个神经元对随后的神经元具有兴奋性或抑制性作用;它可能拥有a阈值也就是说，它必须从其他神经元接收到最少数量的单元信息，然后才能被激活发射脉冲。兴奋传递的过程与观察到的发生在动物神经系统中的过程相似。单位兴奋的信息从一个神经元传递到下一个神经元，兴奋以量子化的形式沿着神经网络传递，一个神经元要么兴奋，要么保持不兴奋，这取决于末端球泡撞击神经元的状态(兴奋或静止)。具体来说,神经元N，带阈值h，会在时间激动t，当且仅当h或者更多神经元的兴奋性末梢撞击到它的时候是兴奋的t- 1，而抑制端球撞击到它的神经元在当时没有被激发t- 1。只有当时间和激励被量子化(或脉冲化)时，这些条件才能得到一致的图像。按照惯例，任何神经元传递信息都需要一个时间单位。
这种结构中的某些神经元在数学上代表了被外部刺激或保持静止的生理受体环境．这些被称为输入神经元。其他神经元被称为输出神经元，记录整个配置在延时后的逻辑值，兴奋或静止t并将影响传递到外部环境。其余的都刺激内部神经元。
任何作为物理构造基础的生物神经结构的几何或逻辑描述都必须足够简单，以允许对神经元及其相互连接进行机械、电气或电子模拟。
基本逻辑器官
接下来必须考虑可以激发自动机的事件类型和它可以做出的响应类型。通过将描述简化到最简单的情况，从最基本的器官中提炼出更复杂的器官机器人可以构建的可能被发现。三个基本器官(或基本自动机)是必要的，每一个都对应于语言的三个逻辑操作之一二进制的操作析取而且结合，导致这样的命题一个∪B(读作“一个或B”),一个∩B(读作“一个而且B的一元运算否定或互补，导致这样的命题一个c(读作“不一个的补语一个”)。首先要考虑的是这些基本自动机的刺激-反应模式。
假设一个神经元只能处于两种可能状态中的一种也就是说,兴奋或静止——在给定时刻的输入神经元t- 1必须被它的环境激活或不激活。环境信息传播两个输入神经元N1而且N2在时间t- 1可以用以下四种方式中的任何一种来表示，其中二进制数字1表示兴奋，二进制数字0表示静止:(0,0)，(0,1)，(1,0)，(1,1)。分离自动机必须是这样的:单个输出神经元米相应的时间寄存器t响应:0,1,1,1。合取自动机必须只有一个输出神经元米相应的时间寄存器t响应:0,0,0,1。否定自动机被认为有两个输入神经元N1而且N2，其中N1总是兴奋，必须对环境信息(1,0)和(1,1)分别与1,0，在输出神经元米．