目前具有实用价值的人工神经元网络模型大多是基于MP神经元模型构建的，系统的输入为与时间无关的常量，即网络的输入是几何点式的瞬时输入。然而，生物神经学研究结果表明：在生物神经元中，突触的输出变化与输入脉冲的相对定时有关，依赖于持续一定时间的输入过程。此外，在一些实际问题中，许多系统的输入也往往是一个过程，或依赖于时空变化的函数；系统的输出不仅与系统当前的输入有关，也与过去一段时间内输入的累积效应有关。

在应用传统神经元网络模型解决时变系统输入输出问题时，通常的方法是将时间关系转换为空间关系（时间序列）之后再进行处理，但这样会导致网络规模的迅速扩大，而目前传统神经元网络实际上还难以解决较大样本的学习和泛化问题，同时这样处理也难于满足系统实时性要求和反映时变输入信息对输出的累积效应。

针对上述问题，国内学者何新贵院士和许少华教授近年来将传统神经元网络扩展到时间域，提出和建立了一种新的人工神经元网络模型—过程神经元网络。过程神经元网络是作者提出的一种新型神经元网络，其输入和输出可以是时变过程或时变函数、多元函数乃至是抽象距离空间中的“点”，对输入的加工包括多元聚合和累积，特别是空间聚合和时间累积。过程神经元网络理论可应用于过程建模、系统辨识、过程控制、聚类分类、过程优化、预测预报、评估决策以及宏观控制等领域。