神经网络的研究热点分析
发布时间:2008/5/29 0:00:00 访问次数:655
摘 要:首先介绍了神经网络的发展、优点及其应用,然后对 神经网络目前的几个研究热点进行了分析,即神经网络与小波分析、混沌、粗集理论、分形 理论的融合及其应用领域和存在的问题。分析结果表明这些融合方法具有很好的发展前景。
0引言
神经网络最早的研究是40年代心理学家mcculloch和数学家pitts合作提出的 ,他 们提出的mp模型拉开了神经网络研究的序幕。神经网络的发展大致经过3个阶段:1947~196 9年为初期,在这期间科学家们提出了许多神经元模型和学习规则,如mp模型、hebb学习规 则和感知器等;1970~1986年为过渡期,这期间神经网络研究经过了一个低潮,继续发展 。在此期间,科学家们做了大量的工作,如hopfield教授对网络引入能量函数的概念,给出 了网络的稳定性判据,提出了用于联想记忆和优化计算的途径。1984年,hiton教授提出bol tzman机模型;1986年kumelhart等人提出误差反向传播神经网络,简称bp网络。目前,bp网 络已成为广泛使用的网络。1987年至今为发展期,在此期间,神经网络受到国际重视,各个 国家都展开研究,形成神经网络发展的另一个高潮[1]。
人工神经元网络是生物神经网络的一种模拟和近似,它从结构、实现机理和功能上模拟生物 神经网络。从系统观点看,人工神经元网络是由大量神经元通过极其丰富和完善的连接而构 成的自适应非线性动态系统。
神经网络具有以下优点:(1)具有很强的鲁棒性和容错性,这是因为信息是分布存贮于网络 内的神经元中;(2)并行处理方法,人工神经元网络在结构上是并行的,而且网络的各个单 元可以同时进行类似的处理过程,使得计算快速;(3)自学习、自组织、自适应性,神经元 之间的连接多种多样,各元之间联接强度具有一定可塑性,使得神经网络可以处理不确定或 不知道的系统;(4)可以充分逼近任意复杂的非线性关系;(5)具有很强的信息综合能力,能 同时处理定量和定性的信息,能很好的协调多种输入信息关系,适用于处理复杂非线性和不 确定对象。
神经网络以其独特的结构和处理信息的方法,在许多实际应用领域中取得了显著的成效,主 要 应用如下:(1)自动控制领域;(2)处理组合优化问题;(3)模式识别;(4)图像处理;(5)传 感器信号处理;(6)机器人控制;(7)信号处理;(8)卫生保健、医疗;(9)经济;(10)化工领 域;(11)焊接领域;(12)地理领域;(13)数据挖掘、电力系统、交通、军事、矿业、农业和 气象等领域。
1神经网络研究热点
神经网络在很多领域已得到了很好的应用,但其需要研究的方面还很多。其 中,具有分布存储、并行处理、自学习、自组织以及非线性映射等优点的神经网络与其他 技术的结合以及由此而来的混合方法和混合系统,已经成为一大研究热点。
由于其他方法也有它们各自的优点,所以将神经网络与其他方法相结合,取长补短,继而可 以获得更好的应用效果。目前这方面工作有神经网络与模糊逻辑[1~5]、专家系 统[6~9]、遗传算法[10、11]、小波分析、混沌、粗集理论、分形理 论、证据理论[25~27]和灰色系统[28~33]等的融合。文中主要就神经网 络与小波分析、混沌、粗集理论、分形理论的融合进行分析。
1.1神经网络与小波分析的结合
1981年,法国地质学家morlet在寻求地质数据时,通过对fourier变换与加窗fouri er变换的异同、特点及函数构造进行创造性的研究,首次提出了“小波分析”的概念,建立 了以他的名字命名的morlet小波。1986年以来由于ymeyer、smallat及idaubechies等 的奠基工作,小波分析迅速发展成为一门新兴学科。meyer所著的“小波与算子”,daubech ies所著的“小波十讲”是小波研究领域最权威的著作。
小波变换是对fourier分析方法的突破。它不但在时域和频域同时具有良好的局部化性 质,而且对低频信号在频域和对高频信号在时域里都有很好的分辨率,从而可以聚集到对象 的 任意细节。小波分析相当于一个数学显微镜,具有放大、缩小和平移功能,通过检查不同放 大倍数下的变化来研究信号的动态特性。因此,小波分析已成为地球物理、信号处理、图像 处理、理论物理等诸多领域的强有力工具。
小波神经网络将小波变换良好的时频局域化特性和神经网络的自学习功能相结合,因而具有 较强的逼近能力和容错能力。在结合方法上,可以将小波函数作为基函数构造神经网络 形成小波网络,或者小波变换作为前馈神经网络的输入前置处理工具,即以小波变换的多分 辨率特性对过程状态信号进行处理,实现信噪分离,并提取出对加工误差影响最大的状态特 性,作为神经网络的输入[7,12]。
小波神经网络在电机故障诊断、高压电网故障信号处理与保护研究、轴承等机械故障诊断以 及许多方面都有应用,文献[13]将小波神经网络用于感应伺服电机的智能控制,使该系统 具有良好的跟踪控制性能,以及好的鲁棒性,文献[14]利用小波包神经网络进行心血
0引言
神经网络最早的研究是40年代心理学家mcculloch和数学家pitts合作提出的 ,他 们提出的mp模型拉开了神经网络研究的序幕。神经网络的发展大致经过3个阶段:1947~196 9年为初期,在这期间科学家们提出了许多神经元模型和学习规则,如mp模型、hebb学习规 则和感知器等;1970~1986年为过渡期,这期间神经网络研究经过了一个低潮,继续发展 。在此期间,科学家们做了大量的工作,如hopfield教授对网络引入能量函数的概念,给出 了网络的稳定性判据,提出了用于联想记忆和优化计算的途径。1984年,hiton教授提出bol tzman机模型;1986年kumelhart等人提出误差反向传播神经网络,简称bp网络。目前,bp网 络已成为广泛使用的网络。1987年至今为发展期,在此期间,神经网络受到国际重视,各个 国家都展开研究,形成神经网络发展的另一个高潮[1]。
人工神经元网络是生物神经网络的一种模拟和近似,它从结构、实现机理和功能上模拟生物 神经网络。从系统观点看,人工神经元网络是由大量神经元通过极其丰富和完善的连接而构 成的自适应非线性动态系统。
神经网络具有以下优点:(1)具有很强的鲁棒性和容错性,这是因为信息是分布存贮于网络 内的神经元中;(2)并行处理方法,人工神经元网络在结构上是并行的,而且网络的各个单 元可以同时进行类似的处理过程,使得计算快速;(3)自学习、自组织、自适应性,神经元 之间的连接多种多样,各元之间联接强度具有一定可塑性,使得神经网络可以处理不确定或 不知道的系统;(4)可以充分逼近任意复杂的非线性关系;(5)具有很强的信息综合能力,能 同时处理定量和定性的信息,能很好的协调多种输入信息关系,适用于处理复杂非线性和不 确定对象。
神经网络以其独特的结构和处理信息的方法,在许多实际应用领域中取得了显著的成效,主 要 应用如下:(1)自动控制领域;(2)处理组合优化问题;(3)模式识别;(4)图像处理;(5)传 感器信号处理;(6)机器人控制;(7)信号处理;(8)卫生保健、医疗;(9)经济;(10)化工领 域;(11)焊接领域;(12)地理领域;(13)数据挖掘、电力系统、交通、军事、矿业、农业和 气象等领域。
1神经网络研究热点
神经网络在很多领域已得到了很好的应用,但其需要研究的方面还很多。其 中,具有分布存储、并行处理、自学习、自组织以及非线性映射等优点的神经网络与其他 技术的结合以及由此而来的混合方法和混合系统,已经成为一大研究热点。
由于其他方法也有它们各自的优点,所以将神经网络与其他方法相结合,取长补短,继而可 以获得更好的应用效果。目前这方面工作有神经网络与模糊逻辑[1~5]、专家系 统[6~9]、遗传算法[10、11]、小波分析、混沌、粗集理论、分形理 论、证据理论[25~27]和灰色系统[28~33]等的融合。文中主要就神经网 络与小波分析、混沌、粗集理论、分形理论的融合进行分析。
1.1神经网络与小波分析的结合
1981年,法国地质学家morlet在寻求地质数据时,通过对fourier变换与加窗fouri er变换的异同、特点及函数构造进行创造性的研究,首次提出了“小波分析”的概念,建立 了以他的名字命名的morlet小波。1986年以来由于ymeyer、smallat及idaubechies等 的奠基工作,小波分析迅速发展成为一门新兴学科。meyer所著的“小波与算子”,daubech ies所著的“小波十讲”是小波研究领域最权威的著作。
小波变换是对fourier分析方法的突破。它不但在时域和频域同时具有良好的局部化性 质,而且对低频信号在频域和对高频信号在时域里都有很好的分辨率,从而可以聚集到对象 的 任意细节。小波分析相当于一个数学显微镜,具有放大、缩小和平移功能,通过检查不同放 大倍数下的变化来研究信号的动态特性。因此,小波分析已成为地球物理、信号处理、图像 处理、理论物理等诸多领域的强有力工具。
小波神经网络将小波变换良好的时频局域化特性和神经网络的自学习功能相结合,因而具有 较强的逼近能力和容错能力。在结合方法上,可以将小波函数作为基函数构造神经网络 形成小波网络,或者小波变换作为前馈神经网络的输入前置处理工具,即以小波变换的多分 辨率特性对过程状态信号进行处理,实现信噪分离,并提取出对加工误差影响最大的状态特 性,作为神经网络的输入[7,12]。
小波神经网络在电机故障诊断、高压电网故障信号处理与保护研究、轴承等机械故障诊断以 及许多方面都有应用,文献[13]将小波神经网络用于感应伺服电机的智能控制,使该系统 具有良好的跟踪控制性能,以及好的鲁棒性,文献[14]利用小波包神经网络进行心血
摘 要:首先介绍了神经网络的发展、优点及其应用,然后对 神经网络目前的几个研究热点进行了分析,即神经网络与小波分析、混沌、粗集理论、分形 理论的融合及其应用领域和存在的问题。分析结果表明这些融合方法具有很好的发展前景。
0引言
神经网络最早的研究是40年代心理学家mcculloch和数学家pitts合作提出的 ,他 们提出的mp模型拉开了神经网络研究的序幕。神经网络的发展大致经过3个阶段:1947~196 9年为初期,在这期间科学家们提出了许多神经元模型和学习规则,如mp模型、hebb学习规 则和感知器等;1970~1986年为过渡期,这期间神经网络研究经过了一个低潮,继续发展 。在此期间,科学家们做了大量的工作,如hopfield教授对网络引入能量函数的概念,给出 了网络的稳定性判据,提出了用于联想记忆和优化计算的途径。1984年,hiton教授提出bol tzman机模型;1986年kumelhart等人提出误差反向传播神经网络,简称bp网络。目前,bp网 络已成为广泛使用的网络。1987年至今为发展期,在此期间,神经网络受到国际重视,各个 国家都展开研究,形成神经网络发展的另一个高潮[1]。
人工神经元网络是生物神经网络的一种模拟和近似,它从结构、实现机理和功能上模拟生物 神经网络。从系统观点看,人工神经元网络是由大量神经元通过极其丰富和完善的连接而构 成的自适应非线性动态系统。
神经网络具有以下优点:(1)具有很强的鲁棒性和容错性,这是因为信息是分布存贮于网络 内的神经元中;(2)并行处理方法,人工神经元网络在结构上是并行的,而且网络的各个单 元可以同时进行类似的处理过程,使得计算快速;(3)自学习、自组织、自适应性,神经元 之间的连接多种多样,各元之间联接强度具有一定可塑性,使得神经网络可以处理不确定或 不知道的系统;(4)可以充分逼近任意复杂的非线性关系;(5)具有很强的信息综合能力,能 同时处理定量和定性的信息,能很好的协调多种输入信息关系,适用于处理复杂非线性和不 确定对象。
神经网络以其独特的结构和处理信息的方法,在许多实际应用领域中取得了显著的成效,主 要 应用如下:(1)自动控制领域;(2)处理组合优化问题;(3)模式识别;(4)图像处理;(5)传 感器信号处理;(6)机器人控制;(7)信号处理;(8)卫生保健、医疗;(9)经济;(10)化工领 域;(11)焊接领域;(12)地理领域;(13)数据挖掘、电力系统、交通、军事、矿业、农业和 气象等领域。
1神经网络研究热点
神经网络在很多领域已得到了很好的应用,但其需要研究的方面还很多。其 中,具有分布存储、并行处理、自学习、自组织以及非线性映射等优点的神经网络与其他 技术的结合以及由此而来的混合方法和混合系统,已经成为一大研究热点。
由于其他方法也有它们各自的优点,所以将神经网络与其他方法相结合,取长补短,继而可 以获得更好的应用效果。目前这方面工作有神经网络与模糊逻辑[1~5]、专家系 统[6~9]、遗传算法[10、11]、小波分析、混沌、粗集理论、分形理 论、证据理论[25~27]和灰色系统[28~33]等的融合。文中主要就神经网 络与小波分析、混沌、粗集理论、分形理论的融合进行分析。
1.1神经网络与小波分析的结合
1981年,法国地质学家morlet在寻求地质数据时,通过对fourier变换与加窗fouri er变换的异同、特点及函数构造进行创造性的研究,首次提出了“小波分析”的概念,建立 了以他的名字命名的morlet小波。1986年以来由于ymeyer、smallat及idaubechies等 的奠基工作,小波分析迅速发展成为一门新兴学科。meyer所著的“小波与算子”,daubech ies所著的“小波十讲”是小波研究领域最权威的著作。
小波变换是对fourier分析方法的突破。它不但在时域和频域同时具有良好的局部化性 质,而且对低频信号在频域和对高频信号在时域里都有很好的分辨率,从而可以聚集到对象 的 任意细节。小波分析相当于一个数学显微镜,具有放大、缩小和平移功能,通过检查不同放 大倍数下的变化来研究信号的动态特性。因此,小波分析已成为地球物理、信号处理、图像 处理、理论物理等诸多领域的强有力工具。
小波神经网络将小波变换良好的时频局域化特性和神经网络的自学习功能相结合,因而具有 较强的逼近能力和容错能力。在结合方法上,可以将小波函数作为基函数构造神经网络 形成小波网络,或者小波变换作为前馈神经网络的输入前置处理工具,即以小波变换的多分 辨率特性对过程状态信号进行处理,实现信噪分离,并提取出对加工误差影响最大的状态特 性,作为神经网络的输入[7,12]。
小波神经网络在电机故障诊断、高压电网故障信号处理与保护研究、轴承等机械故障诊断以 及许多方面都有应用,文献[13]将小波神经网络用于感应伺服电机的智能控制,使该系统 具有良好的跟踪控制性能,以及好的鲁棒性,文献[14]利用小波包神经网络进行心血
0引言
神经网络最早的研究是40年代心理学家mcculloch和数学家pitts合作提出的 ,他 们提出的mp模型拉开了神经网络研究的序幕。神经网络的发展大致经过3个阶段:1947~196 9年为初期,在这期间科学家们提出了许多神经元模型和学习规则,如mp模型、hebb学习规 则和感知器等;1970~1986年为过渡期,这期间神经网络研究经过了一个低潮,继续发展 。在此期间,科学家们做了大量的工作,如hopfield教授对网络引入能量函数的概念,给出 了网络的稳定性判据,提出了用于联想记忆和优化计算的途径。1984年,hiton教授提出bol tzman机模型;1986年kumelhart等人提出误差反向传播神经网络,简称bp网络。目前,bp网 络已成为广泛使用的网络。1987年至今为发展期,在此期间,神经网络受到国际重视,各个 国家都展开研究,形成神经网络发展的另一个高潮[1]。
人工神经元网络是生物神经网络的一种模拟和近似,它从结构、实现机理和功能上模拟生物 神经网络。从系统观点看,人工神经元网络是由大量神经元通过极其丰富和完善的连接而构 成的自适应非线性动态系统。
神经网络具有以下优点:(1)具有很强的鲁棒性和容错性,这是因为信息是分布存贮于网络 内的神经元中;(2)并行处理方法,人工神经元网络在结构上是并行的,而且网络的各个单 元可以同时进行类似的处理过程,使得计算快速;(3)自学习、自组织、自适应性,神经元 之间的连接多种多样,各元之间联接强度具有一定可塑性,使得神经网络可以处理不确定或 不知道的系统;(4)可以充分逼近任意复杂的非线性关系;(5)具有很强的信息综合能力,能 同时处理定量和定性的信息,能很好的协调多种输入信息关系,适用于处理复杂非线性和不 确定对象。
神经网络以其独特的结构和处理信息的方法,在许多实际应用领域中取得了显著的成效,主 要 应用如下:(1)自动控制领域;(2)处理组合优化问题;(3)模式识别;(4)图像处理;(5)传 感器信号处理;(6)机器人控制;(7)信号处理;(8)卫生保健、医疗;(9)经济;(10)化工领 域;(11)焊接领域;(12)地理领域;(13)数据挖掘、电力系统、交通、军事、矿业、农业和 气象等领域。
1神经网络研究热点
神经网络在很多领域已得到了很好的应用,但其需要研究的方面还很多。其 中,具有分布存储、并行处理、自学习、自组织以及非线性映射等优点的神经网络与其他 技术的结合以及由此而来的混合方法和混合系统,已经成为一大研究热点。
由于其他方法也有它们各自的优点,所以将神经网络与其他方法相结合,取长补短,继而可 以获得更好的应用效果。目前这方面工作有神经网络与模糊逻辑[1~5]、专家系 统[6~9]、遗传算法[10、11]、小波分析、混沌、粗集理论、分形理 论、证据理论[25~27]和灰色系统[28~33]等的融合。文中主要就神经网 络与小波分析、混沌、粗集理论、分形理论的融合进行分析。
1.1神经网络与小波分析的结合
1981年,法国地质学家morlet在寻求地质数据时,通过对fourier变换与加窗fouri er变换的异同、特点及函数构造进行创造性的研究,首次提出了“小波分析”的概念,建立 了以他的名字命名的morlet小波。1986年以来由于ymeyer、smallat及idaubechies等 的奠基工作,小波分析迅速发展成为一门新兴学科。meyer所著的“小波与算子”,daubech ies所著的“小波十讲”是小波研究领域最权威的著作。
小波变换是对fourier分析方法的突破。它不但在时域和频域同时具有良好的局部化性 质,而且对低频信号在频域和对高频信号在时域里都有很好的分辨率,从而可以聚集到对象 的 任意细节。小波分析相当于一个数学显微镜,具有放大、缩小和平移功能,通过检查不同放 大倍数下的变化来研究信号的动态特性。因此,小波分析已成为地球物理、信号处理、图像 处理、理论物理等诸多领域的强有力工具。
小波神经网络将小波变换良好的时频局域化特性和神经网络的自学习功能相结合,因而具有 较强的逼近能力和容错能力。在结合方法上,可以将小波函数作为基函数构造神经网络 形成小波网络,或者小波变换作为前馈神经网络的输入前置处理工具,即以小波变换的多分 辨率特性对过程状态信号进行处理,实现信噪分离,并提取出对加工误差影响最大的状态特 性,作为神经网络的输入[7,12]。
小波神经网络在电机故障诊断、高压电网故障信号处理与保护研究、轴承等机械故障诊断以 及许多方面都有应用,文献[13]将小波神经网络用于感应伺服电机的智能控制,使该系统 具有良好的跟踪控制性能,以及好的鲁棒性,文献[14]利用小波包神经网络进行心血