小波变换与神经网络结合用于示波计时电位测定.PDF
http://www.100md.com
仲红波 李关宾 刘辉 郑建斌 陈立仁
化学计量学,小波变换,神经网络,小波神经网络,示波分析化学计量学,小波变换,神经网络,小波神经网络,示波分析
第1页 |
参见附件(158KB,5页)。
小波变换与神经网络结合用于示波计时电位测定.PDF
小波变换与神经网络结合用于
示波计时电位测定
仲红波1 ,2
李关宾3 2
刘 辉3
郑建斌3
陈立仁1
1
(中国科学院兰州化学物理研究所 ,兰州 730000) 2
(山东轻工业学院化学工程系 ,济南250100)
3
(西北大学电分析化学研究所 ,西安 710069)
摘 要 小波变换与神经网络的结合是化学计量学中一个十分活跃的研究领域。作者介绍了小波变换
与神经网络的两种结合方式 ———辅助式结合和嵌套式结合 ,并将二者用于单组分示波计时电位信号定
量计算的比较。结果表明:辅助式结合训练次数少 ,预测误差小;小波神经网络计算的自动化程度高 ,计
算结果明显优于传统的人工神经网络。
关键词 化学计量学 ,小波变换 ,神经网络 ,小波神经网络 ,示波分析
2000212214收稿;2001207209接受
本文系国家自然科学基金(29775018) 、山东省自然科学基金、教育部高等学校骨干教师资助计划、陕西省自然科学基金和陕西省教
委专项基金资助项目
1 引 言
小波变换(WT) 是目前化学信号处理的强有力工具 ,小波分析被认为是傅里叶分析的突破性进
展〔 1〕。人工神经网络(ANN)是近年来应用最广泛的一种化学计量学方法〔 2〕,成为模式识别、非线性校
正、信号处理的常用工具。前向多层神经网络是一种应用最为广泛的神经网络模型 ,用于训练前馈网络
的最常用算法是误差反传(BP)算法。
由于小波变换具有良好的时频局部化特性和变焦特性 ,而神经网络具有自学习、自适应性、强鲁棒
性和推广能力 ,所以 ,如何把小波变换和神经网络结合起来 ,一直是人们关注的问题。目前 ,小波与神经
网络的结合有以下两个途径〔 3〕:一是辅助式结合(WT 2ANN) 。比较典型的是利用小波变换对信号进行预
处理 ,然后用神经网络学习与判别。比如在模式识别中 ,先用小波对信号进行预特征提取 ,然后用神经
网络进行判决分类;二是嵌套式结合 ,即把小波变换的运算融入到神经网络中去 ,形成所谓的小波神经
网络(WNN) 。
作者将两种小波与神经网络结合的方法用于示波计时电位测定(OCPD)中 Pb
2 +
浓度的预测 ,并与传
统的人工神经网络的预测结果进行了比较。
2 理论部分
2. 1 小波变换与神经网络的辅助式结合
小波变换与神经网络的辅助式结合是先用小波变换对信号进行预处理〔 4~7〕,提取信号的小波特征 ,再将特征量送入神经网络处理。数据经过小波的压缩 ,能有效地减少神经网络的输入层单元数 ,提高网
络的预测能力。
作者在将小波变换与神经网络结合用于对实验数据样本训练时 ,采用了Mallat 塔式算法对示波计
时电位信号进行分解〔 8〕。经过每次分解得到的数据长度减半。
神经网络为BP神经网络〔 9〕。利用误差的平方最小原则对网络各相邻层节点间的连接权值进行逐
层修改 ,并使均方误差(mean square error ,MSE)按梯度下降。MSE按下式计算:
MSE =
1
2
6
K
k = 1
6
L
l = 1
( ykl - tkl)
2
(1)
其中 y 代表输出层节点输出值 , t 代表目标输出值 , K代表训练或预测集长度 , L 代表输出层节点
数。
第29卷
2001年11月 分析化学 (FENXI HUAXUE) 研究报告
Chinese Journal of Analytical Chemistry
第11期
1264~12682. 2 小波神经网络
小波神经网络是基于小波变换而构造出的一类新型前馈神经网络〔 10~15〕,也可以看作是以小波函数
图1 二进小波神经网络结构
Fig. 1 Structure of the dyadic wavelet neural network
为基底的一种新型函数联接神经网络。它以
小波空间作为模式识别的特征空间 ,通过将小
波基与信号向量的内积进行加权和来实现信
号的特征提取 ,结合了小波变换良好的时频局
域化性质及传统的神经网络的自学习功能 ,因
而具有较强的逼近与容错能力。本文设计的
二进小波神经网络是以二进小波基函数作为
神经元的激活函数构造的单隐层前向神经网
络 ,见图1。其具体训练算法如下:
(a)网络参数的初始化 将小波的伸缩因
子2
j
取值为2
- J
到2
J
,平移因子 k 的取值范围
为 - K到 K ,将网络连接权重 ust ,wtm赋以随机
的初始值;输入学习样本 Xn ( s)和期望输出 Vn
( m)值 ,其中 , n 是学习样本数 , S 为输入层节
点数 ,M 为输出层节点数。
(b)网络的自学习过程 ,利用当前网络参数计算出网络的输出
Vn ( m) = 6
M
m = 1
wtm2
jP 2
Ψ 2
j
·6
S
s = 1
ust Xn ( s) - k (2)
其中 ,Ψ( x) = cos (1. 75 x) exp ( -
x
2
2) ,为Morlet 母小波 , T为隐含层节点数 , T = (2J + 1) (2 K + 1) ,即 t =
1. . . (2J + 1) (2 K + 1) , j = tP (2 K + 1) - J , k = mod( tP (2 K + 1) - K ,mod为取余函数。
(c)误差函数同(1) ,计算瞬时梯度向量
δ wtm
=
5 E
5wtm
= -
6
N
n = 1
[ Vn ( m)
T
- Vn ( m) ]2
jP 2
Ψ 2
j
6
S
s = 1
ust Xn ( s) - k (3)
δu
st
=
5 E
5 ust
= 6
M
m = 1
-
6
N
n = 1
[ Vn ( m)
T
- Vn ( m) ] wtm2
jP 2 5Ψ
5s′ Xn ( s) (4)
其中 s′ = 6
S
s = 1
ust Xn ( s) ,令 t′ n = 2
j
s′ - k ,则:
5Ψ
5s′= - cos (1. 75 t′ n ) exp ( -
t′ 2
n
2) 2
j
t′ n - 1. 75sin (1. 75 t′ n ) exp ( -
t′ 2
n
2) 2
j
(5)
(d)误差的反向传播
Δwnew
tm = -η 5 E
5wold
tm
+αΔwold
tm ; Δu
new
st = -η 5 E
5wold
st
+αΔu
old
st
(6)
其中η为学习速率因子 , α为动量因子 ,进一步修改网络参数 wtn , ust :
wnew
tm = wnew
tm +Δwold
tm (7)
u
new
st = u
new
st +Δu
old
st
(8)
(e)当输出误差值小于预先设定的某个值时 ,则停止网络的学习 ,否则返回步骤 b ......
示波计时电位测定
仲红波1 ,2
李关宾3 2
刘 辉3
郑建斌3
陈立仁1
1
(中国科学院兰州化学物理研究所 ,兰州 730000) 2
(山东轻工业学院化学工程系 ,济南250100)
3
(西北大学电分析化学研究所 ,西安 710069)
摘 要 小波变换与神经网络的结合是化学计量学中一个十分活跃的研究领域。作者介绍了小波变换
与神经网络的两种结合方式 ———辅助式结合和嵌套式结合 ,并将二者用于单组分示波计时电位信号定
量计算的比较。结果表明:辅助式结合训练次数少 ,预测误差小;小波神经网络计算的自动化程度高 ,计
算结果明显优于传统的人工神经网络。
关键词 化学计量学 ,小波变换 ,神经网络 ,小波神经网络 ,示波分析
2000212214收稿;2001207209接受
本文系国家自然科学基金(29775018) 、山东省自然科学基金、教育部高等学校骨干教师资助计划、陕西省自然科学基金和陕西省教
委专项基金资助项目
1 引 言
小波变换(WT) 是目前化学信号处理的强有力工具 ,小波分析被认为是傅里叶分析的突破性进
展〔 1〕。人工神经网络(ANN)是近年来应用最广泛的一种化学计量学方法〔 2〕,成为模式识别、非线性校
正、信号处理的常用工具。前向多层神经网络是一种应用最为广泛的神经网络模型 ,用于训练前馈网络
的最常用算法是误差反传(BP)算法。
由于小波变换具有良好的时频局部化特性和变焦特性 ,而神经网络具有自学习、自适应性、强鲁棒
性和推广能力 ,所以 ,如何把小波变换和神经网络结合起来 ,一直是人们关注的问题。目前 ,小波与神经
网络的结合有以下两个途径〔 3〕:一是辅助式结合(WT 2ANN) 。比较典型的是利用小波变换对信号进行预
处理 ,然后用神经网络学习与判别。比如在模式识别中 ,先用小波对信号进行预特征提取 ,然后用神经
网络进行判决分类;二是嵌套式结合 ,即把小波变换的运算融入到神经网络中去 ,形成所谓的小波神经
网络(WNN) 。
作者将两种小波与神经网络结合的方法用于示波计时电位测定(OCPD)中 Pb
2 +
浓度的预测 ,并与传
统的人工神经网络的预测结果进行了比较。
2 理论部分
2. 1 小波变换与神经网络的辅助式结合
小波变换与神经网络的辅助式结合是先用小波变换对信号进行预处理〔 4~7〕,提取信号的小波特征 ,再将特征量送入神经网络处理。数据经过小波的压缩 ,能有效地减少神经网络的输入层单元数 ,提高网
络的预测能力。
作者在将小波变换与神经网络结合用于对实验数据样本训练时 ,采用了Mallat 塔式算法对示波计
时电位信号进行分解〔 8〕。经过每次分解得到的数据长度减半。
神经网络为BP神经网络〔 9〕。利用误差的平方最小原则对网络各相邻层节点间的连接权值进行逐
层修改 ,并使均方误差(mean square error ,MSE)按梯度下降。MSE按下式计算:
MSE =
1
2
6
K
k = 1
6
L
l = 1
( ykl - tkl)
2
(1)
其中 y 代表输出层节点输出值 , t 代表目标输出值 , K代表训练或预测集长度 , L 代表输出层节点
数。
第29卷
2001年11月 分析化学 (FENXI HUAXUE) 研究报告
Chinese Journal of Analytical Chemistry
第11期
1264~12682. 2 小波神经网络
小波神经网络是基于小波变换而构造出的一类新型前馈神经网络〔 10~15〕,也可以看作是以小波函数
图1 二进小波神经网络结构
Fig. 1 Structure of the dyadic wavelet neural network
为基底的一种新型函数联接神经网络。它以
小波空间作为模式识别的特征空间 ,通过将小
波基与信号向量的内积进行加权和来实现信
号的特征提取 ,结合了小波变换良好的时频局
域化性质及传统的神经网络的自学习功能 ,因
而具有较强的逼近与容错能力。本文设计的
二进小波神经网络是以二进小波基函数作为
神经元的激活函数构造的单隐层前向神经网
络 ,见图1。其具体训练算法如下:
(a)网络参数的初始化 将小波的伸缩因
子2
j
取值为2
- J
到2
J
,平移因子 k 的取值范围
为 - K到 K ,将网络连接权重 ust ,wtm赋以随机
的初始值;输入学习样本 Xn ( s)和期望输出 Vn
( m)值 ,其中 , n 是学习样本数 , S 为输入层节
点数 ,M 为输出层节点数。
(b)网络的自学习过程 ,利用当前网络参数计算出网络的输出
Vn ( m) = 6
M
m = 1
wtm2
jP 2
Ψ 2
j
·6
S
s = 1
ust Xn ( s) - k (2)
其中 ,Ψ( x) = cos (1. 75 x) exp ( -
x
2
2) ,为Morlet 母小波 , T为隐含层节点数 , T = (2J + 1) (2 K + 1) ,即 t =
1. . . (2J + 1) (2 K + 1) , j = tP (2 K + 1) - J , k = mod( tP (2 K + 1) - K ,mod为取余函数。
(c)误差函数同(1) ,计算瞬时梯度向量
δ wtm
=
5 E
5wtm
= -
6
N
n = 1
[ Vn ( m)
T
- Vn ( m) ]2
jP 2
Ψ 2
j
6
S
s = 1
ust Xn ( s) - k (3)
δu
st
=
5 E
5 ust
= 6
M
m = 1
-
6
N
n = 1
[ Vn ( m)
T
- Vn ( m) ] wtm2
jP 2 5Ψ
5s′ Xn ( s) (4)
其中 s′ = 6
S
s = 1
ust Xn ( s) ,令 t′ n = 2
j
s′ - k ,则:
5Ψ
5s′= - cos (1. 75 t′ n ) exp ( -
t′ 2
n
2) 2
j
t′ n - 1. 75sin (1. 75 t′ n ) exp ( -
t′ 2
n
2) 2
j
(5)
(d)误差的反向传播
Δwnew
tm = -η 5 E
5wold
tm
+αΔwold
tm ; Δu
new
st = -η 5 E
5wold
st
+αΔu
old
st
(6)
其中η为学习速率因子 , α为动量因子 ,进一步修改网络参数 wtn , ust :
wnew
tm = wnew
tm +Δwold
tm (7)
u
new
st = u
new
st +Δu
old
st
(8)
(e)当输出误差值小于预先设定的某个值时 ,则停止网络的学习 ,否则返回步骤 b ......
您现在查看是摘要介绍页,详见PDF附件(158KB,5页)。