LM优化反向传播网络测定多组分.PDF
http://www.100md.com
易忠胜 吴永华
LM优化法,BP,网络,钙,镁,铁,同时测定,分光光度法
 |
| 第1页 |
参见附件(134KB，3页)。
LM优化反向传播网络测定多组分.PDF
研 究 简 报
LM优化反向传播网络测定多组分
易忠胜3
吴永华
(桂林工学院材料与化学工程系 ,桂林 541004)
摘 要 为了提高此网络算法的学习效率及稳定性 ,在反向传播算法(backpropagation(BP) )中引入了基
于非线性最小二乘法的Levenberg 2Marquart (LM)最优算法 ,替代原BP算法中的梯度下降法寻找最佳网络
连接权值。LM优化算法其学习效率比带动量项的BP算法高一个数量级以上 ,值得推广应用。将其用
于混合体系的多组份 CAS 2CTMAB 显色体系光度法同时测定 Ca、 Mg、 Fe ,得到平均预测误差为 2. 6534
mgP L ,平均预测方差为1. 9580 ,能够满足多组分测定的需要。
关键词 LM优化法 ,BP网络 ,钙 ,镁 ,铁 ,同时测定 ,分光光度法
2000209213接受;2001202215接受
1 引 言
人工神经网络(ANN)在化学领域中的应用特别是在非线性领域的应用已非常广泛 ,也取得了很好
的效果〔 1〕。所采用的模型多为经典的反向传播算法(BP)
〔 2 ,3〕以及增加动量项等各种改进算法 ,前者存在
易陷入局部极小、收敛速度慢等缺点 ,后者改进也是有限的。本文利用Levenberg2Marquardt (LM)优化方
法〔 3～5〕,优化计算BP权值调整量 ,LM法虽然搜索速度很快 ,但对复杂问题 ,需要很大的存储空间 ,这也
可能是它一直很少被人应用的原因之一。今天 ,计算机技术的发展 ,使得存储空间不再是问题。LM优
化法的应用使得BP网络学习次数大为减少 ,在精度和稳定性上也有很大的提高 ,在非线性系统建模中
具有非常广阔的应用前景 ,本文用于多组份测定取得了很好的效果。
2 实验方法
于25 mL 比色管中分别加入不同配比的钙、镁、铁工作溶液 ,按均匀设计表〔 6〕 U17 (17
16)和 U5 (5
4)配
成20个混合试样 ,依次加入 3 mL 0. 1 %铬天青 S (CAS) 水溶液 ,3 mL 0. 07 %溴化十六烷基三甲胺
(CTMAB)水溶液和5 mL pH为11. 5的NH4Cl2NH3· H2O缓冲溶液 ,定容〔 7〕。以试剂空白为参比 ,在7230G
型分光光度计上测定从540到635 nm间每隔5 nm的吸光度。
3 结果与讨论
3. 1 传递函数与LM优化算法
传递函数有线性函数pureline、对数 S型函数(logsig) 、双曲正切 S型函数(tansig)
〔 3〕。很难说哪种算
法对给定的实际问题有更快的收敛速度 ,有很多因素影响 ,包括问题的复杂程度、学习集的节点数、网络
权值及偏置、目标误差等。一般来说 ,如果网络只有几百个权值时 ,LM算法具有最快的收敛速度 ,特别
适用于要求比较精确的运算。因此 ,处理一般性的问题时 ,应选用LM法。与其他的优化方法的比较文
献〔 3〕作了比较详细的讨论。
3. 2 网络参数的影响
31211 神经网络结构 选2中20个混合试样的 16 个为学习集 ,4 个为预测集。选择三层反传神经网
络结构。输入层由20个节点组成 ,即20个波长点的吸光度 ,输出节点为对应的钙、镁、铁 3 种组分的浓
第29卷
2001年8月 分析化学 (FENXI HUAXUE) 研究简报
Chinese Journal of Analytical Chemistry
第8期
898～900度 ,隐含层经过神经网络计算选定为15个节点数。
31212 网络参数调节 神经网络中各参数的调节与优化对网络性能有很大影响。标准误差反传神经
网络(BP)及各种改良算法 ,都有很多应用。LM优化BP网络算法在提高网络运行速度和收敛稳定性有
图1 学习误差下降图
Fig. 1 Declined of error in the learning
了很大的提高 ,但还有待于进一步探讨。数据预处理方
面只对期望输出中的 Ca 的浓度除以 10 的方式 ,其它未
做任何处理。网络的初始权值、初始阀值采用随机的方
式给出;隐含层节点数采用 15 个 ,输入层与隐含层、隐
含层与输出层分别采用 logsig、 pureline 函数连接 ,μ= 1 ,学习增量 im = 20 ,学习减量为 dm = 0. 1 ,学习过程中根
据μ值的大小以及学习误差的变化自动调整;误差采用
网络输出与期望输出的差方和的形式 ,当它达到 10
- 4
即
停止训练 ......
LM优化反向传播网络测定多组分
易忠胜3
吴永华
(桂林工学院材料与化学工程系 ,桂林 541004)
摘 要 为了提高此网络算法的学习效率及稳定性 ,在反向传播算法(backpropagation(BP) )中引入了基
于非线性最小二乘法的Levenberg 2Marquart (LM)最优算法 ,替代原BP算法中的梯度下降法寻找最佳网络
连接权值。LM优化算法其学习效率比带动量项的BP算法高一个数量级以上 ,值得推广应用。将其用
于混合体系的多组份 CAS 2CTMAB 显色体系光度法同时测定 Ca、 Mg、 Fe ,得到平均预测误差为 2. 6534
mgP L ,平均预测方差为1. 9580 ,能够满足多组分测定的需要。
关键词 LM优化法 ,BP网络 ,钙 ,镁 ,铁 ,同时测定 ,分光光度法
2000209213接受;2001202215接受
1 引 言
人工神经网络(ANN)在化学领域中的应用特别是在非线性领域的应用已非常广泛 ,也取得了很好
的效果〔 1〕。所采用的模型多为经典的反向传播算法(BP)
〔 2 ,3〕以及增加动量项等各种改进算法 ,前者存在
易陷入局部极小、收敛速度慢等缺点 ,后者改进也是有限的。本文利用Levenberg2Marquardt (LM)优化方
法〔 3～5〕,优化计算BP权值调整量 ,LM法虽然搜索速度很快 ,但对复杂问题 ,需要很大的存储空间 ,这也
可能是它一直很少被人应用的原因之一。今天 ,计算机技术的发展 ,使得存储空间不再是问题。LM优
化法的应用使得BP网络学习次数大为减少 ,在精度和稳定性上也有很大的提高 ,在非线性系统建模中
具有非常广阔的应用前景 ,本文用于多组份测定取得了很好的效果。
2 实验方法
于25 mL 比色管中分别加入不同配比的钙、镁、铁工作溶液 ,按均匀设计表〔 6〕 U17 (17
16)和 U5 (5
4)配
成20个混合试样 ,依次加入 3 mL 0. 1 %铬天青 S (CAS) 水溶液 ,3 mL 0. 07 %溴化十六烷基三甲胺
(CTMAB)水溶液和5 mL pH为11. 5的NH4Cl2NH3· H2O缓冲溶液 ,定容〔 7〕。以试剂空白为参比 ,在7230G
型分光光度计上测定从540到635 nm间每隔5 nm的吸光度。
3 结果与讨论
3. 1 传递函数与LM优化算法
传递函数有线性函数pureline、对数 S型函数(logsig) 、双曲正切 S型函数(tansig)
〔 3〕。很难说哪种算
法对给定的实际问题有更快的收敛速度 ,有很多因素影响 ,包括问题的复杂程度、学习集的节点数、网络
权值及偏置、目标误差等。一般来说 ,如果网络只有几百个权值时 ,LM算法具有最快的收敛速度 ,特别
适用于要求比较精确的运算。因此 ,处理一般性的问题时 ,应选用LM法。与其他的优化方法的比较文
献〔 3〕作了比较详细的讨论。
3. 2 网络参数的影响
31211 神经网络结构 选2中20个混合试样的 16 个为学习集 ,4 个为预测集。选择三层反传神经网
络结构。输入层由20个节点组成 ,即20个波长点的吸光度 ,输出节点为对应的钙、镁、铁 3 种组分的浓
第29卷
2001年8月 分析化学 (FENXI HUAXUE) 研究简报
Chinese Journal of Analytical Chemistry
第8期
898～900度 ,隐含层经过神经网络计算选定为15个节点数。
31212 网络参数调节 神经网络中各参数的调节与优化对网络性能有很大影响。标准误差反传神经
网络(BP)及各种改良算法 ,都有很多应用。LM优化BP网络算法在提高网络运行速度和收敛稳定性有
图1 学习误差下降图
Fig. 1 Declined of error in the learning
了很大的提高 ,但还有待于进一步探讨。数据预处理方
面只对期望输出中的 Ca 的浓度除以 10 的方式 ,其它未
做任何处理。网络的初始权值、初始阀值采用随机的方
式给出;隐含层节点数采用 15 个 ,输入层与隐含层、隐
含层与输出层分别采用 logsig、 pureline 函数连接 ,μ= 1 ,学习增量 im = 20 ,学习减量为 dm = 0. 1 ,学习过程中根
据μ值的大小以及学习误差的变化自动调整;误差采用
网络输出与期望输出的差方和的形式 ,当它达到 10
- 4
即
停止训练 ......
您现在查看是摘要介绍页，详见PDF附件(134KB，3页)。