基于支持向量机在线训练算法的研究

来源:用户上传      作者:

　　摘 要：支持向量回归机算法运用于在线训练环境下效率很高，因为，当每次训练集改变后，它不需要从头开始对样本进行重新学习。本文研究的一种增量与减量式的支持向量回归机在线训练算法，当在训练集中添加或删除样本时，该算法就可以有效更新回归函数，并通过逐步改变样本的系数，运用拉格朗日乘子法，从而进行迭代，最终训练完整个样本集。仿真结果表明该算法具有较高的训练效率。
　　关键词：支持向量机；在线训练；增量式训练；减量式训练
　　1 绪论
　　支持向量机（SVM）不仅有着统计学习理论[1]（Statistical Theory Learning，STL）的坚实理论基础作为基垫，而且具有十分直观的几何解释和接近完美的数学形式，并且适合在小样本条件下进行运用。
　　本文主要是研究一种增量与减量式[2]支持向量回歸机在线训练算法，目的为解决传统算法在极端情况下每次新样本添加后，需要全部开始从头重新训练整个样本集的问题。该算法依据Lagrange乘数法和Karush-Kuhn-Tucker（KKT）条件，[3-4]通过在有限次数迭代[5]下从而改变样本的系数，并保持原先的样本在执行每一步时，依然满足KKT条件，以至于最后得出训练结果。
　　仿真结果表明，支持向量回归机在线训练算法具有较高的训练效率。
　　5 结语
　　当在训练集中添加或删除样本时，支持向量回归机在线训练算法就可以有效更新回归函数，并通过逐步改变样本的系数，运用拉格朗日乘子法，从而进行迭代，最终训练完整个样本集。且仿真结果表明该算法具有较高的训练效率。
　　参考文献：
　　[1]张一凡，冯爱民，张正林.支持向量回归增量学习[J].计算机科学，2014，41（6）：166-170.
　　[2]顾斌，郑关胜，王建东增.量和减量式标准支持向量机的分析[J].软件学报，2013，24（7）：1601-1613.
　　[3]张文兴，樊捷杰.基于KKT和超球结构的增量SVM算法的云架构入侵检测系统[J].计算机应用，2015，35（10）：2886-2890.
　　[4]王建，陈颖，黄少伟.基于KKT条件分解的互联电网分布式状态估计算法[J].电力系统自动化，2010，34（19）：32-36.
　　[5]易校石，刘念.基于支持向量机中分离超平面求取的算法[J].重庆工商大学学报（自然科学版），2018，35（3）：66-69.
　　作者简介：刘晓舟（1994-），女，汉族，硕士，主要研究领域为无线传感器网络，信息处理。
转载注明来源:https://www.xzbu.com/1/view-15324876.htm