可扩展机器学习的并行与分布式优化算法综述

　　 机器学习问题通常会转换成一个目标函数去求解，优化算法是求解目标函数中参数的重要工具，在大数据环境下，需要设计并行与分布式的优化算法，通过多核计算和分布式计算技术来加速训练过程，近年来，该领域涌现了大量研究工作，部分算法也在各机器学习平台得到广泛应用，本文针对梯度下降算法、二阶优化算法、邻近梯度算法、坐标下降算法、交替方向乘子算法五类最常见的优化方法展开研究，每一类算法分别从单机并行和分布式并行来分析相关研究成果，并从模型特性、输入数据特性、算法评价、并行计算模型等角度对每个算法进行详细对比，随后对有代表性的可扩展机器学习平台中优化算法的实现和应用情况进行对比分析．同时对本文中介绍的所有优化算法进行多层次分类，方便用户根据目标函数类型选择合适的优化算法，也可以通过该多层次分类图交叉探索如何将优化算法应用到新的目标函数类型，最后分析了现有优化算法存在的问题，提出可能的解决思路，并对未来研究方向进行展望。