人工智能与机器学习算法分类

    近来，关于人工智能的讨论络绎不绝，回顾我们的生活，也有越来越多的地方开始应用，且不说耳熟能详的自动驾驶、语音识别，就以刚刚过去的双11以及双12来说，消费者在天猫、京东等平台购物时，会出现各式各样令人眼花缭乱的banner产品宣传图以及宣传页面，其实现在很多设计banner激增，而使用率并不高，可能一幅设计图就在某个特定的促销活动上，依靠设计者绞尽脑汁的一个一个设计无疑是得不偿失的。而利用人工智能进行衍生设计，可以在建立足够的数据库模型与算法的基础上根据条件进行衍生设计，自行生成，具有很高的适用性以及性价比。从人工智能的应用强度上看，现在可以分为以下三类：

弱人工智能：特定领域，感知与记忆存储，如图像识别，语音识别；

强人工智能：多领域综合，认知学习与决策执行，如自动驾驶；

超人工智能：超越人类的智能，独立意识与创新创造。

可以看到，人工智能是一个非常大的概念，而GPU的并行能力突破，使人工智能的应用速度在近年来快速发展，以机器学习为例，他是人工智能其中的一个子集，机器学习包括很多已经发展多年的技术，比如神经网络（Neural Network）、支持向量机（Support Vector Machines, SVM）、Boosting、决策树（Decision Tree）、随机森林（Random Forest）、贝叶斯模型（Bayesian Model）等等，这其中比较突出的一项就是ANN（Artificial Neural Networks，人工神经网络），而人工神经网络则是深度学习的起源。

神经网络（Neural Network）：在机器学习和相关领域，人工神经网络（人工神经网络）的计算模型灵感来自动物的中枢神经系统（尤其是脑），并且被用于估计或可以依赖于大量的输入和一般的未知近似函数。人工神经网络通常呈现为相互连接的“神经元”，它可以从输入的计算值，并且能够机器学习以及模式识别由于它们的自适应性质的系统。

支持向量机（Support Vector Machines, SVM）：在机器学习中，支持向量机（SVM，还支持矢量网络）是与相关的学习算法有关的监督学习模型，可以分析数据，识别模式，用于分类和回归分析。给定一组训练样本，每个标记为属于两类，一个SVM训练算法建立了一个模型，分配新的实例为一类或其他类，使其成为非概率二元线性分类。一个SVM模型的例子，如在空间中的点，映射，使得所述不同的类别的例子是由一个明显的差距是尽可能宽划分的表示。新的实施例则映射到相同的空间中，并预测基于它们落在所述间隙侧上属于一个类别。

决策树（Decision Tree）：决策树(Decision Tree）是在已知各种情况发生概率的基础上，通过构成决策树来求取净现值的期望值大于等于零的概率，评价项目风险，判断其可行性的决策分析方法，是直观运用概率分析的一种图解法。由于这种决策分支画成图形很像一棵树的枝干，故称决策树。在机器学习中，决策树是一个预测模型，他代表的是对象属性与对象值之间的一种映射关系。Entropy = 系统的凌乱程度，使用算法ID3, C4.5和C5.0生成树算法使用熵。这一度量是基于信息学理论中熵的概念。

随机森林（Random Forest）：在机器学习中，随机森林是一个包含多个决策树的分类器， 并且其输出的类别是由个别树输出的类别的众数而定。 Leo Breiman和Adele Cutler发展出推论出随机森林的算法。 而 "Random Forests" 是他们的商标。 这个术语是1995年由贝尔实验室的Tin Kam Ho所提出的随机决策森林（random decision forests）而来的。这个方法则是结合 Breimans 的 "Bootstrap aggregating" 想法和 Ho 的"random subspace method"以建造决策树的集合。

贝叶斯模型（Bayesian Model）：贝叶斯网络又称信度网络，是Bayes方法的扩展，是目前不确定知识表达和推理领域最有效的理论模型之一。从1988年由Pearl提出后，已经成为近几年来研究的热点.。一个贝叶斯网络是一个有向无环图(Directed Acyclic Graph,DAG),由代表变量节点及连接这些节点有向边构成。节点代表随机变量，节点间的有向边代表了节点间的互相关系(由父节点指向其子节点)，用条件概率进行表达关系强度，没有父节点的用先验概率进行信息表达。节点变量可以是任何问题的抽象，如：测试值，观测现象，意见征询等。适用于表达和分析不确定性和概率性的事件，应用于有条件地依赖多种控制因素的决策，可以从不完全、不精确或不确定的知识或信息中做出推理。

在工程领域深度学习有着广泛的应用价值，例如实际工程问题中存在大量的非线性力学现象，如在结构优化问题中，需要根据需求设计并优化构件结构，是一类反问题，这些非线性问题难以用常规的方法求解，而神经网络恰好具有良好的非线性映射能力，因而可得到比一般方法更精确的解。此外，将有限元与神经网络结合的方法有很多，比如针对复杂非线性结构动力学系统建模问题，可以将线性部分用有限元进行建模，非线性构件用神经网络描述（如输入非线性部件状态变量，输出其恢复力），再通过边界条件和连接条件将有限元模型部分和神经网络部分结合，得到杂交模型。