Press "Enter" to skip to content

算法与模型的浅析

本站内容均来自兴趣收集,如不慎侵害的您的相关权益,请留言告知,我们将尽快删除.谢谢.

讨论问题的前提是概念的澄清,概念的混淆是研发沟通中的一大障碍,极大地影响了沟通的效率。在人工智能尤其是机器学习领域,算法和模型是两个相关而又有区别的两个概念,弄清二者的含义和联系可以使我们讨论的问题更加明确。

 

 

什幺是算法?

 

在计算机领域,算法有着明确的定义。为了通俗起见,这里引用百度百科对算法的描述:

 

算法(Algorithm)是指解题方案的准确而完整的描述,是一系列解决问题的清晰指令,算法代表着用系统的方法描述解决问题的策略机制。

 

也就是说,对于算法而言,能够对一定规范的输入,在有限时间内获得所要求的输出。算法中的指令描述的是一个计算,当其运行时能从一个初始状态和(可能为空的)初始输入开始,经过一系列有限而清晰定义的状态,最终产生输出并停止于一个终态。

 

不同的算法可能用不同的时间、空间或效率来完成同样的任务,一个算法的优劣可以用空间复杂度与时间复杂度来衡量。

 

 

什幺是模型?

 

模型是一个概念外延非常广泛的词,这里同样引用百度百科中的描述:

 

通过主观意识借助实体或者虚拟表现,构成客观阐述形态结构的一种表达目的的物件(物件并不等于物体,不局限于实体与虚拟、不限于平面与立体)。

 

模型可以是模型玩具,科学模型,经济学模型,逻辑模型等等,例如,地球仪就是就是地球的模型,理性人经济人是经济学关于人行为的模型,计算机网络中的7层协议是网络协议的模型等等。

 

其中,科学模型是科学研究中对一类研究方法的通称,使用数学公式、电脑模拟或简单的图示来表示一个简化的自然界,透过分析这个模型,以期能够进一步了解科学,包括说明、验证假说、或资料分析。依据不同需求,科学模型可以借由概念模型帮助了解现象,操作模型给出操作型定义,数学模型帮助量化,以及用图 像 模型将抽象概念可视化。

 

需要重点关注的是数学模型。数学模型是关于部分现实世界 以及 为一种特殊目的而作的一个抽象的、简化的结构,用字母、数字及其它数学符号建立起来的等式或不等式,以及图表、图 像 、框图等描述客观事物的特征及其内在联系的数学结构表达式。

 

简单来说, 模型是对事物的抽象。

 

 

机器学习中的算法与模型

 

在具体的机器学习领域,算法和模型也有着更为具体的定义。

 

机器学习中的”算法”

 

机器学习中的算法是指一种具体的计算方法,也就是如何求解全局最优解,并使得这个过程高效而且准确,本质上就是计算机算法。

 

机器学习算法执行“模式识别”,从数据中“学习”,或者对数据集进行“拟合”。机器学习算法可以用伪代码来描述,可以用任何一种现代编程语言来实现,对算法效率的分析和描述也是如此。多种机器学习算法可以在一起实现,并在具有标准应用程序编程接口(API)的库中提供。一个流行的例子是 scikit-learn 库,它提供了 Python 中许多分类、回归和聚类等机器学习算法的实现。

 

机器学习中的“模型”

 

机器学习中的“模型”是运行在数据集上的机器学习算法的输出,表示机器学习算法所学到的内容,即用于进行预测所需的规则、数字和任何其他特定算法的数据结构。 也就是说 , 机器学习模型是一个由机器学习算法自动编写、创建或学习的程序,用来解决一类具体的问题。 在某种意义上看,数据结构可以看作是一种模型,下面是BTree和神经网络模型的对比。

 

 

机器学习要考虑的主要问题是学习什幺样的模型。例如,在监督学习过程中,模型就是所要学习的条件概率分布或决策函数。数据构成的样本空间中可能包含各种条件概率分布或者决策函数,每一个都对应着一个模型,那幺这个样本空间中的模型个数就有多个。

 

机器学习中与模型相关的另一个概念是策略。策略是从样本空间中挑选出参数最优的模型的准则,模型的分类或预测结果与实际情况的误差(损失函数)越小,模型就越好。也就是说,策略就是通过引入损失函数的方式来度量模型的好坏。

 

机器学习中算法与模型的关系

 

算法和模型往往都是分不开的。算法是一类问题的解答,是模型建立流程的一个环节,也是赋予模型“思考”能力的环节。而模型则是一系列算法的数学表达,同时包含了数据以及任务的概念。因此,我们评估一个模型的好坏,而不是评估算法的好坏,算法只有其适用环境和场景。

 

就机器学习而言,通俗来讲,模型可以近似 地 理解为目标函数,算法则是求解该目标函数的方法。 所有问题都可以有多种建模的方法,比如分类问题可以用SVM或者NB来做,但它们的目标函数不同。 例如,在决策树中,其模型可以是二叉树模型,如果写成目标函数,那幺则是一个分段函数。 有了这个目标函数,怎幺求解呢? 一种典型的算法是贪 心 算法,或者叫启发式算法,从根开始,采取一定的分裂原则进行分裂,这个分裂的原则是信息增益最大化,Gini系数方差最小。

 

基于决策树的方案及其演化变种,到目前为止,其根本采用的方式都是启发式分裂,无论是后续的Bagging,Boosting,随机森林,深度森林,算法在本质上都没改变,只是采用的模型在变化而已。

 

 

小结

 

算法和模型都有着广泛的一般性意义。具体地,在机器学习领域,算法是在代码中实现并在数据上运行的过程。模型由算法输出,由模型数据和预测算法组成。机器学习算法提供了一种自动编程的类型,其中机器学习模型代表程序。明晰了概念,就有了进一步学习和讨论的基础。

Be First to Comment

发表回复

您的电子邮箱地址不会被公开。