< 机器学习算法的基本知识(使用Python和R代码)_华体育app官网_华体育app官网登录|华体会手机版

  本篇文章是原文的译文,然后自己对其中做了一些修改和添加内容(随机森林和降维算法)。文章简洁地介绍了的主要算法和一些伪代码,对于初学者有很大帮助,是一篇不错的总结文章,后期能够最终靠文中提到的算法展开去做一些实际问题。

  Google的自驾车和机器人得到了很多新闻,但公司的真正未来是机器学习,这种技术使计算机变得更智能,更个性化。-EricSchmidt(GoogleChairman)

  我们可能生活在人类历史上最具影响力的时期——计算从大型主机到PC移动到云计算的时期。但是使这段时期有意义的不是发生了什么,而是在未来几年里我们的方式。

  这个时期令像我这样的一个人兴奋的就是,随着计算机的推动,工具和技术的民主化。今天,作为数据科学家,我可以每小时为几个玩偶构建具有复杂算法的数据处理机。但到达这里并不是特别容易,我已经度过了许多黑暗的日日夜夜。

  创建本指南背后的理念是简化全球有抱负的数据科学家和机器学习爱好者的旅程。本指南能够使你在研究机器学习问题的过程中获取经验。我提供了关于各种机器学习算法以及R&Python代码的高级理解以及运行它们,这些应该足以使你得心顺手。

  我故意跳过了这些技术背后的统计数据,因为你不需要在开始时就了解它们。所以,如果你正在寻找对这些算法的统计学理解,你应该看看别的文章。但是,如果你正在寻找并开始构建机器学习项目,那么这篇文章给你带来极大好处。

  工作原理:该算法由一组目标/结果变量(或因变量)组成,该变量将根据给定的一组预测变量(独立变量)进行预测。使用这一些变量集,我们生成一个将输入映射到所需输出的函数。训练过程接着来进行执行,直到模型达到培训数据所需的准确度水平。监督学习的例子:回归,决策树,随机森林,KNN,逻辑回归等

  如何工作:在这个算法中,我们没任何目标或结果变量来预测/估计。用于不同群体的群体聚类和用于不同群体的客户进行特定干预。无监督学习的例子:Apriori算法,K-means。

  工作原理:使用这种算法,机器受到学习和训练,作出具体决定。它以这种方式工作:机器暴露在一个环境中,它连续不断地使用试错。该机器从过去的经验中学习,并尝试捕获最好的知识,以做出准确的业务决策。加强学习示例:马尔可夫决策过程

  它用于基于连续变量来估计实际价值(房屋成本,电话数量,总销售额等)。在这里,我们通过拟合最佳线来建立独立变量和因变量之间的关系。这个最佳拟合线被称为回归线,由线性方程Y=a*X+b表示。

  理解线性回归的最好方法是回想童年的经历。比如,你要求五年级的孩子通过体重来从小到大排序班里的学生,而事先不告诉学生们的体重!你认为孩子会做什么?他/她很可能在身高和体格上分析人物的体重,并使用这些可视参数的组合进行排列。这是现实生活中的线性回归!孩子实际上已经弄清楚,身高和体格将有一个关系与体重相关联,看起来就像上面的等式。

  看下面的例子。这里我们确定了线的最佳拟合线。现在使用这个方程,我们可以找到一个人(身高已知)的体重。

  线性回归主要有两种类型:简单线性回归和多元线性回归。简单线性回归的特征在于一个自变量。而且,多元线性回归(顾名思义)的特征是多个(多于1个)自变量。在找到最佳拟合线的同时,可以拟合多项式或曲线回归线,这些被称为多项式或曲线回归。

  不要因为它的名字而感到困惑,逻辑回归是一个分类算法而不是回归算法。它用于基于给定的一组自变量来估计离散值(二进制值,如0/1,是/否,真/假)。简单来说,它通过将数据拟合到logit函数来预测事件发生的概率。因此,它也被称为logit回归。由于它预测概率,其输出值在0和1之间(如预期的那样)。

  假设你的朋友给你一个难题解决。只有2个结果场景-你能解决和不能解决。现在想象,你正在被许多猜谜或者简单测验,来试图理解你擅长的科目。这项研究的结果将是这样的结果-如果给你一个10级的三角形问题,那么你有70%可能会解决这个问题。另外一个例子,如果是五级的历史问题,得到答案的概率只有30%。这就是逻辑回归为你提供的结果。

  以上,p是感兴趣特征的概率。它选择最大化观察样本值的可能性的参数,而不是最小化平方误差的总和(如在普通回归中)。

  现在,你可能会问,为什么要采用log?为了简单起见,让我们来说,这是复制阶梯函数的最好的数学方法之一。我可以进一步详细介绍,但这将会打破这篇文章的目的。

  这是我最喜欢的算法之一,我经常使用它。它是一种主要用于分类问题的监督学习算法,令人惊讶的是,它可以适用于分类和连·续因变量。在该算法中,我们将群体分为两个或多个均匀集合。这是基于最重要的属性/自变量来做出的并将它们分为不同的组。关于决策树的更多细节,你可以阅读决策树简介

  在上图中,您可以看到根据多个属性将群体分为四个不同的群组,以确定用户“是否可以玩”。为了将人口分为不同的特征群体,它使用了诸如Gini,信息增益,卡方,熵等各种技术。

  了解决策树如何运作的最佳方法是播放Jezzball-微软的经典游戏(下图)。大体上就是,来一起在屏幕上滑动手指,筑起墙壁,掩住移动的球吧。

  这是一种分类方法。在这个算法中,我们将每个数据项目绘制为n维空间中的一个点(其中n是拥有的特征数),每个特征的值是特定坐标的值。

  例如,如果我们有一个人的“高度”和“头发长度”这两个特征,我们首先将这两个变量绘制在二维空间中,其中每个点都有两个坐标(这些坐标称为支持向量)

  现在,我们将找到一些可以将数据分割成两类的线。而我们想要的线,就是使得两组数据中最近点到分割线的距离最长的线。

  在上述示例中,将数据分成两个不同分类的组的线是黑线,因为两个最接近的点距离线最远(红线也可以,但不是一最远)。这条线是我们的分类器,然后根据测试数据位于线路两边的位置,我们可以将新数据分类为什么类别。

  它是基于贝叶斯定理的分类技术,假设预测因子之间是独立的。简单来说,朴素贝叶斯分类器假设类中特定特征的存在与任何其他特征的存在无关。例如,如果果实是红色,圆形,直径约3英寸,则果实可能被认为是苹果。即使这些特征依赖于彼此或其他特征的存在,一个朴素的贝叶斯分类器将考虑的是所有属性来单独地贡献这个果实是苹果的概率。

  朴素贝叶斯模型易于构建,对于非常大的数据集尤其有用。除了简单之外,朴素贝叶斯也被称为超高级分类方法。

  贝叶斯定理提供了一种由P(c),P(x)和P(xc)计算概率P(cx)的方法。看下面的等式

  让我们用一个例子来理解它。下面我有一个天气和相应的目标变量“玩游戏”的训练数据集。现在,我们需要根据天气条件对玩家是否玩游戏进行分类。我们按照以下步骤执行。

  步骤2:通过发现像“Overcast”概率=0.29和播放概率为0.64的概率来创建似然表。

  步骤3:现在,使用朴素贝叶斯方程来计算每个类的概率。其中概率最高的情况就是是预测的结果。

  朴素贝叶斯使用类似的方法根据各种属性预测不同分类的概率,该算法主要用于文本分类和具有多个类的问题。

  它可以用于分类和回归问题,然而,它在行业中被广泛地应用于分类问题。K-近邻算法用于存储所有训练样本集(所有已知的案列),并通过其k个邻近数据多数投票对新的数据(或者案列)进行分类。通常,选择k个最近邻数据中出现次数最多的分类作为新数据的分类。

  这些计算机的距离函数可以是欧几里德,曼哈顿,闵可夫斯基和汉明距离。前三个函数用于连续函数,第四个函数用于分类变量。如果K=1,则简单地将该情况分配给其最近邻的类。有时,选择K在执行KNN建模时是一个难点。

  KNN可以轻松映射到我们的现实生活中。如果你想了解一个人,你没有一点信息,你可能想知道先去了解他的亲密的朋友和他活动的圈子,从而获得他/她的信息!

  它是解决聚类问题的一种无监督算法。其过程遵循一种简单而简单的方式,通过一定数量的聚类(假设k个聚类)对给定的数据集进行分类。集群内的数据点与对等组是同构的和异构的。

  尝试从油墨印迹中找出形状?(见下图)kmeans与这个活动相似,你通过墨水渍形状来判断有多少群体存在!

  (2)根据每个聚类对象的均值(中心对象),计算每个对象与这些中心对象的距离;并根据最小距离重新对相应对象进行划分;

  从上图中,我们大家可以看到,A,B,C,D,E是五个在图中点。而灰色的点是我们的种子点,也就是我们用来找点群的点。有两个种子点,所以K=2。

  然后对图中的所有点求到这K个种子点的距离,假如点Pi离种子点Si最近,那么Pi属于Si点群。(上图中,我们可以看到A,B属于上面的种子点,C,D,E属于下面中部的种子点)

  然后重复第2)和第3)步,直到,种子点没有移动(我们可以看到图中的第四步上面的种子点聚合了A,B,C,下面的种子点聚合了D,E)。参考

  在实际应用中,由于Kmean一般作为数据预处理,或者用于辅助分聚类贴标签。所以k一般不会设置很大。可以通过枚举,令k从2到一个固定值如10,在每个k值上重复运行数次kmeans(避免局部最优解),并计算当前k的平均轮廓系数,最后选取轮廓系数最大的值对应的k作为最终的集群数目。参考

  我们知道随着群集数量的增加,该值不断减少,但是如果绘制结果,则可能会发现平方距离的总和急剧下降到k的某个值,然后再慢一些。在这里,我们能够找到最佳聚类数。

  随机森林(RandomForest)是一个包含多个决策树的分类器,其输出的类别由个别树输出类别的众数而定。(相当于许多不相同的领域的专家对数据来进行分类判断,然后投票)

  感觉原文没有将什么实质内容,给大家推进这一篇RandomForest入门

  在过去的4-5年中,数据挖掘在每个可能的阶段都呈指数级增长。公司/政府机构/研究机构不仅有新的来源,而且他们正在非常详细地挖掘数据。

  例如:电子商务公司正在捕获更多关于客户的细节,例如人口统计,网络爬网历史,他们喜欢或不喜欢的内容,购买历史记录,反馈信息等等,给予他们个性化的关注,而不是离你最近的杂货店主。

  作为数据科学家,咱们提供的数据还包括许多功能,这对建立良好的稳健模型是很有用的,但是有一个挑战。你怎么来识别出1000或2000年高度重要的变量?在这样的一种情况下,维数降低算法能够在一定程度上帮助我们与决策树,随机森林,PCA,因子分析,基于相关矩阵,缺失值比等的其他算法一起使用。

  当我们处理大量数据以预测高预测能力时,GBM&AdaBoost是更强大的算法。Boosting是一种综合学习算法,它结合了几个基本估计器的预测,以提高单个估计器的鲁棒性。它将多个弱或平均预测值组合到一个强大的预测变量上。这些提升算法在数据科学比赛中总是能够很好地运行,如Kaggle,AVHackathon,CrowdAnalytix。

  现在我相信,你会有一个常用的机器学习算法的想法。我在写这篇文章和提供R和Python中的代码的唯一意图就是让你马上开始。如果您想要掌握机器学习,请将算法运用实际问题,体会其中的乐趣

CONTACT US
欢迎随时与我们联系